为什么 ChatGPT 总爱在标题里塞色情赌博小广告？

ChatGPT 会话标题频繁出现赌博色情小广告，源于其轻量级标题模型存在收尾失败缺陷，且分词器 o200k_base 词表中混入了大量未清洗的广告词元。研究显示，该词表中 68% 的 4 字词元和 98% 的 6 字以上中文词元均来自广告，模型未能正常停止生成时便会随机输出这些词元。由于彻底解决需重新训练基座模型，该问题短期内仍难以根除。