如何通过领域模型词表专用化在实际应用中将推理成本降低 77%

Dharma-AI 团队预览了 VocabX 论文成果，提出了一种基于词元成本而非频率来专门定制模型词表的方法。该方法在不改变基座模型和训练配方的前提下，通过子词重构和宏词元结合，在葡萄牙语作文自动评分生产系统中将实测推理成本降低了 77%，并在多个公开领域和模型家族的测试中优于现有参考方法。