Dharma AI 发布 VocabX 研究：通过词汇表专业化将 SLM 推理成本降低 77%

Dharma AI 发布 VocabX 方法，通过针对特定领域重构小语言模型的词汇表，在不改变基础模型和训练配方情况下将推理成本降低 77%。该方法根据 token 生成与读取的成本差异（如响应中节省一个 token 相当于输入中节省 7.4 个）来优化词汇表，并采用子词合并与宏 token 双层策略减少碎片化及冗余计算。