Dharma AI预览VocabX:词汇表特化降77%推理成本
热点事件持续更新
Dharma AI预览VocabX:词汇表特化降77%推理成本
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Dharma AI发布VocabX方法预览,称通过针对特定领域重构小语言模型(SLM)的词汇表,在不改变基础模型和训练配方的情况下,将测量到的推理成本降低77%。 该方法依据Token生成与读取的成本差异进行优化,例如在响应中节省一个Token相当于在输入中节省7.4个。此外,VocabX采用子词合并与宏Token的双层策略,以减少碎片化和冗余计算。目前该结果仅为论文发表前的预览数据。
AI 根据报道生成 · 2 小时前更新
最新进展10月22日 01:35
Dharma AI 发布 VocabX 研究:通过词汇表专业化将 SLM 推理成本降低 77%报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- Hugging Face BlogDharma AI 发布 VocabX 研究:通过词汇表专业化将 SLM 推理成本降低 77%
Dharma AI 发布 VocabX 方法,通过针对特定领域重构小语言模型的词汇表,在不改变基础模型和训练配方情况下将推理成本降低 77%。该方法根据 token 生成与读取的成本差异(如响应中节省一个 token 相当于输入中节省 7.4 个)来优化词汇表,并采用子词合并与宏 token 双层策略减少碎片化及冗余计算。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。