跳到正文
热点事件持续更新

Dharma AI预览VocabX:词汇表特化降77%推理成本

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Dharma AI发布VocabX方法预览,称通过针对特定领域重构小语言模型(SLM)的词汇表,在不改变基础模型和训练配方的情况下,将测量到的推理成本降低77%。 该方法依据Token生成与读取的成本差异进行优化,例如在响应中节省一个Token相当于在输入中节省7.4个。此外,VocabX采用子词合并与宏Token的双层策略,以减少碎片化和冗余计算。目前该结果仅为论文发表前的预览数据。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Hugging Face Blog
    Dharma AI 发布 VocabX 研究:通过词汇表专业化将 SLM 推理成本降低 77%

    Dharma AI 发布 VocabX 方法,通过针对特定领域重构小语言模型的词汇表,在不改变基础模型和训练配方情况下将推理成本降低 77%。该方法根据 token 生成与读取的成本差异(如响应中节省一个 token 相当于输入中节省 7.4 个)来优化词汇表,并采用子词合并与宏 token 双层策略减少碎片化及冗余计算。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。