Ai2 / Allen Institute for AI·2026-10-07 16:00· 11 天前精选AI 评分65

Ai2 发布 Bolmo 字节级语言模型 Nature 论文及新检查点

Now in Nature: Retrofitting language models to operate over bytes

AI 导读

Ai2 宣布其字节级语言模型 Bolmo 的研究成果发表于 Nature，并在 Hugging Face 上发布了新的模型检查点。团队展示了名为 byteifying 的技术，能将现有的子词模型（如 Olmo、Qwen 3 8B 和 Llama 3 8B）通过短期额外训练转换为字节级模型。

推荐理由

Ai2 在 Nature 发表 Bolmo 研究，展示将子词模型转换为字节级模型的通用方法，并开源了基于 Qwen 和 Llama 的新检查点。