Ai2 / Allen Institute for AI·2026-09-09 16:00· 2026-09-09AI 评分49

Goodfire 利用 Ai2 开源后训练栈追踪 Olmo 3 非预期模型行为

How Goodfire used Ai2’s open post-training stack to trace unwanted model behavior

AI 导读

Goodfire 借助 Ai2 的 Dolci 数据集、Olmo 3 检查点及 OLMES 评测套件，实现预测性数据调试。该方案在完整训练前预判行为变化，并将安全回退追溯至具体偏好样本，支持在不牺牲通用能力的前提下修正模型对齐问题。