Andrej Karpathy· karpathy·· 2026-03-10AI 评分45
Karpathy分享nanochat自动调优成果
Three days ago I left autoresearch tuning nanochat for ~2 days on depth=12 model. It found ~20 changes that improved the validation loss....
AI 导读
三天前，我让 autoresearch 对 depth=12 的 nanochat 模型进行了约 2 天的调优。它发现了约 20 项能改善验证损失的改动。昨天我测试了这些改动，发现它们都是可叠加的，并且能迁移到更大（depth=24）的模型上。将所有这些改动堆叠起来，
来源：Andrej Karpathy · x.com