吴恩达:AI在可验证任务进步最快
在本周吴恩达的信件中:AI 在可验证的任务上进步最快。判断类任务更难,且容易将数学和代码领域的进展过度泛化到人类活动的其他方面。此外还包括:Claude Haiku 5.5、Sonnet 5.5 以及 Mistral Large 4
在本周吴恩达的信件中:AI 在可验证的任务上进步最快。判断类任务更难,且容易将数学和代码领域的进展过度泛化到人类活动的其他方面。此外还包括:Claude Haiku 5.5、Sonnet 5.5 以及 Mistral Large 4
来自我们的 STEM Fellow 项目的新成果:利用 Claude 设计更高效的量子电路。根据自然语言指令,Claude Mythos 5 设计的量子电路优于已发表的最佳方案,有时提升幅度达一个数量级或更多。更高效的电路
Claude Code 团队通过引入多层自动化审查机制,将人工审批集中在高风险变更上,使合并 PR 数量翻倍的同时回滚率下降超过 40%。该流程包含预验证、AI 审查、安全阻断及基于风险的分级审批,并强调利用事故数据持续优化审查模型以减少噪音。
推荐理由:原文详细拆解了 Claude Code 团队在代码量激增背景下,如何通过多层自动化审查与风险分级机制平衡效率与安全。
1/ 错过几天 AI 新闻?这是本周 Data Points 的内容。2/ Claude Haiku 5.5:提示词在 100K 以内时,每百万 token 价格 $0.10/$0.50,比 Haiku 4.5 便宜约 90%。速度极快且能力强大。3/ Microsoft-Decision-1:校准概率
我们已承诺由评估人员审查我们的安全措施。我们正在与多个组织洽谈,并已授予 @METR_Evals 团队类似员工的访问权限。在这篇文章中,我们将介绍我们与第三方评估人员的合作方式:
探索如何在数学研究——以及更广泛的科学领域——中最佳地利用 AI,需要时间、精力和资源。我们热切希望支持数学家推动科学进步并定义其领域的未来。我们已承诺提供 500 万美元的资金,
Anthropic 现已开放两项新的 Fellowship 申请。STEM Fellows(科学与工程)和 Conceptual Reasoning Fellows(哲学、认知科学、经济学、政策与法律)将于 2027 年 1 月在 Anthropic 工作四个月,致力于帮助 Claude 进行推理
我认为人们相信,OpenAI和Anthropic因为擅长AI,就 somehow 不是那些遭受超高速扩张常见问题的普通公司,但它们并不能免疫于困扰快速成长企业的必然政治、功能失调和混乱
我们在新加坡开设了一间办公室——这是我们在亚太地区的第五间。我们还与新加坡政府签署了关于 AI 安全和负责任采用的谅解备忘录(MOU)。你可以在这里阅读更多关于新办公室的信息:
我们的工程博客新文章:构建内部源码控制系统。5月,我们每天合并约2,500个代码变更。9月,每天合并超过30,000个。因此,我们为人类(而非智能体)规模设计的开发者基础设施成为了瓶颈。
使用 Gemini 4 让你意识到,有多少其他模型一定是在对 Claude/GPT 进行知识蒸馏(或使用类似的训练流程)。它给人的感觉与其他模型截然不同。
Ethan Mollick 发表关于 AI 安全与能力边界的观点分析。他探讨了当前模型在自主性与安全性方面的表现及潜在影响。
推荐理由:作者基于自身观察对AI安全现状提供独立视角,有助于读者理解当前技术边界与潜在风险。
在 FrontierCode 上,单任务成本跨越两个数量级,从 GPT-6 Luna (max) 的 $0.09 到 Claude Fable 5.1 (max with fallback) 的 $12.00。四个模型位于得分与单任务成本的帕累托前沿:GPT-6 Luna (max) 得分为 42%,每任务成本 $0.09;MiMo-V2.6-Pro 得分为 45%
过去几个月,我们在降低针对 Claude 的蒸馏攻击有效性方面取得了重大进展。在这篇文章中,我们将解释具体方法:
是的,有理由认为 OpenAI 和 Anthropic 将在如何优化 AI 的成本/智能方面做得最好,它们会使用不同能力水平的智能体组合,这些智能体经过专门训练以在各自的框架中协同工作。
一位数学家回应 OpenAI 的证明,用 Opus 5.5 制作了一个音乐视频。相当不错。
不仅Astra击败了Montezuma's Revenge,Opus 5也做到了。但解决这一AGI赌约的标准之一是AI要赢得一个已停发的奖项,该奖项类似于弱图灵测试。因此Metaculus决定重制该测试以确认标准是否达成。真棒!
我们正开始更频繁地发布关于模型行为的报告,内容超出系统卡和常规风险报告的范畴。今日的报告描述了我们在评估和内部使用中发现的四类行为。在每种情况中,Claude 都针对真实
AWS 推出 Amazon Bedrock Managed Agents 公开预览,支持 OpenAI 模型并保留数据在 AWS 内。Strands 发布开源工具包 harness(节省 28% token)及 2B 参数决策模型 Decider 2B。
Google 的优势在于,如果他们善加利用,就能观察 OpenAI 和 Anthropic 在 Codex/Code 上的发展方向并立即跟进。否则,他们将不得不自行经历整个学习过程,这会使 Gemini 4 的影响力随之减弱。
Gemini 4之后,谷歌面临的挑战在于如何用好一款优秀的模型。Anthropic和OpenAI表明,我们正迈向通过编排器智能体处理多种任务的单一界面。Gemini 3时代充斥着针对众多市场的碎片化产品。这对未来行不通。
为保护电网和水系统等关键设施,我们推出了一项新的关键基础设施防御计划。我们将把前沿 Claude 模型、现场工程师以及最新研究成果提供给这些运营商的安全、制造和技术供应商。
我们推出 Anthropic Cyber Mission,这是一项旨在保护关键基础设施和开源软件的新举措。
一位天体物理学家利用 Claude Science 制作了第一张完整的天空紫外线图谱。天文学家此前已绘制出从射电到伽马射线的全波段完整天图,但天空中大片区域从未在紫外波段被观测过。在今日的科学博客中,Brice Ménard
Anthropic 发布了基于 Claude Managed Agents (beta) 的 Agent 自动化参考实现,用于定时读取 Slack 和 GitHub 源并推送简报。
推荐理由:官方提供了基于 Claude Managed Agents 的自动化参考实现,包含书签机制、记忆存储和护栏配置等具体工程细节。
我们正通过向 Genesis Mission 投入 1.5 亿美元,深化对科学研究和技术发现的承诺。我们还将向超过 15 个联邦机构提供 Claude 及技术支持。
AWS 宣布 Claude Haiku 5.5 正式在 Amazon Bedrock 和 Claude Platform on AWS 上可用。该模型是 Claude 5.5 系列中速度最快且效率最高的版本,专为子智能体和高容量任务设计,多数任务成本比 Claude Haiku 4.5 低约 75%。
推荐理由:原文说明了新模型在AWS上的接入方式、成本变化及与Opus 5.5的协作模式,有助于评估其在高并发场景下的落地可行性。
Claude Haiku 5.5,我们的最新模型:
我们正在扩大网络安全验证计划,为安全专业人员提供更广泛地访问我们最强模型的机会。通过该计划,经过验证的安全专业人员可以访问 Claude Mythos 5.1、Opus 5.5 和 Sonnet 5.5,这些模型配备了专为防御性工作设计的安全保障措施。
大量报道聚焦于少数几家拥有自有竞争性产品及庞大云基础设施的科技公司对 Claude 或 OpenAI 的使用情况。其实还有非常多并非直接竞争对手的企业,它们的使用趋势更具参考价值。
我倾向于在本地机器上使用 ChatGPT 进行 Codex 工作(通过 Remote connection 进行管理),但 Dot 运行在云端,而且我在本地机器上还有几个 Claude 的定时任务……天哪,向那些不深入钻研这些技术的人解释这一切实在太令人困惑了。
过去几周,我将大量 Cowork 复杂工作切换到了新的 Claude Projects(令人困惑的是,它与旧版 Claude Projects 不同,而是与专用云虚拟机持续对话)。我发现它在大多数方面都更好,但文档并不清晰。
Anthropic 推出 Claude Code 云端会话功能,允许用户在独立虚拟机上运行任务,支持从浏览器、移动端、终端和 Slack 启动并跟踪进度。该功能包含于 Pro、Max、Team 或 Enterprise 计划中,不额外收取计算费用,现有个人订阅用户可领取一次性奖励额度。
推荐理由:原文通过并行任务实测与架构拆解,展示了云端会话在隔离环境下的并发能力、安全边界及具体工作流适配场景。
Anthropic 的 Claude Opus 5.5、Claude Sonnet 5.5 及 Claude Sonnet 5 现已在 AWS GovCloud (US) 的 Amazon Bedrock 上可用,为受 ITAR 等法规约束的工作负载提供 AI 辅助开发方案。
DeepLearning.AI 引用 Anthropic 数据指出,开源模型 GLM-5.3 在 ExploitBench 漏洞利用任务中解决率为 12%,接近 Claude Mythos 的 14%。此外,仅花费 $20.40 token 成本即发现了近期 Google Chrome 的一个安全漏洞。
推荐理由:原文引用 Anthropic 数据对比开源模型与 Claude Mythos 在 ExploitBench 上的表现,并提及低成本发现 Chrome 漏洞的案例。
Ai2 开源了用于科学文献综述生成的模型 AstaBrief 及配套训练数据。该模型基于 Qwen3-8B,通过监督微调(SFT)和直接偏好优化(DPO)构建,重点利用引用密度等统计信号过滤合成数据以提升证据接地能力。
推荐理由:原文公开了基于 Qwen3-8B 微调的科研报告生成模型 AstaBrief 及其训练数据,展示了通过优化 SFT 和 DPO 数据质量在保持引用准确性的同时实现约 3.5 倍推理加速的工程路径。
本周《The Batch》中,Andrew 的信涵盖开源权重模型 GLM-5.3 在利用漏洞方面几乎追平 Claude Mythos(12% vs. 14%)。此外还包括:小米新的开源权重领导者、Gemini 3.8 Live、DeepSeek-V4.1-Flash、AREX agents
Ai2 开源了基于 Qwen3-8B 微调的 AstaBrief 8B 模型,专门用于将研究问题和检索到的文献片段转化为带引用的科学报告。该模型在 Asta 平台作为 Fast mode 上线,相比 Claude 驱动的 Thinking mode,平均生成时间从 178.5 秒降至 51.1 秒,速度提升约 3.5 倍。
推荐理由:原文展示了通过优化数据过滤而非复杂算法,使小模型在科学报告生成中实现显著提速并开源权重,为本地化部署提供低成本方案。
在物理学中,当两个系统各自运行良好但匹配不佳时,就会出现“阻抗失配”。在这篇《科学博客》客座文章中,哈佛物理学家 Matthew Schwartz 认为,AI 与科学之间正在发生类似的情况。LLM 在许多方面都具备能力,但在工作中
Anthropic 在 Claude Code 中引入 Mods 功能,允许开发者使用 JavaScript 或 TypeScript 编写插件以监控会话事件、修改行为或绘制自定义 UI。
推荐理由:原文提供了构建 Claude Code 自定义 Mod 的完整代码与步骤,读者可据此掌握通过 JavaScript 扩展终端交互界面及拦截工具调用的具体方法。