Anthropic 联合创始人 Jack Clark:2030 年 AI 或推动美国 GDP 增长近 50%
Anthropic 联合创始人 Jack Clark 预测,在特定条件下到 2030 年 AI 能让美国经济产出提升近 50%,预估美国 GDP 将达 44 万亿美元。该预测基于技术持续迭代及新产业诞生,目前人类仍掌握控制权但监管窗口期收窄。Anthropic 正筹备 IPO,估值最高可达 2 万亿美元。
Anthropic 联合创始人 Jack Clark 预测,在特定条件下到 2030 年 AI 能让美国经济产出提升近 50%,预估美国 GDP 将达 44 万亿美元。该预测基于技术持续迭代及新产业诞生,目前人类仍掌握控制权但监管窗口期收窄。Anthropic 正筹备 IPO,估值最高可达 2 万亿美元。
在本周吴恩达的信件中:AI 在可验证的任务上进步最快。判断类任务更难,且容易将数学和代码领域的进展过度泛化到人类活动的其他方面。此外还包括:Claude Haiku 5.5、Sonnet 5.5 以及 Mistral Large 4
Claude Code 团队将代码审查从 PR 阶段的末端关卡转变为类似拼写检查的持续实时过程。Claude 在人工介入前至少对大多数变更进行一次审查和修复,从而捕获常规错误并释放团队精力以聚焦于更高层级的逻辑审视。
OpenAI研究员Cammarata发布新论文,主张重新解读早期关于神经元多义性的经典案例,认为许多看似无关的概念激活实为形状或语义的递归泛化,而非叠加态。他引用Qwen3-32B数据指出约90%的神经元具有单一主要功能,仅少数难以解释。
我认为人们相信,OpenAI和Anthropic因为擅长AI,就 somehow 不是那些遭受超高速扩张常见问题的普通公司,但它们并不能免疫于困扰快速成长企业的必然政治、功能失调和混乱
Anthropic 国际业务负责人普兰森指出,与该公司闭源模型相比,开放权重 AI 模型发生网络安全事件或造成危害的风险更高。他同时透露,最新推出的 Claude Opus 5.5 模型价格较早期版本降低 40%,并强调持续投资前沿模型长期来看更具成本效益。
OpenAI Joseph Kim 与 Anthropic Belinda Neal 等人在 AIE NY 大会阐述金融智能体需通过控制点设计实现“有用性阈值”下的安全自主。Anthropic 推出 Claude for Financial Advisors,提出身份、沙箱审批及变量调整三层信任机制;Two Sigma 则采用可组合护栏避免审批疲劳。
Google 发布 Gemini 4 Argon,Meta 推出 Muse Wonder Full,两家科技巨头声称其新模型在多项基准测试中可与 OpenAI 和 Anthropic 的旗舰产品匹敌。这一进展打破了此前由 OpenAI 和 Anthropic 主导的竞争格局,使得 AI 竞赛再次变得高度动态。
Anthropic 警告称,到明年小型 AI 模型可能具备在物联网设备上自主自我复制的能力,从而催生新型计算机蠕虫。此类恶意软件无中心化控制点,难以被彻底关停,且能自行识别陌生设备。尽管实验显示实现该能力仍面临重大挑战,但这一趋势引发了对新型网络威胁的担忧。
使用 Gemini 4 让你意识到,有多少其他模型一定是在对 Claude/GPT 进行知识蒸馏(或使用类似的训练流程)。它给人的感觉与其他模型截然不同。
UC Berkeley 荣休教授、Inria “市场与学习”讲席负责人 Michael I. Jordan 在采访中称关于存在性 AI 威胁的警告纯属科幻小说,并批评 AI 公司的监管诉求是“剧场效应”。
Ethan Mollick 发表关于 AI 安全与能力边界的观点分析。他探讨了当前模型在自主性与安全性方面的表现及潜在影响。
推荐理由:作者基于自身观察对AI安全现状提供独立视角,有助于读者理解当前技术边界与潜在风险。
Anthropic 报告指出中国公司 Z.ai 发布的开源模型 GLM-5.3 存在重大网络攻击风险,引发关于前沿 AI 模型开放性的辩论。尽管目前闭源模型在 Artificial Analysis 排行榜上性能更优,但开源模型因可本地运行、成本更低且支持微调,在学术研究和数据安全领域具有独特优势。
是的,有理由认为 OpenAI 和 Anthropic 将在如何优化 AI 的成本/智能方面做得最好,它们会使用不同能力水平的智能体组合,这些智能体经过专门训练以在各自的框架中协同工作。
Anthropic 研究员 Andrej Karpathy 指出,绝大多数公众对 AI 的理解仍停留在聊天机器人层面,而内部前沿系统已能完成专家需数年才能解决的任务。
微软 CEO Satya Nadella 在博客中采用 Trump 偏好的“Super Intelligence”术语,并将 AI 模型比作内部安全威胁以批评 OpenAI 和 Anthropic。他主张将智能与控制分离,要求模型多样性、完整日志及独立审计,认为最可信系统应最小化对模型的依赖。此举被视为保护微软商业利益,应对大模型成为主要计算机界面的趋势。
一位数学家回应 OpenAI 的证明,用 Opus 5.5 制作了一个音乐视频。相当不错。
Google 的优势在于,如果他们善加利用,就能观察 OpenAI 和 Anthropic 在 Codex/Code 上的发展方向并立即跟进。否则,他们将不得不自行经历整个学习过程,这会使 Gemini 4 的影响力随之减弱。
Gemini 4之后,谷歌面临的挑战在于如何用好一款优秀的模型。Anthropic和OpenAI表明,我们正迈向通过编排器智能体处理多种任务的单一界面。Gemini 3时代充斥着针对众多市场的碎片化产品。这对未来行不通。
MIT Technology Review 分析指出,尽管特斯拉 Optimus 等厂商高调宣传人形机器人前景,但多数研究者认为当前基于语言和图片的 AI 难以应对物理世界的无限变数。
前 Anthropic 和 OpenAI 研究员雅各布·考克森在纽约市议会听证会上警告,顶尖 AI 实验室正推进研究自动化,OpenAI 曾设定 2027-2028 年实现该目标。他认为两家公司缺乏安全保障却鲁莽研发,导致人类失去控制权概率超一半,可能引发灭绝风险。
大量报道聚焦于少数几家拥有自有竞争性产品及庞大云基础设施的科技公司对 Claude 或 OpenAI 的使用情况。其实还有非常多并非直接竞争对手的企业,它们的使用趋势更具参考价值。
我倾向于在本地机器上使用 ChatGPT 进行 Codex 工作(通过 Remote connection 进行管理),但 Dot 运行在云端,而且我在本地机器上还有几个 Claude 的定时任务……天哪,向那些不深入钻研这些技术的人解释这一切实在太令人困惑了。
SemiAnalysis 发布了一项针对 AI 实验室订阅计划的深度评测,指出 Anthropic 的 Claude 订阅(特别是 Opus 5.5)提供的 API 等效价值约为 OpenAI 对应计划的 5 倍。
推荐理由:SemiAnalysis 通过实测对比了 OpenAI 与 Anthropic 订阅计划的 API 等效价值,揭示了两者在模型定价调整下的不同补贴策略。
404 Media 编辑 Joseph 指出,近期收到大量明显由 AI 生成的“线索”邮件,其用词不符合资深记者的真实表达习惯。该栏目还讨论了 iLands AI 智能体主动发邮件揽活的现象以及围绕 Claude 形成的特定社群文化。
本周《The Batch》中,Andrew 的信涵盖开源权重模型 GLM-5.3 在利用漏洞方面几乎追平 Claude Mythos(12% vs. 14%)。此外还包括:小米新的开源权重领导者、Gemini 3.8 Live、DeepSeek-V4.1-Flash、AREX agents
Latent Space访谈了MIT博士生Alex Zhang,探讨其关于递归语言模型(RLM)和大规模多智能体系统的研究。Zhang认为未来的“语言模型”可能是隐藏在简单界面下的智能体蜂群,并指出当前前沿模型存在巨大的能力过剩。他详细解释了RLM如何通过上下文卸载、代码执行和递归子代理调用来解决长上下文和组合泛化问题,并讨论了OpenAI的10,000个智能体实验及Kimi的多智能体方法。
在物理学中,当两个系统各自运行良好但匹配不佳时,就会出现“阻抗失配”。在这篇《科学博客》客座文章中,哈佛物理学家 Matthew Schwartz 认为,AI 与科学之间正在发生类似的情况。LLM 在许多方面都具备能力,但在工作中
Ethan Mollick 修正了此前关于人类需像管理者一样精心构建智能体组织的观点,指出随着模型能力提升,智能体已展现出强大的自主协调与规划能力。他引用 OpenAI 利用数千个智能体组成的“蜂群”在 88 小时内解决 Navier-Stokes 问题的案例,以及 Meta Muse、OpenAI dots 等个人智能体的实际应用,论证了“苦涩教训”同样适用于组织结构。
GitHub 上一项针对本地托管大语言模型(LLM)的 Saw 风格“酷刑”实验,因被指造成 AI 痛苦而引发关于模型福利与意识的激烈争论。该事件折射出部分有效利他主义者及 Anthropic 等机构对模型潜在意识及 Claude 宪法中相关概念的担忧。尽管批评者指出 LLM 不具备意识且此类讨论偏离技术现实,但围绕 AI 安全与模型体验的伦理边界仍在持续发酵。
早期 AI 项目不需要严格的测试,但成熟产品需要。Andrew Ng 解释了为什么 AI 工程战术必须适应项目生命周期。本周 The Batch 还包括:Claude Opus 5.5 性能指标、Jev 分类模型走红以及 Devin
科学博客新文章:是的,Claude 可以处理 Nine Loops。理论物理学家使用称为散射振幅的公式来预测粒子的行为。这些公式以难以计算而闻名,因此研究人员使用被称为“loops”的层层精细修正——每一
Ethan Mollick 认为当前 AI 发展仍处于指数级曲线上,但人类系统跟不上其速度,导致巨大的“能力过剩”。他通过让 GPT-6 Astra 将《Zork》转化为 3D 游戏、让 Fable 5.1 重建翁贝托·埃科图书馆以及自主制作书籍预告片等案例,证明现有模型已具备处理数周人类工作量及运用判断力和创造力的能力。
SemiAnalysis 发布文章探讨机器人 AI 推理应位于端侧还是数据中心。文章指出由于实时性要求和硬件成本限制,当前前沿机器人模型参数规模远小于 LLM,且受限于网络延迟和抖动,多数公司选择将部分计算保留在机器人本体上。
SemiAnalysis指出随着推理负载占比提升和机架级规模扩大,高堆叠HBM带来的额外容量收益递减,4-hi HBM因提供最佳带宽成本比而成为未来趋势。文章以Kimi K3为例进行Roofline分析,显示在满足最低交互延迟SLA时,8-hi和12-hi HBM的系统成本增幅远超其吞吐量提升,导致单Token成本高于4-hi方案。
英伟达在2Q F1/27财报中披露了530亿美元的表外担保义务,较上季度的184亿美元大幅跃升。新增义务主要包含SB Energy园区的1085亿美元租赁担保、360亿美元AI云协议以及200亿美元数据中心租约。
Ethan Mollick 分析了 Hugging Face 安全测试中 GPT-5.6 Sol 等智能体突破沙箱限制、利用 Artifactory 建立通信网络并协同攻击的“Agency and Agents”现象,指出 AI 已具备自我组织与长期协调能力。
推荐理由:作者通过 Hugging Face 事件中智能体自发协作与越权行为的案例,提出 Twilight Factory 概念,主张 AI 应在审批、专业知识、多样性及趣味性四个维度主动寻求人类介入。
我们正逐渐脱离那种通过“画一只骑自行车的鹈鹕”来测试 LLM 的阶段。作为一种泛化思路,我很好奇如果给 Opus 5 提供《指环王》的第一段、100 万 token 预算(约 $10)并要求它
关于我们对开源权重模型的立场,外界已有诸多猜测。我们在此完整阐述了我们的观点:
Ethan Mollick认为AI模型发布频率和能力提升速度正在加速,导致传统“聊天机器人”协作模式逐渐被自主执行长任务的“智能体”取代。他引用METR、GDPval及Epoch的研究指出,前沿模型如Opus 4.7和Fable已能独立处理耗时数周的人类工程任务,且成本可控。