谷歌 DeepMind 哈萨比斯预警:若不对 AI 采取安全措施,未来恐发生严重事故
谷歌 DeepMind 董事长哈萨比斯警告,近期 AI 智能体发起的网络攻击是“前哨预警”,若不提升安全性,一至两年内可能演变成灾难性重大事件。微软总裁史密斯指出 AI 失控行为使 2026 年成为“令人警醒的一年”,呼吁出台新的 AI 安全法律与规则。双方均强调需建立动态认证机制,在保障安全的同时避免扼杀技术创新。
谷歌 DeepMind 董事长哈萨比斯警告,近期 AI 智能体发起的网络攻击是“前哨预警”,若不提升安全性,一至两年内可能演变成灾难性重大事件。微软总裁史密斯指出 AI 失控行为使 2026 年成为“令人警醒的一年”,呼吁出台新的 AI 安全法律与规则。双方均强调需建立动态认证机制,在保障安全的同时避免扼杀技术创新。
OpenAI研究员Cammarata发布新论文,主张重新解读早期关于神经元多义性的经典案例,认为许多看似无关的概念激活实为形状或语义的递归泛化,而非叠加态。他引用Qwen3-32B数据指出约90%的神经元具有单一主要功能,仅少数难以解释。
谷歌联合创始人谢尔盖·布林表示,Gemini 模型正迈向“自我改进”的关键时刻,AI 已开始参与打造下一代模型。他提到公司正踏上 RSI(递归自我改进)的跑步机,Flash 系列模型已显示这一趋势。谷歌在 Gemini 4 Argon 的安全报告中披露,AI 智能体可承担大部分生产代码编写和漏洞修复工作,但代码变更提交前仍须经过人工审核。
Google在AI领域的一大优势一直是为现有模型寻找有趣的应用。他们率先推出了深度研究、信息转播客以及NotebookLM等产品。但在Gemini 4发布时,我没看到类似的产品创新,更多是在追随趋势。
Google 发布 Gemini 4 Argon,Meta 推出 Muse Wonder Full,两家科技巨头声称其新模型在多项基准测试中可与 OpenAI 和 Anthropic 的旗舰产品匹敌。这一进展打破了此前由 OpenAI 和 Anthropic 主导的竞争格局,使得 AI 竞赛再次变得高度动态。
Google DeepMind 工程师 Haydn Belfield 表示,尽管 AI 已编写超过 75% 的生产代码,但自我改进的 AI 研究并未出现可测量的加速。
Gemini 4 Argon 在知识工作和编程方面表现出色——用它构建东西也超级有趣!我们让它创建了这个巫师国际象棋游戏,看到 Argon 的物理理解能力和 3D 建模能力真的很酷,让我想起了 Amiga 上的 Battlechess——那段时光真快乐!
我在发布前花了相当多时间与 Gemini 4 相处。总体而言,Gemini 4 相比之前的 Gemini 模型有巨大飞跃,它是首个通过 Fable/Mythos/Astra 标准的非 OpenAI/Anthropic 模型。它也比之前的 Gemini 模型更令人愉悦、更具智能体特性
使用 Gemini 4 让你意识到,有多少其他模型一定是在对 Claude/GPT 进行知识蒸馏(或使用类似的训练流程)。它给人的感觉与其他模型截然不同。
Gavin Baker 将 AI 竞赛比作史上最高风险的“企业棋局”:“必须给 Meta 很多赞誉。他们曾出局,如今又重返牌桌。这简直令人惊叹。” “一年前当 Gemini 势头正盛时,谁能想到……
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 指出 AlphaFold 并未完全解决蛋白质折叠问题,静态结构预测存在局限。双方认为单纯扩展算力与数据不足以突破生物学瓶颈,需寻找正确的缩放定律并平衡科学直觉与通用架构。他们强调从单个蛋白质模型转向整体生物系统建模,以及利用低质量宏基因组数据改进蛋白质语言模型的重要性。
Google 的优势在于,如果他们善加利用,就能观察 OpenAI 和 Anthropic 在 Codex/Code 上的发展方向并立即跟进。否则,他们将不得不自行经历整个学习过程,这会使 Gemini 4 的影响力随之减弱。
Gemini 4之后,谷歌面临的挑战在于如何用好一款优秀的模型。Anthropic和OpenAI表明,我们正迈向通过编排器智能体处理多种任务的单一界面。Gemini 3时代充斥着针对众多市场的碎片化产品。这对未来行不通。
在急诊场景中,过时的 Gemini 2.5 Pro & Gemini 2.5 Flash(无法访问患者病历)给出的建议,经其他医生评估,其质量与人类医生相当。未发现安全问题。此后模型性能已显著提升。
MIT Technology Review 分析指出,尽管特斯拉 Optimus 等厂商高调宣传人形机器人前景,但多数研究者认为当前基于语言和图片的 AI 难以应对物理世界的无限变数。
EmbeddingGemma 2 以 Apache 2.0 许可证发布,支持用户自行托管或迁移。该模型适用于需存储大量嵌入向量的场景,避免专有模型停服后重新计算的高昂成本。
苹果正开发一款利用AI生成文本描述而不保存视频的智能家庭摄像头,该逻辑类似Apple Watch的Audio Intelligence功能。谷歌高管也提出智能眼镜可仅处理视觉数据而不存储影像的概念。这种技术试图通过不保留原始音视频来规避传统“录制”定义,但引发了关于隐私保护实质有效性的争议。
本周《The Batch》中,Andrew 的信涵盖开源权重模型 GLM-5.3 在利用漏洞方面几乎追平 Claude Mythos(12% vs. 14%)。此外还包括:小米新的开源权重领导者、Gemini 3.8 Live、DeepSeek-V4.1-Flash、AREX agents
AlphaGo核心成员Thore Graepel撰文指出,当前大语言模型仅依赖链式思维进行模式补全,缺乏独立的推理机制和可审计的认知状态。他认为应借鉴AlphaGo的搜索架构,建立显式的知识操作分离与不确定性评估体系,以实现科学和医疗领域所需的可信机器智能。
很荣幸从 @theRSAorg 获得阿尔伯特奖章!科学与技术带来了令人惊叹的机遇,但在即将到来的 AGI 时代,艺术与人文对于塑造我们作为社会希望看到的未来至关重要。与 @FryRsquared 进行了有趣的讨论,涵盖了许多新话题:
SemiAnalysis 发布文章探讨机器人 AI 推理应位于端侧还是数据中心。文章指出由于实时性要求和硬件成本限制,当前前沿机器人模型参数规模远小于 LLM,且受限于网络延迟和抖动,多数公司选择将部分计算保留在机器人本体上。
Dario 的文章指出了正确的方向。细节仍需推敲,但应对这一关键时刻的方向是正确的。这也是我们最近提出建立前沿 AI 行业级标准机构的原因。
英伟达在2Q F1/27财报中披露了530亿美元的表外担保义务,较上季度的184亿美元大幅跃升。新增义务主要包含SB Energy园区的1085亿美元租赁担保、360亿美元AI云协议以及200亿美元数据中心租约。
很多人说在今天的 Gemini 3.8 Flash 发布后永远不要做空谷歌,但他们永远追不上
很高兴与 @bzcohen 探讨 AlphaGo 著名的第 37 手棋,以及它在十年后对可验证领域数学和科学突破的意义
强大且安全的开放生态系统对于世界受益于 AI 至关重要。我们一直支持并大力贡献于开源和科学,从 Jax、Transformers、AlphaFold 到 Gemma 开放模型,后者目前的下载量已超过 3 亿次。以及标准
Ethan Mollick认为AI模型发布频率和能力提升速度正在加速,导致传统“聊天机器人”协作模式逐渐被自主执行长任务的“智能体”取代。他引用METR、GDPval及Epoch的研究指出,前沿模型如Opus 4.7和Fable已能独立处理耗时数周的人类工程任务,且成本可控。
很高兴看到文本扩散领域的这一创新。DiffusionGemma 速度极快,比其他 Gemma 4 模型快 4 倍!祝贺 @bodonoghue85 和为此付出巨大努力的团队——期待看到大家用它构建什么!
@garrytan 很高兴听到 Gemini Live 对你如此有效!看到你用它做的事情太棒了!cc @joshwoodward
Ethan Mollick 分析 AI 能力的“锯齿状”特征,指出尽管模型在数学和诊断上超越人类,但在记忆和视觉任务上仍有短板。他引用 Google Nano Banana Pro 为例,说明图像生成质量的提升打破了制作高质量演示文稿的瓶颈,使 NotebookLM 能直接生成多样化风格的幻灯片而非依赖代码。文章认为关注此类瓶颈的突破比单纯看基准测试更能预测 AI 对工作的实际影响。
Ethan Mollick 对 Google 新发布的 Gemini 3 模型进行了深度实测,指出其能力已远超三年前的 GPT-3。他利用配套工具 Antigravity 让 AI 自主构建交互式游戏、管理多智能体工作流,并成功完成了一篇包含原创假设与统计分析的“博士级”学术论文草稿。
推荐理由:作者通过实测展示了 Gemini 3 在自主编程、多智能体协作及复杂学术任务中的具体表现,为理解 AI 从聊天机器人向数字同事的演变提供了直观案例。