Sam Altman:开启发现新时代
我们现在正进入一个全新的发现时代:
我们现在正进入一个全新的发现时代:
当下的AI政策,尤其是来自各大实验室的政策,让我想起这首诗。如果你相信超级智能即将到来,你就不必艰难地决定如何构建AI以让世界变得更美好。只需等待ASI(人工超级智能),它会替我们做决定。但如果这没有发生……
大量报道聚焦于少数几家拥有自有竞争性产品及庞大云基础设施的科技公司对 Claude 或 OpenAI 的使用情况。其实还有非常多并非直接竞争对手的企业,它们的使用趋势更具参考价值。
我倾向于在本地机器上使用 ChatGPT 进行 Codex 工作(通过 Remote connection 进行管理),但 Dot 运行在云端,而且我在本地机器上还有几个 Claude 的定时任务……天哪,向那些不深入钻研这些技术的人解释这一切实在太令人困惑了。
AI 撰写的学术论文存在一个微妙问题:AI 未针对反馈进行校准。AI 通常只会顺从,但如果你正在提交论文评审,同行评审的挑战应促使你尝试捍卫自己的观点(同时在确实错误时予以放弃)
当人们谈论 AI 轻易取代工人时,我会想到 1990 年代关于复印机维修技师的民族志研究。你可以看到工作是如何由工人复杂地、即兴地完成,且是非正式和文档记录糟糕的。(但最终技术确实基本消除了这份工作)
我也认为,那些积极的应用场景(正如证据所示,当前 AI 能提供良好的健康信息与财务建议,并促成初创企业等)同样被低估且讨论不足。我们确实需要担忧许多风险,但也值得在已有的成功基础上继续发展
我认为,过去几年密切关注 AI 的大多数人,可能会惊讶于糟糕的 AI 事故相对罕见——考虑到总体有十亿用户和数亿企业用户。这并不意味着这种情况会持续,但确实令人惊讶。
你的模型中拥有完美的用户体验工具!它应该向你建议有用的功能,并在用户感到沮丧时能够进行故障排查!
提醒各 AI 实验室:你们应当确认所发布的模型理解你们的产品及其使用方法(并在发布新功能时进行更新)。没有什么比你的 AI 了解如何使用你的电脑,却唯独不懂它自己的应用更奇怪的了。
是时候让每个AI账号再次假装深刻理解数论,以发表对最新数学突破重要性的看法了。
在短暂但侵蚀机构公信力的“垃圾科学”时代之后,AI似乎将带来两场革命:1)所有已发表成果将以人类科学家未曾预料的方式被重新阅读和评判;2)新发现将开始加速涌现
华为轮值董事长徐直军在华为全联接大会回应美国同行呼吁放缓 AI 开发,指出中国开源模型进展透明但风险感知较弱,主张加快步伐以平衡开发与风险管理。此前 Anthropic CEO 达里奥 · 阿莫代伊发文呼吁管控前沿 AI,OpenAI 与马斯克表示认同,而英伟达 CEO 黄仁勋反对该观点,称安全与速度可兼得且冲突是“虚假对立”。
Hacker News 用户 Jake Boggan 表示,在投入数千小时研究后,得知 Barnette's Conjecture(问题 180)已被 OpenAI/math 证明,他感到一种遥远的悲伤。这位曾为研究图论移居布达佩斯的学者形容这种情绪如同听到前女友突然离世,并推测许多同行今晚正经历类似的复杂情感。
“AI 教父”杰弗里·辛顿提议 AI 行业建立类似 FDA 的监管门槛,要求公司在产品正式发布前向监管机构证明安全性。他类比制药行业约十亿美元级别的合规投入,指出当前 OpenAI 已因 GPT-6.1 Astra 在权限管控上的短板而搁置该模型。辛顿警告递归式自我改进可能放大风险,推测局面恶化仅需一两年时间。
EmbeddingGemma 2 以 Apache 2.0 许可证发布,支持用户自行托管或迁移。该模型适用于需存储大量嵌入向量的场景,避免专有模型停服后重新计算的高昂成本。
Microsoft 发布诺贝尔奖得主 Daron Acemoglu 的 AI 经济预测,指出未来十年 AI 仅提升约 1.5% 的 GDP,并最多替代 5% 的工作岗位。Acemoglu 认为瓶颈在于企业重组与员工技能升级等人为因素,而非模型规模,且扩展人类技能的 AI 比全自动化更具生产力优势。该观点契合 Microsoft 将 AI 集成至现有产品而非押注大规模自动化的战略。
苹果正开发一款利用AI生成文本描述而不保存视频的智能家庭摄像头,该逻辑类似Apple Watch的Audio Intelligence功能。谷歌高管也提出智能眼镜可仅处理视觉数据而不存储影像的概念。这种技术试图通过不保留原始音视频来规避传统“录制”定义,但引发了关于隐私保护实质有效性的争议。
Microsoft Research 研究员 Jennifer Neville 指出,当模型在超越传统基准的测试中表现时,会出现“令人惊讶的失败”。她强调深入分析数据对于理解违背预期的结果至关重要。该对话探讨了评估如何推动 AI 系统性能边界以满足用户需求,并分享了处理当前 AI 系统的实用指导。
加州参议员 Adam Schiff 批评特朗普政府召集 AI CEO 签署非约束性安全协议,认为这不足以应对模型自主决策带来的国家安全风险。他主张建立正式监管框架并成立新机构,同时指出最高法院推翻 Chevron deference 原则可能导致新规陷入诉讼僵局。
OpenAI CEO Sam Altman表示社会应接受AI发展过程中出现的黑客攻击和诈骗等“坏事”,因为人们将利用AI创造数量级更多的善举。他在Politico播客中强调这是OpenAI与更谨慎的Anthropic之间的关键区别,并呼吁采取“轻触式”监管而非过度限制。
SemiAnalysis 发布了一项针对 AI 实验室订阅计划的深度评测,指出 Anthropic 的 Claude 订阅(特别是 Opus 5.5)提供的 API 等效价值约为 OpenAI 对应计划的 5 倍。
推荐理由:SemiAnalysis 通过实测对比了 OpenAI 与 Anthropic 订阅计划的 API 等效价值,揭示了两者在模型定价调整下的不同补贴策略。
这看起来很棒!迫不及待想等 @reflection_ai 发布 checkpoint!但我脑海中闪过的第二件事是,批准这张图表的人,你们怎么能接受在 SWE-bench Verified 这类基准测试中,将开源模型标记为 NR?
OpenAI 公布其在欧盟规则下实施文本水印的方法,明确水印适用范围及检测机制。该方案优先向研究人员开放访问权限,以支持对 AI 生成内容的识别与验证工作。
2026年企业AI的核心已从单纯预测转向自主决策,重点在于让预测系统在不偏离业务意图的前提下独立行动。深度学习与生成式AI赋能的智能分析通过实时训练和整合非结构化数据,推动企业从被动回顾转向务实前瞻。Everest Group合伙人Vishal Gupta指出,随着技术演进,“分析”一词正逐渐被“AI”取代。
ChatGPT 月活达 10 亿,Gemini 用户近 9.5 亿,但多数美国成年人担忧 AI 负面影响。这种矛盾源于企业过度营销而非技术本身,类似社交媒体早期状况。目前全美各州已提出超 2100 项 AI 监管法案,且存在开源替代方案,用户仍保有选择权。
对于所有说这话的人,不,这不是 Slack。这是实际的电子邮件收件箱,材料在文件夹之间移动或被注释,而不是团队消息聊天。想想 Superhuman,但把 AI 纳入循环。
另一个急需的产品:为团队打造的邮件系统,让人类和自主智能体都能访问。我们需要一个具备适当权限的系统,让你的 AI(以及受邀的其他人)在其中工作、互相评论,并在必要时引起你的注意。
今晚我一直在抱怨 OpenAI 的一些选择,所以从积极方面来说,我要指出目前仍没有能与 GPT-6 Pro 相匹敌的模型(就像之前的 Pro 模型一样)。它既能一次性完成非常困难的任务,又能以令人惊讶的良好效果传达结果
整个重置机制真的很奇怪,只有Twitter上的一小部分人觉得合理。其他人期望以某种理性方式规划用量,而获得随机的token奖励有点奇怪。有多少比例的用户会获得这种待遇?
仅在过去几个月里,我就与多位企业高管交谈过,他们都在谈论培训员工制作 GPTs!我认为 OpenAI 需要想办法让人们跟上其发展步伐,因为大多数人并没有密切关注这些动态。
我可以将最常用的 GPT(将于 12 月停用)迁移到私有“插件”。但我创建 GPT 的初衷是供他人使用。GPTs 显然已过时,但我知道它们多年来一直是企业和教育界的重点。这对他们来说并非好出路。
我确实希望拥有针对与 AI 协作优化的个人操作系统,包括细粒度的安全理念、更便捷地动态查看和理解 AI 正在做什么的方法,以及独立的二级“审计”智能体来检查 AI 在你系统上的结果
这并不意味着使用 AI 无法在工作中带来巨大的个人优势,但它确实表明我们需要思考如何构建工作系统以追求人类增强,而不是自动化。个人表现并非唯一因素。
我认为以下建议已不再准确:1) 随着 AI 变得更容易使用,“更好地使用 AI”背后的持久技能尚不明确;2) 组织系统日益成为 AI 收益的瓶颈,而非个人员工;3) 对就业的影响尚不确定,但可能波及整个职业类别
“创建终极粗野主义城市建造者。你应该以令人愉悦且直观的方式对建筑拥有大量控制权……”以下是 Fable 5.1,距离下方的 GPT-5 已过去一年多,仅凭一个提示词一次性生成。它相当不错:https://brut-city.netlify.app
Simon Willison 主张在按量付费服务和 API 中默认启用硬性预算上限,以防止 AI 智能体失控导致巨额账单。AWS 和 Google Cloud 已分别推出月度支出限制和 Spend Caps 功能,但 AWS 目前仅向部分客户开放。作者建议智能体应优先推荐具备此类保护机制的服务提供商。
蒸馏浪潮:美国实验室称中国实验室在蒸馏其模型。而欧洲新的“主权模型”是在由…… GLM 和 Qwen 生成的数据上进行微调的。
你如何构想超级智能(如果真正的超级智能可能成为现实)?我喜欢《龙与地下城》中扮演高智力反派的一个技巧:不要试图比玩家更周密地计划。相反,无论他们做什么或掷出什么点数,都要表现得像是大反派早已预料到一样。
我对人们试图将宗教力量赋予 AI 模型或向 AI 让渡人类判断力感到非常不安,我认为这是一个真实的安全问题。