DeepLearning.AI 端侧记忆助手教程
构建一个能在设备本地存储和搜索所见、所听及被告知内容的助手。在《使用端侧记忆构建 AI 助手》课程中,你将搭建一个能回忆文本、语音和图像的本地记忆系统,并教会它识别新事物
构建一个能在设备本地存储和搜索所见、所听及被告知内容的助手。在《使用端侧记忆构建 AI 助手》课程中,你将搭建一个能回忆文本、语音和图像的本地记忆系统,并教会它识别新事物
微软在 Physical AI Toolchain 中推出行业首个机器人推理卸载能力,允许开发者通过 Kubernetes 工具链将 AI 工作负载从机器人本体分发至边缘或云端 GPU。
Google DeepMind 宣布在 Private AI Compute 平台引入安全的服务器端持久记忆功能,旨在解决跨设备 AI 助手长期连续性与隐私保护的矛盾。该架构利用硬件强制的安全飞地、端到端加密通道及由用户设备派生的密钥,确保云端数据即使被 Google 也无法访问。同时,官方发布了更新的技术白皮书、防篡改的公开软件记录以及独立审计结果,以增强透明度并允许社区验证其隐私保护措施。
推荐理由:原文详述了通过硬件隔离和端到端加密实现云端持久记忆的技术架构,为理解AI隐私保护新方案提供了具体技术细节。
Google DeepMind 推出两款新文本转语音模型:Gemini 3.8 Flash TTS 和 Gemini 3.8 Flash-Lite TTS。前者支持通过自然语言提示从零创建自定义角色声音并逐行控制表演细节,后者针对高音量、低成本场景优化。这些模型现已在 Google AI Studio、Gemini API 等平台开放使用,并在 Hume AI 基准测试中取得领先成绩。
推荐理由:原文展示了从静态预设到动态创意工作室的转变,提供了自定义角色声音和逐行导演对话的能力,适合评估其在多模态交互中的潜力。
你能通过蒸馏得到前沿模型吗?Anthropic 的最新报告强调了支持商业平台上大规模蒸馏活动的代理查询路由。未经授权的代理将用户提示词路由到 Claude API。这种类型的查询转发创建
Anthropic 团队通过两周冲刺,利用 Claude Tag(beta)内部研究模型优化核心用户旅程,使 claude.ai 和桌面应用响应速度提升约 3 倍。该过程涉及建立确定性基准、自动化代码审查及持续监控,最终合并超过三千个变更且无客户可见事故。
推荐理由:原文详述了利用 Claude Agent 在两周内实现性能提升三倍的具体工程闭环,展示了从基准测试到自动化部署的完整实践路径。
Antigravity SDK 宣布支持本地 AI 模型工作流,初始适配 Gemma 4 26B A4B 及 Google AI Edge LiteRT。该功能允许开发者完全离线构建具备智能体能力的辅助工具,通过本地 GPU 和 RAM 优化执行效率。SDK 同时提供对 Ollama、LM Studio 等 OpenAI 兼容服务器的即插即用支持,并展示了云端规划与本地执行相结合的混合编排模式。
推荐理由:官方展示了本地模型在离线代理工作流中的成本与隐私优势,并提供了混合编排的具体代码示例。
Modal 官方博客分享了针对 Moonshot AI Kimi K2.6 等万亿参数模型的推理服务优化方案,实现了单副本性能提升 2.8x(每用户)和 5.6x(跨用户)。
推荐理由:原文详细拆解了万亿参数模型在编码智能体场景下的推理优化路径,提供了从单副本调优到多副本路由的完整工程实践参考。
OpenRouter 发布教程指导开发者使用 TypeSafe 的 Jev 决策模型(typesafe/jev-1.13)在 TypeScript 中实现结构化内容审核。
推荐理由:通过 TypeScript 代码完整演示了 Jev API 在内容审核中的集成流程,提供了从状态构建到阈值调优的可复用工程范式。
OpenRouter 发布 2026 年嵌入模型选型指南,推荐 openai/text-embedding-3-small 用于英文 RAG,qwen/qwen3-embedding-8b 支持多语言检索。
Together AI 发布教程指导用户以约 $17 的成本和 25 分钟时间,基于 Qwen3.5 4B 微调一个类似 Jev 的分类模型。该过程涉及从 Hugging Face 采样 38,000 条多源数据、使用 Together Fine-tuning service 训练以及部署到 dedicated endpoint。
推荐理由:原文提供了基于 Qwen3.5 4B 微调分类模型的完整代码流程与成本细节,读者可据此复现低成本构建专用分类器的方法。
Included Health 和 Abridge 利用 LangSmith 将临床专家审查转化为可复用的评估资产,以解决医疗 AI 验证瓶颈。Included Health 通过 LangGraph 构建 Dot 智能体处理复杂咨询,Abridge 则建立校准评判器确保病历生成的准确性与合规性。该方案旨在保留人类判断价值并加速安全发布。
初创公司天生擅长这一点;让大公司保持这种能力很难,我认为这是一个未被充分探索的领域。
michelle 完美诠释了这一点,OpenAI 非常幸运能从她所做的一切中受益。我认为大家会很期待看到她和团队接下来的成果!
致我们开发者。下周见。
我们希望 OpenAI API 在每个价格点都提供最佳模型,并在所有模态(文本、代码、图像、视频等)上表现卓越。然后我们希望大家提出绝妙创意并加以构建,成为快乐的用户。最好的想法将来自你们所有人。
尤其是按单任务定价比较时,这才是应该关注的指标,我认为市场上没有任何东西具有竞争力。我们希望人们能够大量使用 AI;这对于探索我们面前这场新的文艺复兴至关重要。
OpenAI 推出 GPT-5.6 Sol 和 Luna 两个新版本模型。官方称其在智能、对齐及效率方面较前代有显著提升,旨在兼顾前沿能力与成本效益。
推荐理由:官方确认了GPT-5.6系列新版本的发布,并给出了相比前代在智能与效率上的核心提升方向。
Sierra 通过 Agent Studio 和构建工具 Ghostwriter,让企业能可视化编辑、模拟测试并追踪 AI 智能体的决策逻辑。其支持将智能体代码存入 Git 仓库,并通过 OpenTelemetry 等接口导出数据至现有基础设施,确保用户对业务逻辑、历史数据及代码的完全所有权与控制权。
GPT-6 Sol 和 Luna 是优秀的模型,而且这些角色也太可爱了
更高的使用限额和更低的成本为您提供了更大的灵活性和迭代空间。
OpenAI 官方账号宣布发布新模型。该消息由 OpenAI 直接发出,标志着其最新模型能力的正式推出。
推荐理由:官方账号直接宣布新模型发布,读者可据此确认 OpenAI 最新模型能力的正式落地与可用状态。
作为我们控制前沿发展节奏工作的一部分,我们致力于支持在训练、评估和部署方面拥有深度访问权限的独立评估。这种访问权限应使第三方评估人员能够挑战我们的假设,识别我们可能存在的
Anthropic 宣布 Claude Opus 5.5 今日正式可用。
推荐理由:官方宣布新模型上线,读者可据此确认当前可用的最新 Opus 版本及发布时间。
AI 实验室之外的人应该对这项技术的发展拥有真正的发言权,并有明确的方式来判断其是否在安全地发展。标准应有助于防止权力集中,包括确保新公司和开源模型公司能够竞争。
10,000 AI agents spent 88 hours tackling Navier-Stokes equations in Lean. The resulting controversy teaches vital lessons to AI developers. Agents can formalize complex mathematical proofs at massive scale Human evaluation remains essential to interpret why proofs work
Anthropic 发布 Claude Opus 5.5 的使用指南,指导用户如何在该模型下优化提示词、控制长程运行并检查结果。Opus 5.5 具备更长的自主工作能力和默认思考机制,因此建议移除“仔细思考”等指令,明确任务完成标准,并在 CLAUDE.md 中设定何时停止询问或继续执行。
推荐理由:原文针对 Opus 5.5 的长程自主运行和默认思考特性,给出了从提示词调整到子智能体协作的具体操作建议。
OpenRouter 对 TypeSafe 的 Jev 1.13 模型与 Claude Opus 5 在 Banking77 意图分类任务上进行了基准测试。结果显示 Jev 准确率比 Opus 低 3.3 个百分点(81.0% vs 84.4%),但中位延迟快 13 倍且成本低 22 倍。
推荐理由:原文通过 Banking77 数据集实测对比了 Jev 与 Claude Opus 5 在分类任务上的精度、延迟和成本,并提供了基于置信度的级联路由方案。
Google AI 订阅用户现可获得 Colab 高级权益,包括优先访问更快加速器和更强机器。Ultra 订阅者额外解锁不间断后台执行和 Premium GPU 访问,支持长时间训练无需保持浏览器标签页开启。这些权益将在未来几周内向支持地区的 Google AI 订阅用户逐步推出。
Together AI 发布 Canary Rollouts 功能,允许在生产环境中通过分阶段流量迁移无缝升级模型,无需停机或手动干预。该功能支持 Canary、Blue-green 和 Rolling 三种策略,内置健康检查和延迟回归门控,确保新模型在满足性能标准后才逐步接管全部流量。
推荐理由:Together AI 推出生产环境模型金丝雀发布功能,通过自动化流量切换和指标门控实现零停机升级。
OpenRouter 发布 Batch API,允许用户提交异步请求以换取约 50% 的 token 价格折扣,目前支持超过 70 个模型。该功能适用于标注语料、回填嵌入向量等非实时工作负载,Beta 期间数据显示中位完成时间仅 7 分钟,90% 的任务在一小时内结束。
推荐理由:官方公布批量推理的半价机制与实测延迟数据,为处理非实时大规模任务提供了具体的成本优化方案。
NVIDIA 发布 Nemotron 3.5 Lightning,这是一款总参数 30B、激活参数约 3B 的混合 Mamba-2 和 MoE 架构模型,专为智能体工作流中高频、低延迟的执行步骤设计。
推荐理由:原文详细对比了 Nemotron 3.5 Lightning 与 Ultra 在智能体工作流中的分工,并提供了基于 OpenRouter 的路由策略及本地部署参数。
vLLM 团队正式发布 vllm-metal,将 vLLM 的调度器、分页 KV 缓存和 OpenAI 兼容服务器引入 Apple Silicon,底层由 MLX 和 Metal 执行。
推荐理由:vLLM 官方发布适配 Apple Silicon 的推理引擎,通过 Metal 内核优化并发调度与内存管理,显著降低本地多请求场景下的首字延迟。
我们正与一个独立的数学家顾问组合作,以帮助 OpenAI 负责任地分享 AI 和数学领域的进展。该小组将就如何评估和传播新的数学成果、维护学术和专业标准以及构建工具提供建议
Meta 的 Muse agent 通过操作系统层面的安全措施来防御提示注入攻击,而非仅依赖模型自身的训练数据。该智能体假设模型可能被欺骗,因此确保模型从不处理真实凭证,并将工具运行在隔离的 Linux 容器中。
推荐理由:原文介绍了 Meta Muse agent 在操作系统层面构建安全机制的方法,展示了不依赖模型自身训练来防御提示注入攻击的工程思路。
Microsoft Research 在 Nature 发表并开源 RetroChimera,该模型通过集成 R-SMILES 2 和 NeuralLoc 两个互补子模型及学习重排序策略,显著提升了小分子逆合成预测质量。盲测显示博士级化学家更偏好其生成的反应步骤,且在十个高难度目标中成功规划出九个完整合成路线,优于现有基线模型。
LangChain 团队测试了 TypeSafe AI 发布的“System One”模型 Jev,验证其作为 Agent 评估器的潜力。实验显示,Jev 在二分类判断上与人类标注完全一致(100% 准确率),且方差比 GPT-5.6 Luna、Terra 和 Claude Sonnet 4.6 低数个数量级。
推荐理由:LangChain 实测 Jev 在 Agent 评估中的表现,对比主流 LLM 展示了其在准确率、方差和成本上的显著优势。
OpenRouter 发布技术解析,对比 TypeSafe 的决策模型 Jev 与传统 LLM-as-a-Judge 在 Agent 输出评估中的表现。测试显示,在证据完备的封闭标准下,Jev 与 LLM 判断器准确率相当,但具备更好的概率校准性,且成本仅为后者的 1/5,延迟为 1/10;而在需要长文本推理的开放标准(如摘要一致性)中,LLM 判断器与专家评分的相关性更高。
推荐理由:原文通过实测对比了 Jev 与 LLM-as-a-Judge 在准确率、校准度及成本上的差异,并给出了不同评估场景下的选型建议。
OpenRouter 发布技术指南,详细解析 TypeSafe 推出的非生成式决策模型 Jev(当前版本 typesafe/jev-1.13)的工作原理与使用方法。
推荐理由:原文通过真实 API 调用演示了 Jev 模型的三种决策原语及概率解读方法,为开发者提供了替代传统 LLM 加正则解析工作流的具体实现路径。
Descript 通过 OpenRouter 消除工程排队瓶颈,将新模型评估耗时从一周压缩至一两小时。团队利用 Claude Tag 在 Slack 中自动运行评测并创建 PR,实现每周多次高频测试。目前 Grok 4.5 已通过该路径在生产环境上线,且支持 Baseten 专用部署与多提供商故障回退。