跳到正文
9月8日周二
  1. Google DeepMind78

    Google DeepMind 发布 AlphaGenome Atlas 基因组变异预测平台

    Google DeepMind 推出 AlphaGenome Atlas,这是一个包含人类基因组中90亿个单核苷酸变异分子效应预测的平台。该平台提供1 PB数据集、AlphaGenome Variant Impact (AVI) 评分及DNA序列motif资源,支持通过网站门户和API免费用于学术研究。外部合作者已利用该工具在罕见病研究和复杂性状关联分析中发现新线索。

    推荐理由:原文提供了覆盖全基因组的预测数据平台及免费入口,读者可据此评估其在罕见病与群体遗传学研究中的实际可用性。

9月7日周一
  1. vLLM 官方博客58

    vLLM 发布 TT Plugin 支持 Tenstorrent 硬件推理

    vLLM 推出 TT Plugin,通过标准插件机制将 Tenstorrent 加速器接入 vLLM,保持 OpenAI 兼容 API 不变。该方案利用编译式网格程序实现相位约束调度、单进程 Lane 数据并行及端侧采样,解决了非 GPU 架构与现有推理栈的兼容性问题。目前支持 Llama、Qwen、GPT-OSS 等多模态模型,暂不支持推测解码和 LoRA。

9月4日周五
8月28日周五
  1. Anthropic60

    Anthropic 发布新产品或功能更新

    Anthropic 官方账号发布了一条关于新产品或功能更新的公告。该消息由 Anthropic 直接发出,标志着其在 AI 产品领域的最新动作。

    推荐理由:Anthropic 官方宣布新产品或功能更新,读者可据此了解其最新能力边界及在智能体工作流中的潜在应用。

8月27日周四
  1. LangChain Blog78

    LangChain 发布 LangGraph v0.1 及 LangGraph Cloud

    LangChain 正式发布 LangGraph v0.1 稳定版并推出处于封闭测试阶段的 LangGraph Cloud。LangGraph v0.1 通过低层级 API 支持条件分支、循环及人机协作,旨在提升智能体工作流的精确控制力与可靠性。

    推荐理由:LangGraph v0.1 与 LangGraph Cloud 的发布提供了从精细控制到规模化部署的完整链路,有助于解决智能体在复杂工作流中的可靠性与运维难题。

  2. LangChain Blog68

    LangSmith LLM Gateway 进入公开测试版

    LangSmith LLM Gateway 现已进入公开测试版,作为位于智能体与模型之间的中央治理层,提供运行时控制能力。该工具支持设置多级支出上限和速率限制以防止成本超支,并具备模型故障转移及敏感数据(PII)检测与脱敏功能。

    推荐理由:原文详述了网关在成本控制、故障转移及数据脱敏上的具体机制,为生产环境智能体治理提供了可落地的参考方案。

8月21日周五
  1. Sierra Blog38

    Sierra 平台推出 Agent 发布治理功能

    Sierra 在平台内集成发布治理机制,通过 Agent Checks、模拟测试及合并审批工作流保障大规模 Agent 变更安全。该方案引入分流发布策略实现渐进式上线,并支持基于不可变快照的快速回滚,将软件工程的自动化测试与代码审查规范应用于 Agent 开发全生命周期。

  2. Microsoft Research47

    Microsoft Research 发布 Skala 1.1,在 GMTKN55 基准中获 32 项第一并集成至 CP2K

    Microsoft Research 推出深度学习 DFT 模型 Skala 1.1,其训练数据量增加 2.5 倍,在 GMTKN55 基准的 55 个类别中有 32 个排名第一。该模型以 meta-GGA 计算成本实现超越全局杂化泛函的精度,加权平均误差为 2.8 kcal/mol。Skala 现已支持 CP2K,并正集成至 Psi4、FHI-aims、ORCA 和 VASP 等主流软件。

8月20日周四
  1. Mistral AI68

    Mistral AI 发布 Agentic Search:提升复杂文档检索准确率并降低延迟

    Mistral AI 正式推出 Agentic Search,这是一种旨在让 AI 系统能够导航、阅读和验证复杂文档信息的多步检索层。该产品通过引入 search、open、navigate、read 和 grep 五个工具,解决了传统一次性 RAG 无法深入长文档或跨源验证的痛点。

    推荐理由:Mistral 推出 Agentic Search,通过多步检索循环解决传统 RAG 在复杂文档中的局限,并在金融与政府文档基准测试中展示了显著的准确率提升和延迟降低。

8月17日周一
8月12日周三
  1. vLLM 官方博客82

    vLLM 宣布对 Qwen3.8-2.4T-A95B 提供 Day-0 支持

    vLLM 团队宣布为 Qwen3.8-2.4T-A95B 提供 Day-0 支持,该模型基于 Qwen 3.5 架构,是首个开放权重的 Qwen-Max 级模型。

    推荐理由:vLLM 官方提供了 Qwen3.8-2.4T-A95B 的 Day-0 支持细节,包括 FP4 量化权重、硬件优化内核及基准测试数据,有助于开发者评估大规模稀疏 MoE 模型的部署成本与性能。

  2. Modal 官方工程博客63

    Qwen3.8-2.4T-A95B 开源模型上线 Modal

    Qwen3.8-2.4T-A95B 作为开放权重模型正式发布,并已在 Modal 平台提供 Shared Endpoint 支持。相比 Qwen 3.7,该模型在编码、工作、研究和长程任务上均有显著提升。Modal 与 Qwen 团队合作实现了 Day Zero 支持,底层基于 SGLang 和针对 Qwen3.8 架构定制的 DFlash speculator,以加速推理过程。

    推荐理由:原文说明了新模型在Modal平台的即时可用性,以及通过自定义DFlash推测解码优化推理速度的具体技术实现。

8月11日周二
8月10日周一
  1. vLLM 官方博客83

    vLLM 宣布支持 NVIDIA Nemotron 3.5 Lightning 模型

    vLLM 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持。该模型采用 30B 总参数、3B 激活参数的混合 MoE 架构,专为始终在线的智能体设计,支持最高 100 万 token 上下文窗口。

    推荐理由:原文给出了混合 MoE 架构、投机解码配置及多硬件部署指南,读者可据此评估其在智能体工作流中的效率与落地可行性。

8月8日周六
8月5日周三
7月28日周二
  1. Ai2 / Allen Institute for AI42

    Ai2 推出 OlmoEarth Platform:实现行星尺度地理空间推理

    Ai2 发布 OlmoEarth Platform,支持将地球观测基础模型从微调扩展至大规模推理。该平台通过 CPU/GPU 分工与并行处理,可在约一天内完成大陆级区域推理,成本低至每平方公里几分钱。近期北美野火风险地图生成中,平台利用近两万个 CPU 和近千个 GPU 实现 155 倍加速。

  2. vLLM 官方博客65

    vLLM 与 Speculators 开源支持 P-EAGLE、DFlash 和 DSpark 并行起草算法

    vLLM 官方博客宣布与 Speculators 合作,正式提供对 P-EAGLE、DFlash 和 DSpark 三种最先进并行起草算法的完整开源支持。这些算法通过在单次验证器模型前向传播中并行生成整个候选 token 块,消除了传统自回归起草(如 EAGLE-3)中逐 token 生成的线性延迟瓶颈。

    推荐理由:vLLM 与 Speculators 开源支持 P-EAGLE、DFlash 和 DSpark 并行起草算法,通过单次前向传播生成候选块以突破自回归限制并提升推理速度。

7月27日周一
  1. Modal 官方工程博客77

    Modal 上线 Kimi K3 并实现 Day-0 支持

    Moonshot 发布拥有 2.8T 参数、1M token 上下文窗口及原生视觉能力的开源多模态模型 Kimi K3,Modal 在发布当日即提供运行支持。通过定制 DFlash 投机解码器,该模型在 Modal 上实现了 460 tokens/s 的生成速度,较基准提升 360% 交互性且吞吐量提高 88%。

    推荐理由:原文详述了针对Kimi K3架构定制的DFlash投机解码方案,展示了其在智能体工作负载下显著提升吞吐与响应速度的具体数据。

  2. vLLM 官方博客83

    vLLM 发布 Kimi K3 Day-0 高效支持指南

    vLLM 宣布为开源多模态 MoE 模型 Kimi K3 提供 Day-0 支持,涵盖架构适配、内核优化及部署配方。在 16 张 NVIDIA GB300 NVL72 GPU 上,启用 DSpark 推测解码后单用户吞吐可达 370 tok/s,较无推测解码提升 3.14 倍。该支持包括混合前缀缓存、预填充/解码分离及 AMD ROCm 兼容,相关 Docker 镜像和详细配置已开放获取。

    推荐理由:vLLM 官方给出了 Kimi K3 的 Day-0 支持细节与性能数据,开发者可据此评估其在生产环境中的部署可行性。

7月23日周四
  1. Together AI Blog68

    Together AI 发布面向开源权重模型的专用推理平台

    Together AI 推出 Dedicated Model Inference 平台,旨在为开源及微调模型提供兼顾控制权与易用性的生产级推理服务。该平台内置经过验证的部署配置文件,支持从 Hugging Face 或 S3 导入模型,并通过优化的缓存层实现约 4 倍的快速启动。

    推荐理由:Together AI 推出专用推理平台,通过预优化配置和金丝雀发布机制,降低开源模型生产环境部署门槛并提升迭代安全性。

7月21日周二
  1. Modal 官方工程博客60

    Modal 与 Cognition 合作推出 Devin Outposts 支持在自定义沙箱中运行 AI 软件工程师

    Cognition 推出 Devin Outposts,允许将 Devin 的执行环境迁移至用户可控的配置中,而推理仍保留在 Cognition 云端。Modal 作为首发合作伙伴提供 `modal-devin` 开源集成,使 Devin 会话能在 Modal Sandbox 中运行,利用其快速冷启动、GPU 按需分配及快照功能。

    推荐理由:原文说明了 Devin Outposts 如何将执行环境移至用户控制的 Modal Sandbox,同时保留云端推理,并提供了开源集成工具的具体配置方法。

7月16日周四
  1. Sierra Blog52

    Sierra 发布 Horizon 平台以支持智能体实现长周期目标

    Sierra 推出 Horizon 平台,使 AI 智能体能够执行如贷款审批或医疗预约等需要数天至数月交互的长周期任务。该平台在 Agent OS 基础上增加了长期规划能力和灵活上下文引擎,让智能体能从每次客户互动中自动学习并优化决策。Horizon 将客户交互数据转化为持续扩展的商业护城河,并采用按业务成果而非 Token 消耗计费的模式。

  2. Sierra Blog70

    Sierra 发布内部云智能体平台 Pinecone

    Sierra 发布内部云智能体平台 Pinecone,旨在通过云端会话捕获并规模化员工的隐性知识。该平台支持多用户协作、自动化 PR 监控及技能复用,底层集成 Codex 和 Claude Code 等主流模型。目前 Sierra 96% 的工程团队已接入,上月产生超 75,000 个会话,70% 的 Pull Request 由该工具发起。

    推荐理由:原文详述了内部云智能体 Pinecone 的架构设计与落地数据,展示了如何通过共享上下文将员工经验转化为组织资产。

7月15日周三
  1. Together AI Blog75

    Together AI 上线 Thinking Machines Lab 新模型 Inkling

    Thinking Machines Lab 发布新多模态混合专家模型 Inkling,Together AI 宣布在 Day 0 将其接入推理平台。该模型支持文本、图像和音频输入,拥有 975B 总参数、40B 激活参数及 1M 上下文窗口,并引入查询条件相对注意力等架构创新。

    推荐理由:原文详述了 Inkling 的混合专家架构与可控推理机制,并说明其在 Together AI 平台上的即时可用性与 API 特性。

  2. Modal 官方工程博客70

    Thinking Machines 发布多模态模型 Inkling 并上线 Modal

    Thinking Machines 发布通用多模态模型 Inkling,支持文本、图像和音频输入及文本输出。Modal 提供 Day 0 支持,将其作为基于 Token 计价的托管端点上线。

    推荐理由:原文披露了 Inkling 在 Modal 上的部署细节及 DFlash 投机解码优化,展示了针对混合专家架构的特定工程加速方案。

  3. Together AI Blog34

    Together GPU Clusters 增强生产级可靠性与运维控制

    Together AI 为 Together GPU Clusters 推出被动健康检查、自动节点修复及 Slurm-on-K8s 2.0,以解决大规模训练中的硬件故障与调度漂移。新方案通过持续监控实时负载识别 GPU 掉线等异常,并提供人工审批的自动修复流程。升级后的 Slurm 栈实现了自愈守护进程、持久化作业记账及准确的 GPU 状态管理,显著提升了集群稳定性。

7月1日周三
  1. Sierra Blog42

    Sierra Agent Studio 实验功能让 A/B 测试驱动 AI 智能体优化

    Sierra Agent Studio 推出实验功能,支持团队通过 A/B 测试验证 AI 智能体变更对解决率和客户留存的影响。该工具提供统计显著性仪表盘并支持渐进式流量发布,确保胜出变体可安全推广至全量用户。配合 Ghostwriter 分析对话模式自动生成假设,大幅缩短从想法到上线测试的周期。

6月30日周二
  1. Modal 官方工程博客60

    Modal 集成 Claude Science 提供可扩展计算能力

    Modal 宣布与 Anthropic 新发布的 AI 科研工作台 Claude Science 集成,为生命科学研究者提供按需扩展的计算基础设施。当研究人员在对话中运行蛋白质结构预测或分子筛选等计算密集型任务时,工作负载会自动路由至 Modal 沙箱以获取 GPU 或高并发 CPU 资源,而无需手动配置环境。

    推荐理由:原文展示了 Claude Science 如何自动路由计算密集型生物工作负载至 Modal,为科研人员提供无需配置基础设施的弹性算力支持。

6月25日周四
  1. Modal 官方工程博客62

    Modal 推出 Servers 功能实现超低延迟 HTTP 服务

    Modal 正式推出 Servers 功能,专为 HTTP、WebSocket 和 gRPC 流量设计,旨在满足 LLM 推理等对毫秒级延迟敏感的应用场景。该功能通过移除请求路径中的队列和控制平面查找,将 p50 延迟从 39ms 降低至 6ms。

    推荐理由:原文详细拆解了将 p50 延迟从 39ms 降至 6ms 的架构取舍,为低延迟推理服务提供了具体的工程参考。

6月23日周二
  1. Modal 官方工程博客68

    Modal 发布 Auto Endpoints:提供可完全掌控的生产级 LLM 推理服务

    Modal 推出 Auto Endpoints,允许用户通过单条命令部署兼容 OpenAI API 的生产级 LLM 推理服务,实现从 GPU 选择到引擎调优的全链路代码可见性。

    推荐理由:原文展示了从黑盒 API 到可观测代码的推理服务范式转变,读者可以据此评估自建推理栈的成本与性能平衡。

6月19日周五
  1. Modal 官方工程博客65

    Modal 开源 Qwen 系列 DFlash 推测解码模型

    Modal 在 Hugging Face 发布针对 Qwen 3.5 和 3.6 系列的多个 DFlash 推测解码(speculative decoding)草稿模型,包括 Qwen 3.6 35B-A3B-DFlash 等版本。

    推荐理由:官方开源多款DFlash推测解码模型并给出实测加速数据,为自托管推理优化提供了可直接复用的方案。

6月15日周一