跳到正文
9月14日周一
  1. LangChain Blog62

    LangChain 发布 Managed Deep Agents Connections:支持托管凭证与按调用者身份隔离

    LangChain 为 Managed Deep Agents 推出 Connections 功能,允许开发者在 LangSmith 工作区中创建命名凭证,并通过 `connections.get()` 在运行时动态读取。

    推荐理由:LangChain 为 Managed Deep Agents 推出 Connections 功能,通过统一接口解决智能体在共享凭证与用户级身份认证之间的管理难题。

9月11日周五
9月10日周四
  1. vLLM 官方博客65

    vLLM 推出分层 KV 缓存卸载框架以优化长上下文推理

    vLLM 发布分层 KV 缓存卸载框架,允许将驱逐的 KV 数据保留在主机内存、存储或远程节点中,避免重新计算从而降低延迟并提升集群有效服务容量。该设计以主机内存为核心枢纽,支持文件系统、对象存储及 P2P 网络作为二级存储,实现了跨节点的缓存共享与混合模型(如 Mamba)的透明支持。基准测试显示,在高并发对话场景下,相比无卸载方案,启用存储卸载可使吞吐量翻倍以上。

    推荐理由:vLLM 通过分层 KV 缓存卸载机制,将 GPU 显存压力转移至主机内存和存储层,显著提升了长上下文场景下的集群服务容量与响应速度。

  2. Together AI Blog48

    Together AI 推出可抢占计算:价格减半

    Together AI 在 GPU Clusters 中推出可抢占计算公开预览,按按需费率的 50% 计费。该功能利用闲置 NVIDIA 算力,支持 Kubernetes 集群,节点被回收时提供最多 5 分钟排空窗口以保存检查点。适用于实验、推理突发及批处理等容错工作负载,用户可通过控制台或 API 动态调整目标容量。

9月9日周三
  1. Anthropic35

    Anthropic 发布 AI 经济情景探索器

    经济模型将工作分解为任务包。AI 可以帮助某人更快或更好地完成任务、直接执行任务、保持任务不变,或创建新任务。基于你对 2030 年 AI 如何影响任务的预期,我们的情景探索器对 AI 的潜力进行建模

  2. Google Developers Blog68

    Google 发布 ADK for Kotlin 1.0:支持构建生产就绪的 AI 智能体

    Google 正式宣布 Agent Development Kit (ADK) for Kotlin 1.0 通用可用性发布。该版本实现了与 ADK 1.0 Core 的功能完全对齐,并引入了针对 Android 和端侧场景的扩展,支持通过 LiteRT-LM、ML Kit 和 Firebase AI Logic 构建混合云工作流。

    推荐理由:原文展示了 ADK for Kotlin 1.0 的发布,包含与核心版本的功能对齐及 Android 端侧扩展,为开发者提供了构建生产级 AI 智能体的具体路径。

9月8日周二
  1. Google DeepMind78

    Google DeepMind 发布 AlphaGenome Atlas 基因组变异预测平台

    Google DeepMind 推出 AlphaGenome Atlas,这是一个包含人类基因组中90亿个单核苷酸变异分子效应预测的平台。该平台提供1 PB数据集、AlphaGenome Variant Impact (AVI) 评分及DNA序列motif资源,支持通过网站门户和API免费用于学术研究。外部合作者已利用该工具在罕见病研究和复杂性状关联分析中发现新线索。

    推荐理由:原文提供了覆盖全基因组的预测数据平台及免费入口,读者可据此评估其在罕见病与群体遗传学研究中的实际可用性。

9月7日周一
  1. vLLM 官方博客58

    vLLM 发布 TT Plugin 支持 Tenstorrent 硬件推理

    vLLM 推出 TT Plugin,通过标准插件机制将 Tenstorrent 加速器接入 vLLM,保持 OpenAI 兼容 API 不变。该方案利用编译式网格程序实现相位约束调度、单进程 Lane 数据并行及端侧采样,解决了非 GPU 架构与现有推理栈的兼容性问题。目前支持 Llama、Qwen、GPT-OSS 等多模态模型,暂不支持推测解码和 LoRA。

9月4日周五
8月28日周五
  1. Anthropic60

    Anthropic 发布新产品或功能更新

    Anthropic 官方账号发布了一条关于新产品或功能更新的公告。该消息由 Anthropic 直接发出,标志着其在 AI 产品领域的最新动作。

    推荐理由:Anthropic 官方宣布新产品或功能更新,读者可据此了解其最新能力边界及在智能体工作流中的潜在应用。

8月27日周四
  1. LangChain Blog78

    LangChain 发布 LangGraph v0.1 及 LangGraph Cloud

    LangChain 正式发布 LangGraph v0.1 稳定版并推出处于封闭测试阶段的 LangGraph Cloud。LangGraph v0.1 通过低层级 API 支持条件分支、循环及人机协作,旨在提升智能体工作流的精确控制力与可靠性。

    推荐理由:LangGraph v0.1 与 LangGraph Cloud 的发布提供了从精细控制到规模化部署的完整链路,有助于解决智能体在复杂工作流中的可靠性与运维难题。

  2. LangChain Blog68

    LangSmith LLM Gateway 进入公开测试版

    LangSmith LLM Gateway 现已进入公开测试版,作为位于智能体与模型之间的中央治理层,提供运行时控制能力。该工具支持设置多级支出上限和速率限制以防止成本超支,并具备模型故障转移及敏感数据(PII)检测与脱敏功能。

    推荐理由:原文详述了网关在成本控制、故障转移及数据脱敏上的具体机制,为生产环境智能体治理提供了可落地的参考方案。

8月21日周五
  1. Sierra Blog38

    Sierra 平台推出 Agent 发布治理功能

    Sierra 在平台内集成发布治理机制,通过 Agent Checks、模拟测试及合并审批工作流保障大规模 Agent 变更安全。该方案引入分流发布策略实现渐进式上线,并支持基于不可变快照的快速回滚,将软件工程的自动化测试与代码审查规范应用于 Agent 开发全生命周期。

  2. Microsoft Research47

    Microsoft Research 发布 Skala 1.1,在 GMTKN55 基准中获 32 项第一并集成至 CP2K

    Microsoft Research 推出深度学习 DFT 模型 Skala 1.1,其训练数据量增加 2.5 倍,在 GMTKN55 基准的 55 个类别中有 32 个排名第一。该模型以 meta-GGA 计算成本实现超越全局杂化泛函的精度,加权平均误差为 2.8 kcal/mol。Skala 现已支持 CP2K,并正集成至 Psi4、FHI-aims、ORCA 和 VASP 等主流软件。

8月20日周四
  1. Mistral AI68

    Mistral AI 发布 Agentic Search:提升复杂文档检索准确率并降低延迟

    Mistral AI 正式推出 Agentic Search,这是一种旨在让 AI 系统能够导航、阅读和验证复杂文档信息的多步检索层。该产品通过引入 search、open、navigate、read 和 grep 五个工具,解决了传统一次性 RAG 无法深入长文档或跨源验证的痛点。

    推荐理由:Mistral 推出 Agentic Search,通过多步检索循环解决传统 RAG 在复杂文档中的局限,并在金融与政府文档基准测试中展示了显著的准确率提升和延迟降低。

8月19日周三
8月17日周一
8月14日周五
8月13日周四
8月12日周三
  1. vLLM 官方博客82

    vLLM 宣布对 Qwen3.8-2.4T-A95B 提供 Day-0 支持

    vLLM 团队宣布为 Qwen3.8-2.4T-A95B 提供 Day-0 支持,该模型基于 Qwen 3.5 架构,是首个开放权重的 Qwen-Max 级模型。

    推荐理由:vLLM 官方提供了 Qwen3.8-2.4T-A95B 的 Day-0 支持细节,包括 FP4 量化权重、硬件优化内核及基准测试数据,有助于开发者评估大规模稀疏 MoE 模型的部署成本与性能。

  2. Modal 官方工程博客63

    Qwen3.8-2.4T-A95B 开源模型上线 Modal

    Qwen3.8-2.4T-A95B 作为开放权重模型正式发布,并已在 Modal 平台提供 Shared Endpoint 支持。相比 Qwen 3.7,该模型在编码、工作、研究和长程任务上均有显著提升。Modal 与 Qwen 团队合作实现了 Day Zero 支持,底层基于 SGLang 和针对 Qwen3.8 架构定制的 DFlash speculator,以加速推理过程。

    推荐理由:原文说明了新模型在Modal平台的即时可用性,以及通过自定义DFlash推测解码优化推理速度的具体技术实现。

8月11日周二
8月10日周一
  1. vLLM 官方博客83

    vLLM 宣布支持 NVIDIA Nemotron 3.5 Lightning 模型

    vLLM 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持。该模型采用 30B 总参数、3B 激活参数的混合 MoE 架构,专为始终在线的智能体设计,支持最高 100 万 token 上下文窗口。

    推荐理由:原文给出了混合 MoE 架构、投机解码配置及多硬件部署指南,读者可据此评估其在智能体工作流中的效率与落地可行性。

8月8日周六
8月5日周三
7月31日周五
7月28日周二
  1. Ai2 / Allen Institute for AI42

    Ai2 推出 OlmoEarth Platform:实现行星尺度地理空间推理

    Ai2 发布 OlmoEarth Platform,支持将地球观测基础模型从微调扩展至大规模推理。该平台通过 CPU/GPU 分工与并行处理,可在约一天内完成大陆级区域推理,成本低至每平方公里几分钱。近期北美野火风险地图生成中,平台利用近两万个 CPU 和近千个 GPU 实现 155 倍加速。

  2. vLLM 官方博客65

    vLLM 与 Speculators 开源支持 P-EAGLE、DFlash 和 DSpark 并行起草算法

    vLLM 官方博客宣布与 Speculators 合作,正式提供对 P-EAGLE、DFlash 和 DSpark 三种最先进并行起草算法的完整开源支持。这些算法通过在单次验证器模型前向传播中并行生成整个候选 token 块,消除了传统自回归起草(如 EAGLE-3)中逐 token 生成的线性延迟瓶颈。

    推荐理由:vLLM 与 Speculators 开源支持 P-EAGLE、DFlash 和 DSpark 并行起草算法,通过单次前向传播生成候选块以突破自回归限制并提升推理速度。

7月27日周一
  1. Modal 官方工程博客77

    Modal 上线 Kimi K3 并实现 Day-0 支持

    Moonshot 发布拥有 2.8T 参数、1M token 上下文窗口及原生视觉能力的开源多模态模型 Kimi K3,Modal 在发布当日即提供运行支持。通过定制 DFlash 投机解码器,该模型在 Modal 上实现了 460 tokens/s 的生成速度,较基准提升 360% 交互性且吞吐量提高 88%。

    推荐理由:原文详述了针对Kimi K3架构定制的DFlash投机解码方案,展示了其在智能体工作负载下显著提升吞吐与响应速度的具体数据。

  2. vLLM 官方博客83

    vLLM 发布 Kimi K3 Day-0 高效支持指南

    vLLM 宣布为开源多模态 MoE 模型 Kimi K3 提供 Day-0 支持,涵盖架构适配、内核优化及部署配方。在 16 张 NVIDIA GB300 NVL72 GPU 上,启用 DSpark 推测解码后单用户吞吐可达 370 tok/s,较无推测解码提升 3.14 倍。该支持包括混合前缀缓存、预填充/解码分离及 AMD ROCm 兼容,相关 Docker 镜像和详细配置已开放获取。

    推荐理由:vLLM 官方给出了 Kimi K3 的 Day-0 支持细节与性能数据,开发者可据此评估其在生产环境中的部署可行性。

7月23日周四
  1. Together AI Blog68

    Together AI 发布面向开源权重模型的专用推理平台

    Together AI 推出 Dedicated Model Inference 平台,旨在为开源及微调模型提供兼顾控制权与易用性的生产级推理服务。该平台内置经过验证的部署配置文件,支持从 Hugging Face 或 S3 导入模型,并通过优化的缓存层实现约 4 倍的快速启动。

    推荐理由:Together AI 推出专用推理平台,通过预优化配置和金丝雀发布机制,降低开源模型生产环境部署门槛并提升迭代安全性。