跳到正文
8月15日周六
  1. Anthropic47

    Anthropic 发布第二份风险报告

    作为我们负责任扩展政策的一部分,我们会定期发布风险报告。这些报告详细说明了我们的系统存在的风险以及我们为应对这些风险所做的准备。我们的第二份风险报告现已发布:https://anthropic.com/aug-2026-risk-report…

8月14日周五
  1. Sierra Blog18

    Sierra 在慕尼黑开设办公室以拓展德国、奥地利和瑞士市场

    Sierra 宣布在慕尼黑设立办公室,旨在服务德国、奥地利和瑞士地区的企业。该公司专注于构建用于客户服务和营收增长的 AI 智能体,其客户涵盖三分之一全球领先银行及 40% 的 Fortune 50 企业。Sierra 强调通过快速部署(如 BBVA 30 天上线)帮助企业将 AI 转化为实际业务成果,而非仅消耗 token。

  2. vLLM 官方博客65

    vLLM 官方博客详解 DSpark 自适应验证机制以优化投机解码

    vLLM 引入 enable_adaptive_verification 功能,利用 DSpark 置信度头动态决定每步验证的草稿 token 数量,使投机解码在并发 256 时仍保持吞吐优势。

    推荐理由:vLLM 官方详解自适应验证机制,通过动态调整草稿预算解决高并发下投机解码性能瓶颈,提供可复现的配置与基准数据。

8月13日周四
  1. Google Developers Blog40

    HeyGen Avatar IV 迁移至 Google Cloud Trillium TPU,推理速度提升 1.86 倍

    HeyGen 将拥有超 18B 参数的 Avatar IV 扩散模型栈迁移至 Google Cloud 八芯片 Trillium (v6e) TPU 主机,实现比首个可用版本快 1.86 倍的推理速度。通过优化 all-to-all 集合通信与稀疏注意力内核,该方案在保持输出质量的同时,成本效率较 8×H100 生产环境提升最高 25%。

8月12日周三
  1. vLLM 官方博客82

    vLLM 宣布对 Qwen3.8-2.4T-A95B 提供 Day-0 支持

    vLLM 团队宣布为 Qwen3.8-2.4T-A95B 提供 Day-0 支持,该模型基于 Qwen 3.5 架构,是首个开放权重的 Qwen-Max 级模型。

    推荐理由:vLLM 官方提供了 Qwen3.8-2.4T-A95B 的 Day-0 支持细节,包括 FP4 量化权重、硬件优化内核及基准测试数据,有助于开发者评估大规模稀疏 MoE 模型的部署成本与性能。

  2. Modal 官方工程博客63

    Qwen3.8-2.4T-A95B 开源模型上线 Modal

    Qwen3.8-2.4T-A95B 作为开放权重模型正式发布,并已在 Modal 平台提供 Shared Endpoint 支持。相比 Qwen 3.7,该模型在编码、工作、研究和长程任务上均有显著提升。Modal 与 Qwen 团队合作实现了 Day Zero 支持,底层基于 SGLang 和针对 Qwen3.8 架构定制的 DFlash speculator,以加速推理过程。

    推荐理由:原文说明了新模型在Modal平台的即时可用性,以及通过自定义DFlash推测解码优化推理速度的具体技术实现。

8月11日周二
  1. Anthropic65

    Anthropic 展示未发布模型在黎曼猜想相关研究中的进展

    Anthropic 表示其一个尚未发布的模型在黎曼猜想相关问题上取得了进展,该模型提升了满足黎曼假设的 zeta 函数零点的比例下限。这一结果展示了大语言模型在复杂数学推理任务中的潜在能力,但原文未提供具体的数值细节或技术方法。

    推荐理由:官方展示了未发布模型在数学猜想上的具体进展,为评估前沿模型的深层推理能力提供了实证案例。

8月10日周一
  1. vLLM 官方博客83

    vLLM 宣布支持 NVIDIA Nemotron 3.5 Lightning 模型

    vLLM 宣布对 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持。该模型采用 30B 总参数、3B 激活参数的混合 MoE 架构,专为始终在线的智能体设计,支持最高 100 万 token 上下文窗口。

    推荐理由:原文给出了混合 MoE 架构、投机解码配置及多硬件部署指南,读者可据此评估其在智能体工作流中的效率与落地可行性。

8月8日周六
8月7日周五
8月6日周四
  1. vLLM 官方博客60

    vLLM 官方博客详解 Qwen3.5 在 GB200 上达成 25K TPS/GPU 的优化与复现方法

    vLLM 团队发布博客,展示如何通过解耦服务模式在 GB200 NVL72 系统上使 Qwen3.5-397B-A17B-NVFP4 模型达到超过 25,000 total TPS/GPU 的性能。

    推荐理由:vLLM 团队公开了 Qwen3.5 在 GB200 NVL72 上实现 25K TPS/GPU 的解耦服务配置、关键优化补丁及复现配方,为高性能推理部署提供直接参考。

8月5日周三
  1. Anthropic65

    Anthropic 回应 AISI 对 Claude Mythos 5 的无防护环境测试报告

    Anthropic 官方账号发布声明,提及英国 AI 安全研究所(AISI)近期发表了一份关于 Anthropic 旗下 Claude Mythos 5 模型的评估报告。该报告描述了在移除模型常规安全防护措施的实验环境中,让模型尝试完成特定任务的测试结果。

    推荐理由:官方披露了针对自家模型在移除防护后的特定任务测试背景,为理解前沿模型的安全评估流程提供了直接信源。

8月4日周二
8月3日周一
  1. Andrej Karpathy23

    Karpathy 分享自行车鹈鹕测试源码

    关于 @simonw 提到的“骑自行车的鹈鹕”测试的更多信息:https://simonwillison.net/2025/Jun/6/six-months-in-llms/… 我已在此上传源代码,以便在浏览器中游玩、fork 等。 https://karpathy.ai/lotr-movie/ 留意 GTA 霍比屯将在 GTA VI 之前发布 :)

8月2日周日
8月1日周六
  1. Together AI Blog87

    Kimi K3 发布:2.8 万亿参数开源模型及 Together AI 使用指南

    Moonshot AI 发布 Kimi K3,这是首个 3 万亿参数级别的开源权重模型,参数量达 2.8T,专为长程编码、知识工作和深度推理设计。该模型支持 1M 上下文窗口,采用 Kimi Delta Attention 和 Stable LatentMoE 等架构创新,在多项编码和智能体基准测试中表现接近前沿专有模型。

    推荐理由:原文给出了 Kimi K3 的架构细节、Together AI 上的 API 调用示例和定价策略,开发者可以据此评估其在长上下文编码和推理任务中的实际可用性。

7月31日周五
7月30日周四
  1. Sierra Blog50

    Sierra 推出 Agency:为 Pinecone 和 Ghostwriter 提供安全可扩展的智能体沙箱

    Sierra 发布 Agency,作为其智能体基础设施层,为 Pinecone 和 Ghostwriter 提供安全、可扩展的沙箱环境。该原生 Kubernetes 应用由无状态控制平面和有状态运行器组成,支持按需配置具备 8+ 核心与 24GiB 内存的计算资源。Agency 旨在解决第三方沙箱在资源限制与客户数据安全性上的不足,确保智能体能自主执行长时间运行的复杂任务。

7月29日周三
  1. Berkeley AI Research62

    K-Search 框架实现从 CUDA 到 MLX 的内核优化知识迁移

    Berkeley AI Research 团队扩展 K-Search 框架并引入 MLX 后端,通过结构化 CUDA-to-MLX 翻译层自动迁移内核优化知识。该方法在 Apple Silicon 上使 Attention 内核达到原生 MLX 的 0.97x 速度,并在 Mamba SSM 内核 prefill 阶段相比社区实现获得最高 20x 加速。

    推荐理由:原文展示了通过结构化翻译层将 CUDA 优化知识迁移至 Apple Silicon 的方法,实现了接近专家级的内核性能。

  2. Together AI Blog65

    Together AI 宣布与 Moonshot AI 达成战略合作以原生服务 Kimi 模型

    Together AI 宣布与 Moonshot AI 建立战略合作伙伴关系,成为其模型发布的启动平台,首发支持 Kimi K3。Kimi K3 是迄今最大的开源模型,拥有 2.8T 参数稀疏 MoE 架构、原生视觉支持和 1M token 上下文窗口,通过 Kimi Delta Attention 和 Attention Residuals 等新技术提升解码速度和训练效率。

    推荐理由:原文披露了合作细节及 Kimi K3 的架构特性,读者可据此评估开源大模型在长上下文与智能体工作流中的最新进展。

最多提供 50 页,更早的内容请使用搜索或主题页。