跳到正文
10月16日周五
  1. IT之家40

    苹果 Minions 研究:聚合闲置 Mac GPU 构建虚拟云,将 10 小时 AI 任务压缩至数分钟

    苹果团队发布 Minions 系统研究,通过聚合闲置 Apple Silicon GPU 构建动态调度的“虚拟 GPU 云”,用于运行大规模机器学习推理。该方案利用拉取式任务模型协调多台 Mac 协同工作,使原本需排队超 10 小时的推理任务在数分钟内开始执行,无需新增硬件即可降低基础设施成本。目前该技术主要面向企业内部工程场景,尚未作为消费者产品推出。

10月14日周三
  1. Modal 官方工程博客58

    Modal 提出混合精度与异构加速器采样器下的稳定强化学习训练方案

    Modal 团队在 Qwen3.6-35B-A3B 上验证了使用六种不同加速器和精度的混合采样器进行异步强化学习训练的可行性。通过结合掩码重要性采样、分数中心化和 Top-p 掩码重放等离策略校正技术,该方法在保持训练稳定的同时,使采样成本降低约 15%,且在 SWE-bench Pro V2 上的表现与同构采样器相当。

10月7日周三
  1. MIT News · AI28

    林肯实验室超算中心发布 AI 硬件演进综述

    林肯实验室超算中心(LLSC)通过 Lincoln AI Computing Survey (LAICS) 持续追踪并对比商用 AI 加速器的峰值性能与功耗。该系列最新论文分析了超过 120 种加速器,涵盖 CPU、GPU、ASIC 等多种架构形式。研究旨在为政府及机构提供中立的技术选型参考,以应对每年新增的多家初创公司及其发布的新型 AI 硬件。

9月24日周四
  1. Modal 官方工程博客68

    Modal 发布 Quail:联合优化查询规划器与推理引擎以加速 AI-SQL

    Modal 推出名为 Quail 的推理引擎,专门用于加速 AI-SQL 工作负载,在单张 H100 GPU 上实现超过 10 亿 tokens/min 的处理速度,比 vLLM 基线快 10 倍以上。

    推荐理由:原文展示了针对 AI-SQL 负载的专用推理引擎 Quail,通过联合优化查询计划与推理过程实现显著性能提升。

9月8日周二
8月24日周一
  1. SemiAnalysis83

    SemiAnalysis 发布开源智能体推理基准 AgentX 1.0

    SemiAnalysis 宣布推出 AgentX 1.0,这是全球首个完全开源的多轮智能体编码推理基准,支持百万级上下文长度,采用 Apache 2.0 协议发布。

    推荐理由:SemiAnalysis 发布首个百万上下文智能体编码推理基准 AgentX,并开源了针对 vLLM、SGLang 等框架的数十项上游优化,为评估 AI 硬件在真实多轮长上下文负载下的性能提供了新标准。

8月21日周五
  1. vLLM 官方博客39

    SkyRL 推出 IsoExec:消除 RL 训练与推理引擎不匹配

    SkyRL 引入 IsoExec,通过统一执行契约和位级一致内核消除强化学习中训练与推理引擎的不匹配。在单节点 8×H100 上对 Qwen3.5-35B-A3B 进行 DAPO 训练时,平均 logprob 差异降至极低水平,相比基线仅增加 25% 开销。该方案支持 vLLM 和 Megatron,解决了浮点非结合性导致的调试难题。

7月29日周三
  1. Berkeley AI Research62

    K-Search 框架实现从 CUDA 到 MLX 的内核优化知识迁移

    Berkeley AI Research 团队扩展 K-Search 框架并引入 MLX 后端,通过结构化 CUDA-to-MLX 翻译层自动迁移内核优化知识。该方法在 Apple Silicon 上使 Attention 内核达到原生 MLX 的 0.97x 速度,并在 Mamba SSM 内核 prefill 阶段相比社区实现获得最高 20x 加速。

    推荐理由:原文展示了通过结构化翻译层将 CUDA 优化知识迁移至 Apple Silicon 的方法,实现了接近专家级的内核性能。

7月1日周三
6月30日周二
  1. Together AI Blog45

    Together AI 在 ICML 2026 展示全栈前沿研究

    Together AI 在 ICML 2026 发布九篇论文,覆盖从智能体到 GPU 内核的全栈优化。ThunderAgent 实现最高 3.6× 智能体推理加速,TTT-Discover 用开源 gpt-oss-120b 模型以约 $500 成本超越人类最佳发现。Aurora 自适应推测解码与 Untied Ulysses 支持单节点 5M-token 上下文,共同提升平台效率。

6月23日周二
5月19日周二