苹果 Minions 研究:聚合闲置 Mac GPU 构建虚拟云,将 10 小时 AI 任务压缩至数分钟
苹果团队发布 Minions 系统研究,通过聚合闲置 Apple Silicon GPU 构建动态调度的“虚拟 GPU 云”,用于运行大规模机器学习推理。该方案利用拉取式任务模型协调多台 Mac 协同工作,使原本需排队超 10 小时的推理任务在数分钟内开始执行,无需新增硬件即可降低基础设施成本。目前该技术主要面向企业内部工程场景,尚未作为消费者产品推出。
苹果团队发布 Minions 系统研究,通过聚合闲置 Apple Silicon GPU 构建动态调度的“虚拟 GPU 云”,用于运行大规模机器学习推理。该方案利用拉取式任务模型协调多台 Mac 协同工作,使原本需排队超 10 小时的推理任务在数分钟内开始执行,无需新增硬件即可降低基础设施成本。目前该技术主要面向企业内部工程场景,尚未作为消费者产品推出。
Modal 团队在 Qwen3.6-35B-A3B 上验证了使用六种不同加速器和精度的混合采样器进行异步强化学习训练的可行性。通过结合掩码重要性采样、分数中心化和 Top-p 掩码重放等离策略校正技术,该方法在保持训练稳定的同时,使采样成本降低约 15%,且在 SWE-bench Pro V2 上的表现与同构采样器相当。
林肯实验室超算中心(LLSC)通过 Lincoln AI Computing Survey (LAICS) 持续追踪并对比商用 AI 加速器的峰值性能与功耗。该系列最新论文分析了超过 120 种加速器,涵盖 CPU、GPU、ASIC 等多种架构形式。研究旨在为政府及机构提供中立的技术选型参考,以应对每年新增的多家初创公司及其发布的新型 AI 硬件。
Modal 推出名为 Quail 的推理引擎,专门用于加速 AI-SQL 工作负载,在单张 H100 GPU 上实现超过 10 亿 tokens/min 的处理速度,比 vLLM 基线快 10 倍以上。
推荐理由:原文展示了针对 AI-SQL 负载的专用推理引擎 Quail,通过联合优化查询计划与推理过程实现显著性能提升。
SemiAnalysis 发布 ClusterMAX 3.0 报告,对 77 家 neocloud 提供商进行了全面测试与评级。Nebius 晋升至 Platinum 级,Google Cloud 进入 Gold 级,Azure 降至 Silver 级。该版本扩大了市场覆盖范围至 323 家提供商,并深入分析了融资、Blackwell 部署、网络架构及安全性等关键趋势。
SemiAnalysis在InferenceX Preview中发布了Google TPUv7 Ironwood的首批第三方推理结果,显示其在FP8聚合服务模式下相比NVIDIA B200/B300拥有最高50%的性能每美元优势。
推荐理由:第三方实测显示TPUv7在FP8聚合服务下性能每美元比B200高50%,并解析了TorchTPU栈的优化细节。
METR 研究显示 AI 在网络安全领域显著加速,数学研究略有贡献,但 AI 自身算法优化未见明显提速。SPADE 框架通过自博弈自动生成可执行训练环境,利用 Qwen3-30B-A3B 模型使游戏套件平均分达 58.3,较基线提升 8.1 分。
SemiAnalysis 宣布推出 AgentX 1.0,这是全球首个完全开源的多轮智能体编码推理基准,支持百万级上下文长度,采用 Apache 2.0 协议发布。
推荐理由:SemiAnalysis 发布首个百万上下文智能体编码推理基准 AgentX,并开源了针对 vLLM、SGLang 等框架的数十项上游优化,为评估 AI 硬件在真实多轮长上下文负载下的性能提供了新标准。
SkyRL 引入 IsoExec,通过统一执行契约和位级一致内核消除强化学习中训练与推理引擎的不匹配。在单节点 8×H100 上对 Qwen3.5-35B-A3B 进行 DAPO 训练时,平均 logprob 差异降至极低水平,相比基线仅增加 25% 开销。该方案支持 vLLM 和 Megatron,解决了浮点非结合性导致的调试难题。
Berkeley AI Research 团队扩展 K-Search 框架并引入 MLX 后端,通过结构化 CUDA-to-MLX 翻译层自动迁移内核优化知识。该方法在 Apple Silicon 上使 Attention 内核达到原生 MLX 的 0.97x 速度,并在 Mamba SSM 内核 prefill 阶段相比社区实现获得最高 20x 加速。
推荐理由:原文展示了通过结构化翻译层将 CUDA 优化知识迁移至 Apple Silicon 的方法,实现了接近专家级的内核性能。
Together AI 推出 ThunderAgent,一种用于高吞吐量智能体推理的系统,通过将每个智能体工作流抽象为可调度的程序来解决 KV cache 抖动问题。
推荐理由:ThunderAgent 通过程序级调度解决 KV cache 抖动,在合成数据生成中实现最高 2.5 倍吞吐提升且兼容现有引擎。
Modal Research 与 NYU Shanghai HeavyBall Research 联合推出 Multi-token Residual Prediction (MRP) 模块,将多 token 预测引入扩散语言模型。
Together AI 在 ICML 2026 发布九篇论文,覆盖从智能体到 GPU 内核的全栈优化。ThunderAgent 实现最高 3.6× 智能体推理加速,TTT-Discover 用开源 gpt-oss-120b 模型以约 $500 成本超越人类最佳发现。Aurora 自适应推测解码与 Untied Ulysses 支持单节点 5M-token 上下文,共同提升平台效率。
ParallelKernelBench (PKB) 基准测试显示,GPT-5.5、Claude Opus 4.7 等前沿模型在多 GPU CUDA 内核生成上表现不佳。零样本下最佳模型仅正确解决 87 个问题中的 28 个,且只有 22 个优于 PyTorch + NCCL 基线;采样三次后快速通过率仍不足 31%。
Together AI 发布了针对编码智能体的大规模推理基准测试 v1,重点评估高并发和长上下文下的系统表现。该测试使用 Kimi K2.5 模型,显示 Together Inference Engine 在 2.5M TPM 负载下 p50 TTFT 为 0.71s,优于 TensorRT-LLM 的 1.1s 和 SGLang 的 5.1s。