Modal 提出混合精度与异构加速器采样器下的稳定强化学习训练方案
Modal 团队在 Qwen3.6-35B-A3B 上验证了使用六种不同加速器和精度的混合采样器进行异步强化学习训练的可行性。通过结合掩码重要性采样、分数中心化和 Top-p 掩码重放等离策略校正技术，该方法在保持训练稳定的同时，使采样成本降低约 15%，且在 SWE-bench Pro V2 上的表现与同构采样器相当。
#部署/工程
Modal 官方工程博客AI 评分5858 AWS Machine Learning BlogAI 评分2626 Amazon Bedrock 通过托管权限简化私有定价优惠的多账户管理
Amazon Bedrock 推出托管权限功能，允许在中心账户订阅一次 AWS Marketplace 私有定价优惠并分发至组织内多账户。该方案提供轻量级脚本和基于 AWS CDK 的事件驱动自动化两种路径，分别用于一次性激活和持续验证卖家、创建及激活分布式授权，从而消除手动检查 License Manager 的运营摩擦并确保协商价格生效。
AWS Machine Learning BlogAI 评分4040 ShipStation Global 基于 Amazon Bedrock AgentCore 构建 AI IT 帮助台
ShipStation Global 在 Amazon Bedrock AgentCore 上构建了名为 Deckhand 的 Slack AI IT 帮助台，解决了 97.5% 的入站查询并获得 96% 的员工正面反馈。
AWS Machine Learning BlogAI 评分3535 Amazon SageMaker AI 优化 Mixture-of-Experts 内核工程
Amazon SageMaker AI 通过 Swap-AB 技术优化 Hopper 架构上的 MoE 内核，将专家维度映射至固定行数以提升 WGMMA 利用率，使 H200 上的端到端吞吐量提高 2–4%，该优化已集成至 vLLM 0.24.0+。针对 FP8 量化模型，Triton 后端因寄存器级融合与单次内存访问特性，在低并发场景下性能优于默认的 FlashInfer+CUTLASS 路径。
Simon WillisonAI 评分3333 Simon Willison 发布 web-edit 0.1a0
Simon Willison 推出 Python Web 应用 web-edit 0.1a0，提供文件夹内文件的查看与编辑界面。该工具由 Codex 和 GPT-6 Astra Extra High 构建，旨在通过 Tailscale 网络实现移动端直接编辑凭证文件，避免数据经由 LLM 传输。其编辑功能基于 CodeMirror 6，以优化移动端的交互体验。
IT之家AI 评分4242 英伟达 DLSS 5 新模型 10 月 16 日推送：性能翻倍，4K 显存占用降低 20%
英伟达将于 10 月 16 日推送 DLSS 5 最新神经渲染模型，其性能较 9 月版本提升 2 倍，GPU 开销降低约 50%，4K 分辨率下显存占用减少 20%。该模型参数规模缩减至约 1.18 亿，将率先登陆 NBA 2K27 并成为未来所有 DLSS 5 游戏的默认配置。
LangChain Blog精选AI 评分6868 LangChain 集成 ScaleDown 以优化长运行智能体上下文管理
LangChain 发布 langchain-scaledown 集成，利用 ScaleDown 的受限解码模型（CDMs）来高效处理长运行智能体的上下文管理任务。
推荐理由：LangChain 集成 ScaleDown 受限解码模型，提供摘要、压缩和提取中间件，帮助开发者低成本管理长运行智能体的上下文。
IT之家AI 评分2727 华硕发布 NVIDIA MGX 服务器 XA P2N-E2，支持 RTX PRO 6000 Blackwell 双卡
华硕在 2026 OCP 全球峰会发布基于 NVIDIA MGX 架构的 2U 服务器 XA P2N-E2。该机型配备 Vera CPU 和最多 2 块 RTX PRO 6000 Blackwell 服务器版 GPU，专为代理式 AI 与强化学习工作负载打造。
IT之家AI 评分4646 英伟达开放 Vera Rubin 机架设计并发布多项 AI 基础设施标准
英伟达在 OCP 峰会宣布开放 Vera Rubin 机架与计算托架设计，并联合 Cisco、Google 等发布多项 AI 基础设施开放标准。更新后的 MGX 1.2 架构支持最高 250kW 机架部署及盲插式液冷，同时开源 DSX AI Factory 软件组件以加速集群部署。
IT之家AI 评分3737 SK 海力士发布 SSD 专用处理器架构 H-TPU，功耗仅为传统 CPU 的 2.5%
SK 海力士推出自研超轻量事务专用处理器“H-TPU”，旨在克服传统通用 CPU 在存储控制中的功耗与面积限制。该架构采用简化的四级流水线，占用面积仅为通用 CPU 核心的 1/25，功耗约为 2.5%，并计划应用于下一代企业级固态硬盘控制器及 AI 存储架构“Storage Next”。
Simon WillisonAI 评分4545 Python 3.15 发布：支持惰性导入与采样分析器，Python 3.10 停止维护
Python 3.15 正式发布，引入 PEP 810 显式惰性导入以优化启动速度，并内置名为 Tachyon 的采样分析器。随着 Python 3.10 停止官方支持，开发者可全面启用 3.11 特性如 `tomllib`、`TaskGroup` 及 SQLite 增强功能。
vLLM 官方博客精选AI 评分6262 vLLM 推出双向 KV 传输以优化多轮智能体工作负载 TTFT
vLLM 发布双向 KV Cache 传输功能，允许预填充节点复用解码节点保留的 KV 块，从而减少多轮对话中的重复计算并降低首 Token 时间（TTFT）。
推荐理由：vLLM 引入双向 KV 传输机制，通过复用解码节点缓存显著降低多轮智能体工作负载的 TTFT，为长上下文场景提供可落地的性能优化方案。
AWS Machine Learning BlogAI 评分3737 泰国、马来西亚等五地可通过 Amazon Bedrock 全球跨区域推理访问 OpenAI GPT-6 模型
Amazon Bedrock 在泰国、马来西亚、新加坡、印尼和台湾推出全球跨区域推理，支持访问 OpenAI GPT-6 Sol、Luna 和 Astra。用户可从上述源区域调用这些模型，利用其他 AWS 区域的容量以缓解单区域限流。GPT-6 系列均支持文本图像输入及提示缓存，通过 Converse API 或 OpenAI 兼容接口接入。
Modal 官方工程博客AI 评分4242 Modal 推出 Endpoint Candidates 用于评估与提升推理端点
Modal 正式推出 Endpoint Candidates，允许用户为 Dedicated Endpoints 暂存替代部署以评估质量、延迟、吞吐量和成本。该功能支持镜像生产流量并独立运行基础设施，用户可通过仪表盘监控指标并在验证后一键提升至生产环境。Endpoint Candidates 现已在 Modal 所有工作区全面可用，采用标准计算定价。
AWS Machine Learning BlogAI 评分3636 AWS 推出 Ray LLM Deep Learning Containers 支持多节点推理
AWS 发布 Ray LLM Deep Learning Containers，支持在 Amazon EKS 上跨两个 GPU 节点部署大语言模型。该容器集成 vLLM、NIXL 和 EFA，通过分离 Prefill 与 Decode 阶段实现解耦推理，并暴露 OpenAI 兼容 API。
AWS Machine Learning BlogAI 评分3838 在 Amazon SageMaker AI 上使用 llama.cpp 部署决策模型
该方案利用 AWS Deep Learning Containers (DLC) for llama.cpp，在 Amazon SageMaker AI 上通过 SemIf 适配器实现结构化决策推理。
NVIDIA BlogAI 评分5050 NVIDIA 在 OCP 峰会开放 Vera Rubin 架构以扩展全球 AI 工厂
NVIDIA 在 OCP 全球峰会上通过 MGX 开源架构贡献了 Vera Rubin 机架与计算托盘设计，旨在加速全球 AI 工厂规模化部署。MGX 1.2 规范支持最高 250kW 机架功率及盲插液冷技术，并新增面向智能体时代的 Vera CPU 机架设计。此外，NVIDIA 发布了 DSX AI Factory 的开源软件组件，涵盖网络配置、集群验证及裸机供应等功能。
IT之家AI 评分4040 AMD 发布面向代理式 AI 计算的 Helion 机架，纯 CPU 版可扩展至 32,768 核心
AMD 推出面向代理式人工智能计算负载的 Helion 机架解决方案。该方案基于 OCP 设计规范，支持灵活组合 CPU 和 GPU 资源，其中搭载第六代 EPYC（霄龙）处理器的纯 CPU 版本可扩展至 32,768 核心。AMD 计划将规范贡献给 OCP 社区，并预计于 2026 年 11 月正式推出该产品。
IT之家AI 评分2828 中国移动呼和浩特智算中心扩容竣工，总算力达 20100P
中国移动呼和浩特智算中心 B25、B27 扩容工程近日竣工，总算力达 20100P（其中智算 16700P），90% 算力服务京津冀。该项目合约额 27 亿元，IT 总功率 120MW，绿电占比 88%，平均 PUE 低至 1.15。依托 400G OTN 骨干网，呼和浩特至北京单向传输时延为 3.5 毫秒。
vLLM 官方博客精选AI 评分7878 vLLM 宣布支持 NVIDIA Vera Rubin NVL72，吞吐量较 GB200 提升 7.8 倍
vLLM 正式宣布支持 NVIDIA Vera Rubin NVL72 平台，在 AgentX 基准测试中实现每 GPU 吞吐量较 GB200 NVL72 提升 7.8 倍。
推荐理由：vLLM 官方展示了在 Vera Rubin NVL72 上的初步性能数据与内核优化细节，为评估下一代硬件的推理收益提供了具体参考。
AWS Machine Learning BlogAI 评分4242 Postman 如何在 Amazon Bedrock 上为 4000 万开发者运行 Agent Mode
Postman 基于 Amazon Bedrock 构建 Agent Mode，服务 4000 万开发者。该架构通过向量数据库将 170+ 工具动态筛选至约 15 个以解决工具蔓延问题，并集成 Guardrails 进行 PII 脱敏及多层级提示词缓存，实现跨地域推理与零数据保留。
Hugging Face BlogAI 评分4949 Ai2 实施 GPU 集群高影响力调度策略
Ai2 用包含 GPU 时间预算、层级公平份额分配和时间切片合约的系统替换了基于优先级的调度器。该方案将资源争夺转化为透明的行政预算流程，解决了 NVIDIA H100/B200/B300 集群中的“公地悲剧”与优先级通胀问题。
Ai2 / Allen Institute for AIAI 评分4040 Ai2 用 GPU 时间预算与层级公平分配替代优先级调度以提升集群影响力
Ai2 将 GPU 集群调度从优先级模式改为包含 GPU 时间预算、层级公平分配和时间切片契约的系统，以解决资源竞争导致的“公地悲剧”。该方案使高价值研究获得资源的频率（即影响力）成为核心指标，并将算力分配决策转化为透明的行政预算流程。目前 Ai2 管理数千块 NVIDIA H100、B200 和 B300 GPU，面临 2-3 倍的超额需求，新机制旨在维持满负荷运行的同时优化科研产出。
IT之家AI 评分5555 微软升级 Win11 AI 框架，实验性支持 GGUF 与 ONNX 原生本地推理
微软在 Windows 11 上升级 Windows ML 框架，实验性原生支持 GGUF 与 ONNX 格式模型的本地推理，并推出 Windows ML Runtime API。开发者现可通过 llama.cpp 的实验性集成，从 Hugging Face 导入 GGUF 模型并在本地直接运行，同时微软携手英伟达向相关性能优化贡献代码。
IT之家AI 评分3030 Frore 发布 LiquidJet Diamond：集成金刚石均热板，GPU 热点降温 10℃
Frore Systems 推出 LiquidJet Diamond，在原有冷板基础上集成金刚石晶圆均热板。该产品可冷却功率密度达 770 W/cm² 的热点，实现 GPU 温度降低 10℃ 及词元能效提升 10%。
Simon WillisonAI 评分2323 ttok 0.4 发布
Simon Willison 发布了 CLI 工具 ttok 的 0.4 版本。该更新修复了 Click 警告并升级了 CI，同时新增 `--list-models` 命令以列出可用模型。ttok 基于 OpenAI 的 tiktoken 库，支持通过 `uvx` 直接运行以统计文本 token 数量。
LangChain BlogAI 评分3535 Snyk 如何将内部支持 Agent 转化为客户功能
Snyk 基于 LangChain 和 LangGraph 构建的 AI 安全助手 Snyk Assist，于 2026 年 9 月从内部工具正式转为面向所有付费客户的核心产品功能。该智能体通过 LangSmith 进行可观测性管理与评估，利用中间件处理权限、状态及护栏，确保仅返回用户有权访问的数据并支持自动化工单等操作。
AWS Machine Learning BlogAI 评分5353 AWS 详解 AI 智能体按次推理付费：Incarna 与 BlockRun 基于 Amazon Bedrock AgentCore payments 的实践
Amazon Bedrock AgentCore payments 为 AI 智能体提供托管的按需支付能力，支持 x402 协议并在基础设施层强制执行支出限制。Incarna 利用该服务让智能体向 BlockRun 按请求购买模型推理，将集成工作从数月缩短至三天，并上线了端到端的按次付费流程。该方案通过 Coinbase CDP 钱包和 USDC 结算，确保每笔交易可审计且智能体无法超出预设预算。
AWS Machine Learning BlogAI 评分3131 Amazon SageMaker HyperPod 多租户架构：实现 GPU 集群隔离与公平共享
Amazon SageMaker HyperPod 提供基于 EKS 的多租户参考架构，支持团队间共享 GPU 集群并保障隔离与公平性。该方案整合 AWS IAM Identity Center、Kubernetes 命名空间及 HyperPod Task Governance，实现资源配额管理与成本分摊。
IT之家AI 评分2828 AMD 向 RDNA 3/4 独立显卡推送支持 ROCm 10.1 的驱动程序
AMD 向 Radeon RX 9000、RX 7900/7800/7700/7600 及 AI PRO R9700 系列显卡推送新版 Adrenalin Edition 驱动，该版本无游戏改进，仅支持 ROCm 10.1。ROCm 10.1 引入 ROCm CLI、支持 LLVM 24，并优化数据移动效率与 GPU 虚拟化，其 WSL2 支持进入技术预览阶段。
AWS Machine Learning BlogAI 评分3131 Amazon Quick 与 Amazon Bedrock 如何通过实时 ACL 验证解决 RAG 访问控制难题
Amazon Quick 和 Amazon Bedrock Knowledge Bases 采用实时 ACL 验证机制，在查询时直接调用权威数据源 API 校验权限，以解决传统 RAG 中因同步延迟导致的权限过期问题。该方案结合预检索过滤与实时验证两阶段架构，确保 AI 生成的答案严格遵循用户当前的文档访问权限，避免泄露敏感信息。
LangChain Blog精选AI 评分6565 LangChain Deep Agents 升级 Skills 支持：新增工具绑定与动态重载
LangChain 宣布在 Deep Agents 中全面升级 Skills 支持，旨在解决企业级大规模技能库的管理难题。
推荐理由：原文详细说明了工具绑定、固定加载和动态重载机制，展示了如何优化大规模技能库的上下文管理。
IT之家AI 评分7373 英伟达发布 DGX Station for Windows：支持本地运行 1 万亿参数模型
英伟达发布定位为桌面级 AI 超级计算机的 DGX Station for Windows，计划于 2026 年第四季度上市。该设备搭载 NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip，配备最高 748GB 统一内存和 20 PFLOPS AI 算力，支持在本地运行参数规模最高约 1 万亿的大语言模型。
AWS Machine Learning BlogAI 评分3232 Cornerstone OnDemand 如何利用 Amazon Bedrock 将数据库诊断时间缩短 78%
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI，将数据库诊断时间从 45 分钟降至 10 分钟，效率提升 78%。该系统通过自动化工作流将手动生命周期步骤减少 70%，并实现 SRE 与数据团队的实时报告，同时使冗余警报中位数降低 65%。
AWS Machine Learning BlogAI 评分2323 AWS 发布构建 AI 能力指南：缩小非技术人员知识-能力差距
AWS 推出六周结构化计划，帮助非技术背景员工利用 Amazon Bedrock AgentCore 和 Strands Agents SDK 构建 AI 原型。参与团队基于 Amazon Nova 模型开发多智能体金融顾问 WealthWise，实现亚秒级响应并获第一名。数据显示，分阶段学习比短期集训保留更多实用技能，90% 受访者渴望动手实践以弥合概念与落地间的差距。
AWS Machine Learning BlogAI 评分3535 AWS DevOps Agent 结合 Lambda Durable Functions 实现自动化修复
AWS 推出基于 AWS DevOps Agent、Amazon EventBridge、AWS Lambda Durable Functions 和 Amazon Bedrock 的自动化修复工作流。
AWS Machine Learning BlogAI 评分4242 基于 AgentCore 和 OpenClaw 构建上下文感知 AI 助手
利用开源智能体系统 OpenClaw 在 Amazon Bedrock AgentCore runtime 上构建具备记忆能力的个人助手，通过 AgentCore memory 将对话转化为持久知识。该架构支持按任务路由 Claude Haiku 4.5（文本）与 Claude Sonnet 4.5（视觉），采用消费型计费使轻量使用成本降至每月约 $1–2。
Simon WillisonAI 评分2929 Datasette 结合 Parseable 处理 OpenTelemetry traces
Datasette 1.0a41 版本新增 OpenTelemetry 支持，作者利用 Codex 将其与开源观测工具 Parseable 集成以存储和查询追踪数据。Parseable 提供基于 Rust 的 AGPL 开源实现（约 180MB 单二进制文件）、企业版及云托管选项，兼容 OpenTelemetry 标准。
MIT News · AIAI 评分2828 林肯实验室超算中心发布 AI 硬件演进综述
林肯实验室超算中心（LLSC）通过 Lincoln AI Computing Survey (LAICS) 持续追踪并对比商用 AI 加速器的峰值性能与功耗。该系列最新论文分析了超过 120 种加速器，涵盖 CPU、GPU、ASIC 等多种架构形式。研究旨在为政府及机构提供中立的技术选型参考，以应对每年新增的多家初创公司及其发布的新型 AI 硬件。
AWS Machine Learning BlogAI 评分2424 SageMaker Studio 支持直接管理 HyperPod Spaces
Amazon SageMaker Studio 新增功能，允许用户直接在 UI 中创建和管理 SageMaker HyperPod Spaces。数据科学家无需使用 CLI 或 kubectl，即可在浏览器中启动 JupyterLab 和 Code Editor 环境。该集成简化了从集群访问到开发的工作流，支持通过引导式表单配置计算资源、命名空间及存储。