跳到正文
10月17日周六
  1. a16z28

    a16z 探讨 AI 运维生产系统

    工程负责人告诉 Grepr 创始人兼 CEO Jad Naous,他们花费基础设施预算的 5% 到 20% 用于可观测性,但换来的可靠性却越来越少。前 a16z 合伙人 Jad 与 a16z 的 Martin Casado 一起讨论 AI 是否能运行生产系统

10月4日周日
10月2日周五
  1. MIT Technology Review · AI18

    企业自主 AI 运营模型转型报告:从工具到智能体架构的重构

    2026年全球AI投资预计达$2.5 trillion,同比增长44%,但多数企业仍面临数据孤岛与整合滞后问题。MIT Technology Review指出,实现“agentic shift”需重构为可组合架构并确立AI主权,优先进行流程重设计而非单纯追求模型能力。具备就绪数据与实时连接能力的企业正通过自主AI运营模型获得持续回报。

10月1日周四
  1. NVIDIA Blog26

    NVIDIA AI 工厂如何通过高产出、长寿命与通用性最大化投资回报

    NVIDIA AI 工厂通过全栈协同设计实现每兆瓦最高吞吐量,Vera Rubin NVL72 系统较 GB300 NVL72 提升超 30x 吞吐并降低至多 45x 成本。其硬件具备长使用寿命,A100 GPU 服役六年仍具经济价值,且 CUDA 平台支持跨代兼容以延长资产收益周期。该架构兼具通用性,可运行语言、视觉及物理 AI 等多种负载,从而在需求变化中确保持续盈利。

9月26日周六
9月15日周二
9月14日周一
  1. SemiAnalysis62

    SemiAnalysis分析为何4-hi HBM成为AI推理最优解

    SemiAnalysis指出随着推理负载占比提升和机架级规模扩大,高堆叠HBM带来的额外容量收益递减,4-hi HBM因提供最佳带宽成本比而成为未来趋势。文章以Kimi K3为例进行Roofline分析,显示在满足最低交互延迟SLA时,8-hi和12-hi HBM的系统成本增幅远超其吞吐量提升,导致单Token成本高于4-hi方案。

7月9日周四
  1. Modal 官方工程博客33

    Modal 将自身定义为运行程序的计算机

    Modal 官方将其定位为“一台计算机”,通过分层存储、内存映射 I/O 及网络接口处理信息,而非简单的云服务商。其架构包含容器运行时、Input/Output Plane 和 Routing Plane,支持 Python 函数、Linux 进程及 HTTP 服务等多种程序形态。该设计利用对象存储与共享驱动实现多租户效率与单租户安全性的平衡。

3月27日周五