跳到正文

公司与模型

NVIDIA 英伟达 最新动态

英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力市场的风向。

22 条精选近 30 天 19 条共收录 132 条

更新

精选归档 · 第 2 页

9月2日周三第 21–22 条
  1. SemiAnalysis· AI 生成82

    SemiAnalysis 分析韩国万亿主权 AI 投资:英伟达受益而海力士面临挑战

    SemiAnalysis 发布深度分析指出,韩国正推进总额约 $919B 的主权 AI 数据中心建设计划,旨在减少对美国前沿模型 API 的依赖并掌握自主算力。

    AI 推荐理由:文章通过韩国主权AI竞赛案例,揭示了小团队低成本训练高性能开源模型的可行性及地缘政治下的算力依赖风险。

7月23日周四
  1. vLLM 官方博客· AI 生成66

    vLLM官方博客:在24张NVIDIA B300 GPU上部署GLM-5.2并满足生产级SLA的实践指南

    DaoCloud团队在vLLM官方博客发布文章,介绍了如何在24张NVIDIA B300 GPU上部署GLM-5.2-NVFP4模型以满足生产级SLA要求。通过采用分离式P/D架构、推测解码填充、Model Runner V2及IndexerCache等优化手段,将平均TPOT从约40ms降至17ms,同时保持TTFT低于2.5秒。

    AI 推荐理由:文章详细记录了在24张B300 GPU上部署GLM-5.2的全过程,提供了从TPOT优化到最终SLA达标的具体配置和命令。