Modal 详解两万 GPU 集群的可靠性维护体系

Modal 分享其全球分布式 GPU 池的可靠性系统，覆盖实例选型、镜像准备、启动检查及全生命周期健康监控。文章指出不同云厂商在 H100/A10 等型号上存在显著性能与稳定性差异，如某厂商 H100 温度过高导致性能下降或 PCIe 版本带宽受限。Modal 采用 DCGM 进行被动监控与每周深度主动测试，结合自动隔离机制维持高可用性，并强调 GPU 硬件故障仍是 AI 训练的主要阻碍。