Hugging Face Blog·· 21 小时前精选AI 评分62
Hugging Face 推出 TorchNeuron:简化 AWS Trainium 上的模型运行
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供新的 PyTorch 原生后端,支持 eager mode、torch.compile 及 FSDP/TP 等分布式 API。
推荐理由
TorchNeuron 将 Trainium 变为 PyTorch 原生设备,消除了编译复杂性并大幅提升了主流模型架构的兼容性。
来源:Hugging Face Blog · huggingface.co