跳到正文
IT之家·· 2 小时前精选AI 评分78

亚马逊推出开源工具 TorchNeuron,支持 PyTorch 代码在 Trainium 芯片本地运行

挑战英伟达 CUDA:亚马逊推出开源工具 TorchNeuron,自研 Trainium 芯片轻松运行 PyTorch 代码

AI 导读

亚马逊宣布推出开源工具 TorchNeuron,使开发人员编写的 PyTorch 代码能在其自研 Trainium 芯片上本地运行,只需更改一次配置而无需重写代码。该工具将于 10 月 20 日在北美 PyTorch 大会上以开源许可形式正式发布。亚马逊称此举旨在打破对特定芯片的绑定,让开发者在不同硬件间自由切换时降低额外成本并提升迭代速度。

推荐理由

原文介绍了亚马逊推出的开源工具 TorchNeuron,它允许 PyTorch 代码在 Trainium 芯片上无需重写即可运行,为开发者提供了跨硬件平台的选择权。

正文

感谢IT之家网友 补药吖 的线索投递!

IT之家 10 月 20 日消息,当地时间 10 月 19 日,亚马逊宣布推出开源工具 TorchNeuron,借助该工具,开发人员编写的 PyTorch 代码可以在亚马逊的自研 Trainium 芯片上本地运行,只需更改一次配置,无需重写。

IT之家获悉,TorchNeuron 将于当地时间 10 月 20 日在加州圣何塞举行的北美 PyTorch 大会上以开源许可形式正式发布。

PyTorch 是由 Meta 主导的开源框架,被大多数人工智能开发者所采用。英伟达投入了十多年的时间研发 CUDA 工具,能够让 PyTorch 代码在英伟达的芯片上高效运行。

据介绍,亚马逊工程师分别在传统芯片和 Trainium 芯片上运行了相同的 AI 训练脚本。唯一的区别仅在于代码中指定所用芯片的设置参数。结果显示,AI 模型在两种环境下学习到的内容完全一致,学习速度也相同。这意味着开发者原本用于测试、调试和扩展 AI 模型的工具,无需任何修改,即可直接在 Trainium 上使用。

亚马逊称,TorchNeuron 为人工智能行业带来了一项长期缺失的关键要素:真正可行的选择权。当开发者能够在不同芯片之间自由切换而无需付出额外代价时,芯片厂商就必须通过提供更具竞争力的产品来赢得开发者的青睐;而开发者则能从中受益,实现成本的降低与迭代速度的提升。

此外,亚马逊正积极参与 PyTorch 上游开发,与 PyTorch 社区合作,移除那些将该框架与特定芯片相绑定的代码。其目标是让 PyTorch 对整个开发者社区而言更具“硬件无关性”,而不仅仅是服务于 Trainium 用户。

来源:IT之家 · ithome.com