AWS, 파이토치 코드 그대로 트레이니움서 돌리는 오픈소스 ‘토치뉴런’ 공개

Amazon Web Services (AWS) announced on the 27th that it has released TorchNeuron, an open-source technology that lets AI model code written in PyTorch run on its in-house AI accelerator AWS Trainium without rewriting. Released under the Apache 2.0 license, it supports Trainium2 and Trainium3, and integrates with TorchTitan and FSDP for distributed training. AWS also said it is working with the PyTorch community and contributing to vLLM, and noted that its demo results do not guarantee identical performance across all models and hardware.

亚马逊云科技（AWS）27日宣布，已发布开源技术TorchNeuron，使用PyTorch编写的AI模型代码无需重写即可在其自研AI加速器AWS Trainium上运行。该技术基于Apache 2.0许可证开源，支持Trainium2和Trainium3，并与TorchTitan及FSDP集成以支持分布式训练。AWS还表示正与PyTorch社区合作并为vLLM做贡献，同时指出演示结果并不保证所有模型和硬件组合的性能相同。

アマゾンウェブサービス（AWS）は27日、PyTorchで書かれたAIモデルのコードを書き換えることなく、自社設計のAIアクセラレーターAWS Trainiumで実行できるオープンソース技術「TorchNeuron」を公開したと発表した。Apache 2.0ライセンスで公開され、Trainium2とTrainium3に対応し、TorchTitanやFSDPと統合して分散学習を支援する。AWSはPyTorchコミュニティとの協力やvLLMへの貢献も進めており、デモの結果はすべてのモデルとハードウェアの組み合わせで同一の性能を保証するものではないとしている。

Amazon Web Services (AWS) a annoncé le 27 la publication de TorchNeuron, une technologie open source permettant d'exécuter sans réécriture le code de modèles d'IA écrit avec PyTorch sur son accélérateur d'IA conçu en interne, AWS Trainium. Publiée sous licence Apache 2.0, elle prend en charge Trainium2 et Trainium3 et s'intègre à TorchTitan et à FSDP pour l'entraînement distribué. AWS indique aussi collaborer avec la communauté PyTorch et contribuer à vLLM, tout en précisant que les résultats de la démonstration ne garantissent pas des performances identiques pour tous les modèles et combinaisons matérielles.