AWS a annoncé lundi le lancement de TorchNeuron, un outil qui permet aux startups spécialisées en Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. de déployer leurs modèles PyTorch sur le nouveau processeur d’TrainingProcessus durant lequel un modèle ajuste ses paramètres à partir de données afin d'améliorer ses performances. de la firme, le Trainium. L’objectif affiché est de simplifier la transition vers le cloud d’Amazon sans réécrire le code source.

TorchNeuron s’appuie directement sur PyTorch, le framework open‑source le plus répandu pour la création, l’entraînement et le déploiement d’IA. Selon Amazon, il suffit de modifier une seule ligne de configuration pour que le même modèle s’exécute sur Trainium. Aucun changement de logique métier n’est requis, ce qui réduit considérablement le temps d’intégration.

Environ 85 % des applications d’IA utilisent aujourd’hui PyTorch, un projet initié par Facebook et aujourd’hui maintenu par la Linux Foundation. Cette popularité donne à Amazon une base solide pour proposer une alternative à l’écosystème NVIDIA‑CUDA, qui, depuis plusieurs années, assure la compatibilité entre les modèles PyTorch et les GPUProcesseur conçu pour effectuer de nombreux calculs en parallèle, notamment utilisé pour entraîner et exécuter des modèles d'IA. NVIDIA.

NVIDIA a construit une couche logicielle (CUDA) qui rend les GPU quasiment invisibles aux développeurs PyTorch. Cette intégration profonde a fait des cartes NVIDIA le choix par défaut pour la plupart des charges d’entraînement. En proposant TorchNeuron, AWS veut rompre cette dépendance et offrir une voie directe vers son propre matériel.

TorchNeuron n’est pas la première solution à permettre ce type de portage. Les utilisateurs de PyTorch peuvent déjà cibler les GPU AMD ou les puces Apple en ajustant la configuration. La nouveauté réside dans le fait que la même simplicité s’applique maintenant à Trainium, tout en restant dans le même environnement cloud.

Amazon met en avant plusieurs avantages économiques. Le même circuit intégré gère à la fois l’entraînement et l’InférencePhase durant laquelle un modèle entraîné utilise ses paramètres pour produire une prédiction ou une réponse à partir de nouvelles données., ce qui élimine le besoin de basculer entre deux types de matériel. Selon AWS, cela réduit les coûts d’infrastructure même si le tarif à la demande n’est pas le plus bas du marché.

« Vous construisez sur AWS. Vous ne misez pas sur un fournisseur de calcul à usage unique et vous n’avez pas à réorganiser toute votre pile logicielle », explique Colin Brace, vice‑président du logiciel technologique chez Annapurna Labs. Il ajoute que l’infrastructure cloud d’AWS permet de passer rapidement d’un prototype à une production à grande échelle.

Le cas de Deepgram, une société de traitement vocal, illustre ce gain de productivité. Après avoir migré ses modèles vers Trainium via le support natif de PyTorch, l’entreprise affirme traiter 70 % de flux audio supplémentaire pour le même budget, tout en conservant une précision comparable.

Au-delà du bénéfice immédiat pour les utilisateurs de Trainium, AWS s’engage à rendre PyTorch moins dépendant de NVIDIA. L’entreprise a déclaré contribuer directement au projet PyTorch afin de retirer les parties du code qui lient le framework à des puces spécifiques. L’objectif affiché est une plus grande neutralité matérielle pour l’ensemble de la communauté.

Si cette stratégie réussit, elle pourrait diminuer l’emprise de NVIDIA sur le marché des accélérateurs IA. Un framework réellement agnostique offrirait aux développeurs davantage de leviers pour choisir le matériel le plus adapté à leurs besoins, qu’il s’agisse de coûts, de performances ou de contraintes géographiques.

Cependant, l’ouverture du code ne garantit pas l’absence de complexité. Chaque configuration supplémentaire implique des tests de compatibilité et une surveillance accrue des performances. Les équipes devront donc peser le gain de flexibilité contre le risque de nouveaux points de friction.

En définitive, TorchNeuron montre comment les grands fournisseurs de cloud peuvent influencer la chaîne d’outils autour de l’IA. En rendant le passage vers Trainium aussi simple que possible, AWS espère créer un écosystème où le choix du matériel ne dicte plus la conception des modèles. Le succès de cette approche dépendra de la rapidité avec laquelle la communauté PyTorch adoptera les changements proposés.