Google Cloud rend Pathways disponible sur GKE : un contrôleur unique pour les TPU à grande échelle

Google Cloud a annoncé le 9 novembre 2026 la mise à disposition générale de Cloud Pathways sur Google Kubernetes Engine (GKE). Cette version, qualifiée de Pathways on Cloud, propose un runtime à contrôleur unique capable de gérer l’entraînementTrainingProcessus durant lequel un modèle ajuste ses paramètres à partir de données afin d'améliorer ses performances. et l’inférenceInférencePhase durant laquelle un modèle entraîné utilise ses paramètres pour produire une prédiction ou une réponse à partir de nouvelles données. sur des fermes de TPU très hétérogènes. Au cours des trois mois précédant l’annonce, les utilisateurs ont déjà consommé plus de 130 millions d’heures de puces Cloud TPU avec Pathways sur GKE.

Un contrôleur unique pour des dizaines de milliers de puces

Dans les environnements JAX traditionnels, chaque hôte TPU exécute son propre interpréteur Python et ne voit que les dispositifs qui lui sont physiquement rattachés. Cette approche, dite multi‑controller, oblige les développeurs à orchestrer manuellement la synchronisation entre les slices, ce qui devient rapidement fragile quand le nombre de puces dépasse plusieurs milliers.

Pathways remplace ce schéma par un contrôleur central basé sur l’Interim Framework Runtime open‑source. En définissant JAX_PLATFORMS=proxy et en utilisant le package pathwaysutils, un seul client JAX peut interroger et piloter plusieurs slices TPU comme si elles étaient connectées localement. Le contrôleur s’occupe du calcul des graphes, du cache de compilation persistant stocké dans Cloud Storage, ainsi que du dispatch asynchrone des travaux XLA.

Des conteneurs sidecar Python co‑localisés, partagés en mémoire, exécutent les tâches gourmandes en I/O comme le chargement distribué des données ou la sauvegarde des checkpoints. Cette architecture rend possible l’entraînement élastique : en cas de perte d’un slice, le job peut être re‑shardé sur une configuration réduite sans interrompre le client.

Cas d’usage en production et récupération élastique

Google Cloud cite un grand groupe de technologies de consommation qui utilise Pathways en production pour du batch et du renforcement‑learning sur des dizaines de milliers de puces TPU v5p, Trillium v6e et Ironwood TPU7x. La consommation dépasse les 100 millions d’heures de puces par trimestre. Le client a co‑conçu avec Google des primitives d’élasticité afin de réduire le temps de récupération lors d’une interruption matérielle.

ZenteiQ, spécialisé dans les modèles de fondation scientifiques, exploite le même empilement pour le pré‑entraînement MaxText et le renforcement‑learning sur des clusters Trillium multi‑slice. Le fondateur Sashikumaar Ganesan explique que le contrôleur surveille la topologie TPU et redimensionne dynamiquement les workloads lorsqu’un chip ou un slice tombe en panne. Le résultat : le temps d’arrêt passe à quelques minutes, ce qui maintient une utilisation proche de 100 % des ressources TPU.

Disponibilité et extensions Slurm

Le runtime Pathways est disponible en GA sur GKE dans toutes les régions Google Cloud supportant les TPU v5e, v5p, Trillium v6e et Ironwood TPU 7x. Google fournit des images conteneurisées versionnées compatibles avec JAX 0.10.1 et supérieures.

Parallèlement, une intégration avec Cluster Director ouvre la même logique de contrôleur unique aux clusters Slurm TPU, actuellement en aperçu. Cette version pré‑release promet la même exécution unifiée, l’entraînement élastique et le support des notebooks interactifs.

Vers une orchestration centrée sur l’utilisation

Pour les opérateurs qui lancent des jobs de plusieurs jours sur du matériel coûteux, la proposition de valeur principale réside dans la corrélation directe entre orchestration et taux d’utilisation. Un seul contrôleur coordonne l’ensemble des slices, tandis que le mécanisme de snapshot basé sur le host garantit que le job continue de tourner même si un slice disparaît.

À mesure que les modèles de grande taille deviennent la norme, la capacité à gérer des milliers de puces sans fragmenter le code d’orchestration représente un pas important vers des pipelines de recherche plus robustes et moins dépendants de l’ingénierie manuelle.

En pratique, les équipes qui adoptent Pathways peuvent réduire les coûts liés aux redémarrages, augmenter la densité d’utilisation des TPU et préparer plus rapidement de nouveaux modèles grâce à une interface unifiée. Le prochain défi consistera à étendre ces principes aux GPUGPUProcesseur conçu pour effectuer de nombreux calculs en parallèle, notamment utilisé pour entraîner et exécuter des modèles d'IA. et aux architectures hybrides, ouvrant la porte à des environnements d’entraînement véritablement hétérogènes.