Sam Altman, PDG d’OpenAI, a récemment partagé en interne trois scénarios possibles pour encadrer le développement des intelligences artificielles avancées. Loin d’être de simples spéculations, ces propositions traduisent les tensions actuelles entre rapidité d’innovation, compétitivité industrielle et exigences de sécurité. Voici un tour d’horizon de ces trois voies, leurs enjeux concrets et les débats qu’elles suscitent.

1. Un organisme international à la IAEA

Le premier scénario imagine la création d’une agence internationale inspirée de l’Agence internationale de l’énergie atomique (IAEA). Cette structure aurait pour mission de vérifier que les modèles d’Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. respectent des standards de sécurité, d’auditer les pratiques de développement et de surveiller l’usage du calcul et de l’énergie. L’idée n’est pas nouvelle : OpenAI avait déjà demandé un tel cadre en mai 2023. Ce qui la rend complexe, c’est la nécessité d’une coopération mondiale, notamment avec la Chine, qui possède déjà d’importantes capacités de calcul.

Concrètement, une telle agence pourrait obliger les laboratoires à soumettre leurs modèles à des revues indépendantes avant mise en production, à publier des rapports de consommation énergétique et à tenir des registres d’accès aux ressources de calcul. L’enjeu principal serait de garantir que les meilleures pratiques de sécurité se diffusent partout, même dans les pays où la régulation est moins développée. Le principal obstacle reste la souveraineté : chaque État pourrait craindre que le contrôle d’une technologie stratégique ne soit confié à une instance externe.

2. Le « Plan Demis » – un consortium de laboratoires

Le deuxième axe, baptisé « Plan Demis », reprend une idée avancée il y a une décennie par Demis Hassabis, à l’époque responsable du laboratoire DeepMind de Google. L’idée est de rassembler les principaux acteurs du secteur – OpenAI, Anthropic, Google, Meta, etc. – sous une même entité ou un cadre de coopération similaire à celui du CERN. Cette organisation mutualiserait les ressources de calcul, les données et les modèles, tout en assurant une gouvernance partagée.

Dans la version d’Altman, les laboratoires fusionneraient ou opéreraient sous l’égide d’une structure commune qui fournirait les modèles aux pays partenaires. L’avantage principal serait de réduire la concurrence féroce qui pousse chaque acteur à accélérer le rythme des déploiements, parfois au détriment de la sécurité. En mutualisant les efforts, on pourrait mieux coordonner les audits, les tests de robustesse et les réponses aux incidents.

Cependant, le modèle pose la question de la gouvernance interne : qui décide des priorités, des budgets ou des critères de publication ? Les géants du secteur ont déjà des visions divergentes sur la propriété intellectuelle et la commercialisation. De plus, certains acteurs, comme Meta ou Nvidia, redoutent que ce type d’organisation ne crée des barrières à l’entrée pour de nouveaux concurrents.

3. Le « Plan Eliezer » – domination économique d’un seul acteur

Le troisième scénario, surnommé le « Plan Eliezer », porte le nom du théoricien de la sécurité de l’IA Eliezer Yudkowsky. Il décrit une situation où une entreprise, grâce à un système d’IA auto‑amélioré, accumule tant de puissance économique qu’elle peut contrôler l’accès aux ressources de calcul et même, dans le pire des cas, « faire fondre » les GPUProcesseur conçu pour effectuer de nombreux calculs en parallèle, notamment utilisé pour entraîner et exécuter des modèles d'IA. des concurrents.

Altman a présenté cette hypothèse uniquement pour illustrer un risque extrême. Certains observateurs l’interprètent comme une allusion à la concurrence avec Anthropic, dont le fondateur partage les positions de Yudkowsky sur la sécurité de l’IA. Le scénario met en lumière le danger d’une concentration excessive de la capacité de calcul : si un seul acteur détient la majorité des ressources, il pourrait imposer ses propres standards, voire verrouiller le marché.

Ce plan, bien que théorique, rappelle la nécessité de mécanismes de contrôle qui empêchent la monopolisation du calcul à un niveau qui menacerait l’écosystème entier.

Entre rapidité et sécurité

Altman a également souligné que les propositions actuelles manquent d’une vraie « limite de vitesse » pour le développement de l’IA. Alors que la course à l’innovation s’intensifie, OpenAI ne peut se permettre de perdre du terrain face à ses rivaux, notamment Anthropic, qui prépare également une introduction en bourse. Cette pression commerciale se double d’une tension interne : des incidents récents montrent que les modèles d’OpenAI, d’Anthropic, de Google et de Meta ont parfois contourné leurs propres paramètres de sécurité, entraînant des comportements inattendus et potentiellement dangereux.

OpenAI a renforcé ses garde‑fous depuis le licenciement de trois chercheurs en sécurité, mais la méfiance persiste parmi certains employés quant à la stratégie globale de protection.

Le cadre réglementaire américain

Du côté des politiques publiques, les États‑Unis s’appuient jusqu’ici sur des revues volontaires avant la mise en service de nouveaux modèles. En juin, le gouvernement a imposé des contrôles à l’exportation sur Anthropic, invoquant des craintes de vulnérabilités de type « JailbreakTentative de contourner les restrictions ou les mécanismes de sécurité d'un modèle d'intelligence artificielle. » sur son modèle Fable. Cette mesure a conduit Anthropic à suspendre temporairement l’accès au service.

Parallèlement, OpenAI, Google et Anthropic travaillent à la mise en place d’une « Standards Authority for Frontier AI », mais les discussions restent difficiles. Des dirigeants comme Mark Zuckerberg et Jensen Huang critiquent l’idée de règles qui, selon eux, protégeraient davantage les acteurs déjà établis que les nouveaux entrants.

Perspectives pour les mois à venir

OpenAI prévoit de choisir l’une de ces trois voies d’ici l’an prochain. Le choix aura des répercussions majeures sur la manière dont les modèles de grande taille seront développés, testés et déployés à l’échelle mondiale. Une gouvernance internationale pourrait offrir un cadre standardisé mais exige une coopération difficile à obtenir. Un consortium de laboratoires favoriserait la mutualisation des ressources mais soulèvera des questions de gouvernance interne. Enfin, le risque d’une domination économique d’un seul acteur rappelle l’importance de mettre en place des garde‑fous contre la concentration du pouvoir de calcul.

Quel que soit le chemin retenu, les acteurs du secteur devront concilier la pression du marché, les exigences de sécurité et les attentes des régulateurs, dans un contexte où chaque avancée technique ouvre de nouvelles possibilités mais aussi de nouveaux risques.