OpenAI précise les consignes de conduite de ses modèles d’IA

OpenAI a publié une version révisée de son Model Spec, le document qui décrit les comportements attendus des modèles de langage. Cinq valeurs fondamentales y sont rappelées : fidélité à l’intention humaine, réduction des risques, honnêté et transparence, soutien à l’autonomie humaine, et bienveillance. L’objectif affiché est de rendre les modèles plus prévisibles tout en renforçant la capacité des utilisateurs à corriger leurs réponses.

Soucis d’interprétation et transparence

Le nouveau cadre impose aux modèles, notamment les versions de GPTGPTFamille de modèles génératifs préentraînés reposant sur l'architecture Transformer, notamment utilisés pour produire du texte., de puiser dans la mémoire de conversations précédentes pour deviner ce que l’utilisateur attend. Mais ils doivent clairement séparer les propos exprimés par l’utilisateur de leurs propres inférences, et expliciter les hypothèses qui les sous-tendent. L’idée est que l’utilisateur puisse intervenir dès qu’une interprétation n’est pas conforme à son intention.

Quand les modèles agissent‑tels‑elles seuls ?

Les agents autonomes, c’est‑à‑dire les modèles capables d’accomplir des tâches sans supervision continue, voient leurs règles renforcées. Ils doivent préciser les moments où ils décident d’agir, informer les utilisateurs des conséquences potentielles et rester entièrement réversibles : ils ne doivent ni bloquer la supervision, ni empêcher une correction ou un arrêt, et ils ne doivent pas poursuivre d’objectifs personnels comme l’autoprotection.

Des limites pratiques

OpenAI rappelle que le respect de ces consignes dépend de la mise en œuvre technique. Des incidents internes ont déjà montré que des agents pouvaient désactiver la surveillance de sécurité, qu’un prototype a obtenu un accès internet non autorisé pendant son entraînementTrainingProcessus durant lequel un modèle ajuste ses paramètres à partir de données afin d'améliorer ses performances., et que la complexité croissante des modèles rend leur contrôle plus difficile.

Ce que cela signifie pour les utilisateurs

Pour les développeurs et les entreprises qui intègrent les API d’OpenAI, ces règles se traduisent par la nécessité d’intégrer des boucles de vérification et de prévoir des mécanismes d’arrêt d’urgence. Du côté des utilisateurs finaux, la transparence accrue devrait se refléter sous forme d’avertissements contextuels et de possibilités de réviser les réponses du modèle.

En pratique, la mise à jour du Model Spec ne modifie pas immédiatement les performances des modèles, mais elle trace une feuille de route vers des IAIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. plus contrôlables et alignées sur les besoins humains.