Le 18 novembre 2026, le groupe de gouvernance Fathom a rappelé que le nouveau plan d’État californien pour les Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. de pointe intègre la plupart de ses recommandations. Son appel principal : faire de l’évaluation indépendante des risques catastrophiques une obligation légale, et non une démarche volontaire.
Un modèle d’organisme de vérification indépendant (IVO)
Fathom a popularisé le concept d’Independent Verification Organization (IVO). Dans ce cadre, des évaluateurs externes, agréés par l’État, examinent les modèles d’IA et les systèmes associés pour y détecter les risques majeurs. Le rapport de la California Government Operations Agency (GovOps), publié le 16 novembre 2026, propose de TransformerArchitecture de réseau neuronal reposant notamment sur des mécanismes d'attention pour traiter des séquences de données. cette idée en loi : chaque grand développeur d’IA de frontière devrait subir des revues continues réalisées par des IVO licenciés.
Le texte législatif prévoit que le gouvernement californien attribue une licence aux IVO, contrôle leur compétence et peut révoquer l’autorisation en cas de manque d’expertise, d’indépendance ou de rigueur. Les évaluateurs soumettraient leurs rapports complets à l’État, qui déciderait alors des mesures correctives après consultation du développeur.
Des critères de sécurité inscrits dans la loi
Le plan californien définit deux exigences clés : le modèle ne doit pas augmenter le risque de dommages catastrophiques au‑delà du niveau qui existerait sans lui, et les bénéfices attendus doivent surpasser le risque résiduel. Cette formulation laisse la porte ouverte à l’évolution des méthodes techniques – les IVO seraient responsables d’ajuster les tests au fil des avancées technologiques, tandis que le législateur fixe les objectifs de sécurité.
Une autre préoccupation majeure est le « recursive self‑improvement » (RSI), c’est‑à‑dire la capacité d’une IA à améliorer ses propres capacités de façon autonome. Le projet de loi confierait aux IVO la vérification des métriques de recherche et développement automatisés, ainsi que l’évaluation des risques croissants liés à ces processus. En pratique, dès qu’un seuil de capacité prédéfini est franchi, le développeur devrait notifier l’État et suspendre tout déploiement interne jusqu’à une nouvelle évaluation.
Un déploiement progressif lié à la capacité des évaluateurs
Fathom insiste sur une mise en œuvre graduelle. Avant d’imposer chaque nouvelle obligation, le gouvernement doit s’assurer que les IVO disposent de la capacité et de l’expertise nécessaires dans le domaine concerné. Cette approche vise à créer un marché fiable d’évaluations indépendantes : la certitude d’un travail mandaté attirerait les investissements et les talents nécessaires à la création de ce secteur.
Dans la première phase, l’État assignerait un IVO tiré d’un registre pré‑sélectionné, le développeur payerait les services à taux plafonnés par l’État, sur la base du temps et des matériaux réellement consommés. Plus tard, le choix de l’évaluateur s’élargirait, tout en conservant le droit de veto de l’État, la possibilité d’imposer des rotations et de limiter la concentration des licences.
Les IVO auraient un accès permanent aux dossiers, au personnel et aux systèmes du développeur, avec la garantie d’une confidentialité légale et d’une protection contre les représailles. Les sanctions resteraient du ressort de l’État : le procureur général pourrait demander des injonctions ou des pénalités civiles, tandis que les IVO se contenteraient de formuler des constats et de recommander des correctifs.
Enjeux et défis à venir
Le principal obstacle réside maintenant dans la transformation des recommandations de GovOps en obligations contraignantes. Le législateur doit créer un cadre de licences, définir les critères d’évaluation et garantir que les IVO puissent réellement exercer une supervision indépendante. Le modèle dépend étroitement de la disponibilité d’experts capables d’évaluer des systèmes d’IA de pointe, un marché encore embryonnaire.
Par ailleurs, la question de la compétence entre les autorités fédérales et l’État reste ouverte. La Californie souhaite affirmer son rôle de pionnière, mais une éventuelle friction avec des régulations nationales pourrait compliquer la mise en œuvre.
Enfin, les développeurs devront intégrer ces exigences dans leurs processus de recherche et de mise sur le marché. Le coût direct des évaluations, même à tarif encadré, s’ajoutera aux dépenses de R&D, mais il pourrait être compensé par une plus grande confiance des investisseurs et du public.
En résumé, le projet californien ambitionne de transformer l’évaluation indépendante des risques IA en un levier juridique, avec un système de licences, de contrôles et de sanctions étatiques. Son succès dépendra de la capacité à créer un écosystème d’évaluateurs qualifiés et à harmoniser les règles locales avec le cadre fédéral, tout en maintenant un équilibre entre innovation et sécurité.
Perspectives : Si la Californie parvient à mettre en place ce dispositif, d’autres juridictions pourraient suivre son modèle, créant ainsi un réseau d’évaluations indépendantes à l’échelle mondiale.





