OpenAI a annoncé le 5 octobre le déploiement de textGrain, un mécanisme de marquage invisible destiné aux réponses de ChatGPT et de Codex lorsque ces services sont utilisés depuis l’Union européenne. Cette initiative répond à l’obligation posée par l’article 50 du Intelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. Act, qui impose une traçabilité accrue des contenus produits par des systèmes d’intelligence artificielle. Pour les professionnels qui rédigent des rapports, des newsletters ou des fiches produit avec l’aide de l’outil, le texte affichera désormais une signature statistique imperceptible à l’œil nu.

Contrairement aux métadonnées classiques, le filigrane de textGrain est intégré directement dans le choix des mots. Lorsqu’un modèle génère une phrase, il hésite entre plusieurs alternatives possibles. textGrain oriente légèrement ces hésitations à l’aide d’une clé secrète, de façon à ce que la succession de choix forme un motif détectable par un algorithme disposant de la même clé. Pour le lecteur, le texte reste identique à n’importe quel autre; seul un outil spécialisé peut décoder la signature.

OpenAI indique que la détection est fiable à partir de 400 TokenUnité de contenu traitée par un modèle de langage, pouvant représenter un mot, une partie de mot ou un caractère., soit approximativement 300 mots, dans des domaines où le vocabulaire est riche, comme la psychologie. Le taux de reconnaissance chute à 60 % pour les contenus très formels et peu variés, comme les formules mathématiques. L’entreprise propose d’ajuster l’intensité du signal selon le sujet, afin de limiter les faux positifs tout en conservant une marge de sécurité suffisante.

L’obligation ne s’applique aujourd’hui qu’aux utilisateurs situés en Europe. Le AI Act, texte législatif adopté en 2021, exige que les systèmes d’IA à haut risque puissent être identifiés. OpenAI a choisi d’expérimenter le dispositif à grande échelle sur le territoire européen avant de le généraliser. En dehors de l’UE, le filigrane reste désactivé par défaut, mais les développeurs qui accèdent à l’API peuvent l’activer volontairement partout dans le monde.

OpenAI n’est pas le premier à proposer ce type de marquage. Claude, l’assistant d’Anthropic, utilise déjà un filigrane depuis plusieurs mois. La combinaison des deux solutions signifie que, dans le cadre européen, il n’est plus possible de “nettoyer” un texte produit par une IA simplement en le faisant retravailler par une autre IA, comme certains conseils circulaient cet été.

Il est important de préciser ce que le filigrane indique réellement : il signale simplement qu’un texte a probablement été généré par un modèle d’OpenAI. Il ne permet pas d’identifier l’utilisateur qui a lancé la génération, ni de prouver que le texte n’a pas été modifié par la suite. Inversement, l’absence de filigrane ne garantit pas une rédaction humaine, surtout si le texte est court, traduit ou issu d’une autre IA.

Les premiers concernés seront les acteurs qui publient régulièrement de longs contenus produits en grande partie par l’IA : étudiants, créateurs de newsletters, sites d’information ou consultants qui intègrent des réponses de ChatGPT dans leurs livrables. Le risque principal n’est pas juridique, mais de réputation : un client qui découvre que la lettre qu’il a reçue provient d’une machine pourrait se sentir trompé. La recommandation la plus simple reste de considérer ChatGPT comme un assistant de premier jet, puis de retravailler le texte en y ajoutant son style, ses exemples et son ton personnel.

En pratique, mentionner discrètement l’aide d’une IA dans le texte ("rédigé avec le support d’un modèle de langage") suffit à rassurer le lecteur et à éviter les mauvaises surprises. Le filigrane de textGrain constitue un filet de sécurité supplémentaire pour les entreprises qui souhaitent se conformer aux exigences de l’AI Act et préparer l’éventuelle extension de ces règles à d’autres régions.

Le déploiement de ce tatouage numérique marque une étape dans la normalisation de la transparence autour des contenus générés par l’IA. Au fil des mois, on peut s’attendre à ce que d’autres acteurs du secteur adoptent des solutions similaires, rendant la distinction entre texte humain et texte assisté de plus en plus explicite.

Une lecture à partager ?
Partager
Partager cet article
WhatsApp ↗LinkedIn ↗Facebook ↗X ↗E-mail ↗

POUR CONTINUER

Garder le fil.

Toutes les actus ↗