Pourquoi les textes générés par l'IA restent souvent lourds à lire

Les modèles de langage les plus avancés, comme Claude, GPTGPTFamille de modèles génératifs préentraînés reposant sur l'architecture Transformer, notamment utilisés pour produire du texte.‑5.6 ou les variantes open‑source de Llama, produisent des réponses qui semblent correctes mais qui demandent un effort de lecture inhabituel. Une étude conjointe de l'Université de New York et de l'Université du Texas à Austin a identifié six schémas récurrents qui rendent ces productions difficiles à digérer.

Des combinaisons de mots rares et des phrases décousues

Les chercheurs ont observé que les IAIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision. utilisent fréquemment des associations lexicales peu rencontrées chez les humains, par exemple « reader‑patience budget ». De plus, elles ont tendance à disperser les éléments d’une même phrase, obligeant le lecteur à retenir plusieurs fragments avant de pouvoir reconstituer le sens. Un exemple tiré de l’étude montre une phrase où le sujet et le verbe principal sont séparés par une proposition longue, créant une charge supplémentaire pour la mémoire de travail.

Réductions syntaxiques qui nuisent à la clarté

Pour gagner un mot, les modèles suppriment parfois le connecteur « that » (« the book the professor wrote » au lieu de « the book that the professor wrote »). Cette économie de caractères engendre une ambiguïté passagère, car le lecteur doit déterminer la relation entre les parties de la phrase. Les constructions à empilement de noms, comme « horror movie soundtrack generator », posent le même problème : il faut deviner quel terme qualifie quel autre.

Verbalisation inappropriée des noms

Un autre pattern identifié est la transformation de noms en verbes dans des contextes où les humains n’agiraient pas ainsi. Ainsi, un modèle peut produire « calendar it » au lieu de « put it in the calendar ». De même, on retrouve des verbes d’action attribués à des sujets inanimés, comme « the conversation is eating its own tail », qui, bien que métaphorique, reste surprenant et ralentit la compréhension.

Les modèles plus petits se rapprochent davantage du style humain

Parmi les quatorze systèmes analysés, les versions open‑source Llama et le modèle de base Olmo ont obtenu les scores de lisibilité les plus proches de ceux des humains. Dans la famille Olmo, la progression du modèle de base vers la version « Think » (raisonnement) montre une amélioration continue, suggérant que les ajustements post‑entraînementTrainingProcessus durant lequel un modèle ajuste ses paramètres à partir de données afin d'améliorer ses performances. jouent un rôle clé. De même, la version Claude Opus 5.5 dépasse son prédécesseur Opus 5 dans 19 sur 21 comparaisons, ce qui indique que le fine‑tuning ciblé peut effectivement améliorer la clarté.

Pourquoi la densité d’information prime sur la clarté

Les auteurs de l’étude expliquent que les critères d’entraînement ont évolué : on privilégie les tâches de mathématiques, de code ou de raisonnement logique, où la justesse est récompensée, alors que la lisibilité n’est pas directement pénalisée. Le passage du paradigme RLHFRLHFMéthode d'amélioration d'un modèle utilisant des préférences humaines pour guider un apprentissage par renforcement. (renforcement à partir du feedback humain) à RLVR (renforcement avec récompenses vérifiables) élimine davantage l’intervention humaine, laissant les modèles développer une sorte de « dialecte » optimisé pour la compression d’information mais peu lisible.

Une expérience de pénalisation de la concision

Pour illustrer l’impact des objectifs d’entraînement, les chercheurs ont entraîné un petit modèle avec une pénalité favorisant les réponses très courtes. Le résultat : le modèle a généré des formulations brèves de façon quasi systématique, même lorsque le contexte aurait requis plus de développement. À l’inverse, les humains adaptent naturellement la longueur selon la situation, privilégiant parfois la précision au détriment de la brièveté.

Un éclairage depuis l’industrie

Jackson Kernion, ingénieur chez Anthropic, confirme que les itérations récentes de Claude ont été orientées vers des performances en mathématiques et en code, ce qui a alourdi le style d’écriture. Selon lui, les modèles ont développé une « psychologie LLMLLMUn grand modèle de langage apprend des régularités dans des textes pour produire ou transformer du langage. Il ne constitue pas une base de faits garantie. » adaptée à la transmission d’informations à d’autres IA, mais qui se traduit par une densité syntaxique difficile à suivre pour les lecteurs humains. L’ajustement introduit avec Opus 5.5, visant spécifiquement la clarté des phrases, montre que la lisibilité peut être ré‑intégrée dans le processus de fine‑tuning.

Vers des modèles plus lisibles

L’étude laisse entrevoir plusieurs pistes pour rendre les sorties des IA plus accessibles : intégrer davantage de métriques de lisibilité dans les fonctions de perte, réintroduire le feedback humain à chaque étape d’apprentissage et tester des architectures qui privilégient la cohérence locale du texte. En attendant, les utilisateurs peuvent s’appuyer sur les modèles plus modestes, comme Llama, qui, selon les résultats, offrent déjà une expérience de lecture plus fluide.

En pratique, la prise de conscience de ces six patterns permet aux développeurs de détecter rapidement les passages qui risquent de perdre le lecteur et d’ajuster leurs prompts ou leurs pipelines de post‑traitement, améliorant ainsi l’interaction entre l’humain et la machine.