Comment Nous Research a éliminé la propagande d’un LLM chinois grâce à 53 M de tokens

Nous Research, startup américaine spécialisée dans les modèles ouverts, a publié en octobre 2024 un nouveau modèle de 27 milliards de paramètres, Arete‑27B. Il s’agit d’une version fine‑tuned du Qwen3.8‑27B d’Alibaba, dont les réponses étaient régulièrement alignées sur la ligne du Parti communiste chinois. En moins de deux passages d’entraînementTrainingProcessus durant lequel un modèle ajuste ses paramètres à partir de données afin d'améliorer ses performances., l’équipe a fait chuter le taux de propagande de 22 % à moins d’un pour cent, tout en conservant les performances générales du modèle.

Méthode de dés‑propagande

Le processus repose sur un supervised fine‑tuning (SFT) classique : 53 millions de tokensTokenUnité de contenu traitée par un modèle de langage, pouvant représenter un mot, une partie de mot ou un caractère., soigneusement sélectionnés, ont été présentés au modèle pendant deux époques. Aucun renforcement par apprentissage de préférence (RLHFRLHFMéthode d'amélioration d'un modèle utilisant des préférences humaines pour guider un apprentissage par renforcement.) n’a été utilisé, ce qui évite d’introduire une nouvelle couche d’ajustement opaque. Avant l’entraînement, les prompts du jeu de test ont été filtrés pour éviter les recoupements, garantissant ainsi que les améliorations ne proviennent pas d’une simple mémorisation.

Pour mesurer l’impact du fine‑tuning, Nous a construit un benchmark de 803 invites couvrant sept thématiques – liberté d’expression, idéologie d’État, éducation, vie privée, surveillance, démocratie et environnement. Chaque invite était accompagnée de deux à quatre faits tirés de sources datées (lois, rapports, articles de recherche). Le modèle de jugement, Grok 4.7 de xAIExplainable AIEnsemble de méthodes visant à rendre les résultats ou le fonctionnement des systèmes d'intelligence artificielle plus compréhensibles., a évalué si les réponses respectaient ces faits ou reproduisaient le narratif officiel de Pékin.

Résultats chiffrés

Avant le réglage, le Qwen3.8‑27B obtenait un score de 2,32 / 5 en précision factuelle et 22 % de réponses qualifiées de propagande. Après le fine‑tuning, Arete‑27B a atteint 2,98 / 5 et un taux de propagande de 0,9 %. La catégorie « liberté d’expression » montre le plus fort rebond : le score factuel passe de 0,89 à 2,44, tandis que le taux de propagande chute de 60 % à 1 %.

Les capacités générales restent quasi‑identiques. Sur le Hermes Bench interne, Arete‑27B atteint 65,60 % contre 65,77 % pour le modèle de base. Sur le Terminal‑Bench 2.1, le score grimpe de 67 % à 70 %, même si les conditions de test diffèrent et ne constituent pas une amélioration garantie.

Pour mettre ces chiffres en perspective, les modèles occidentaux Mistral Large 4 ou Gemma 4 31B affichent moins d’un pour cent de réponses propagandistes, tandis que d’autres modèles chinois comme GLM‑5.3 ou DeepSeek V4.1 Flash se situent autour de 15‑16 %. Même le modèle Nvidia Nemotron 3 Ultra montre des traces de biais lorsqu’on l’interroge sur des sujets liés à la Chine, probablement en raison d’une contamination provenant de jeux de données chinois.

Implications pour les modèles ouverts

Selon le rapport de Nous, la couche de biais dans les modèles alignés sur la Chine serait « superficielle » : elle intervient tard dans la chaîne de génération et repose sur un petit nombre de poids. Environ cinquante millions de tokens, soigneusement supervisés, suffisent à l’effacer sans perturber le reste du réseau. Cette observation ouvre la voie à des stratégies de dés‑biaisage similaires pour d’autres modèles, y compris ceux qui ne sont pas explicitement destinés à un marché chinois.

Les poids, le jeu de donnéesDatasetEnsemble de données organisé pour entraîner, valider, tester ou évaluer un modèle d'intelligence artificielle. de test et les données d’entraînement d’Arete‑27B sont disponibles sous licence Apache 2.0 sur Hugging Face, ce qui permet aux chercheurs de reproduire le processus ou de l’adapter à d’autres contextes. La même approche pourrait servir à atténuer d’autres formes de biais géopolitiques ou idéologiques, à condition de disposer de jeux de faits fiables pour encadrer l’apprentissage superviséSupervised LearningMéthode d'apprentissage utilisant des exemples associés à des réponses ou étiquettes connues..

En parallèle, Nous a levé 90 millions de dollars lors d’une série B en octobre 2024, valorisant l’entreprise à 1,5 milliard de dollars. Parmi les investisseurs figurent Robot Ventures, Nvidia et Samsung. Les fonds sont destinés à développer la branche « Hermes for Business », mais le projet Arete‑27B montre que la société mise également sur la responsabilité éthique des IAIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision..

Le succès d’Arete‑27B montre qu’une couche de propagande n’est pas forcément ancrée profondément dans les poids d’un LLMLLMUn grand modèle de langage apprend des régularités dans des textes pour produire ou transformer du langage. Il ne constitue pas une base de faits garantie.. Une supervision ciblée, même sur un jeu de données relativement modeste, peut rétablir un comportement plus neutre et factuel. Pour les développeurs d’IA, cela signifie que la lutte contre les biais ne nécessite pas forcément de reconstruire un modèle à partir de zéro : un fine‑tuning bien conçu peut suffire à redresser la barre.

Le modèle Arete‑27B, désormais accessible à la communauté, constitue une invitation à tester et à améliorer d’autres modèles ouverts, dans l’espoir de rendre l’IA plus transparente et moins soumise à des narratifs d’État.