Comment Anthropic équipe Claude d’une mémoire persistante pour les agents multi‑sessions

Anthropic vient de détailler une architecture de mémoire conçue pour les agents Claude qui évoluent sur plusieurs sessions. Au lieu de modifier les poids du modèleParamètres du modèleValeurs numériques internes apprises pendant l'entraînement et utilisées par le modèle pour produire ses résultats. à chaque interaction, la solution repose sur des fichiers persistants que l’agent peut relire ultérieurement. Deux phases se distinguent : la prise de notes pendant l’action et une phase différée, qualifiée de « dreaming », dédiée à la vérification, à la réorganisation et à la mise en relation des souvenirs.

Sélectionner ce qui vaut la peine d’être conservé

L’idée centrale est de ne retenir que les éléments susceptibles d’être utiles à une tâche future. Quand un agent consigne une règle, il part du principe que celle‑ci pourra être réutilisée. Il doit donc faire la différence entre faits vérifiés, hypothèses et informations déjà accessibles dans l’environnement. Sur le banc de tests Continual Learning Bench, les dernières versions de Claude ont montré qu’elles pouvaient boucler ce processus : elles enregistrent une règle, précisent comment elle a été validée et signalent les pièges rencontrés. Un paramétrage trop strict, qui ne mémoriserait que les échecs, réduirait en revanche les bénéfices.

Un exemple tiré d’un test sur Pokémon Red illustre le coût d’une mémoire mal filtrée. L’agent Claude Sonnet 3.7 a produit 413 fichiers répartis dans 225 dossiers après environ 10 000 actions pour obtenir un seul badge. En comparaison, l’agent Fable 5 n’a généré que neuf fichiers, deux dossiers et un tableau de bord global, tout en décrochant quatre badges. La seconde approche a privilégié les stratégies et les objectifs, laissant l’état du jeu visible à l’écran plutôt que de le recopier dans une multitude de notes.

Le « dreaming » : relire et corriger les traces

Entre deux interactions, la phase de dreaming intervient. Claude relit les journaux de session, confronte ses notes aux événements d’origine, corrige les erreurs et peut même créer de nouvelles représentations. Anthropic cite un cas où l’agent avait mémorisé un mauvais emplacement d’un bâtiment dans Pokémon. La relecture du transcript a permis de corriger la note avant la session suivante, évitant ainsi une répétition d’erreur.

Cette consolidation peut aboutir à la création d’un wiki interne, constitué de pages reliées entre elles et servant de carte documentaire. Sur un corpus interne de 350 000 fichiers (420 M tokensTokenUnité de contenu traitée par un modèle de langage, pouvant représenter un mot, une partie de mot ou un caractère.), des agents Opus 5 ont travaillé pendant 128 sessions. Le score basé sur le wiki est passé de 13 % après deux sessions à 48 % après 128, tandis que l’association wiki + outil de recherche a fait grimper le score agrégé de 54 % à 61 %. Le même mécanisme a économisé environ 20 000 tokens par question. Dans une évaluation juridique demandant le croisement de plusieurs documents, le wiki a atteint 87 % de précision contre 73 % pour la recherche directe.

Limites et coûts supplémentaires

Anthropic rappelle que la méthode n’est pas sans défaut. Une note erronée peut être réinjectée à chaque session, propageant ainsi une mauvaise décision. Un wiki trop volumineux peut finir par dépasser les documents qu’il résume, rendant la recherche directe plus efficace pour des questions simples. De plus, le processus de dreaming introduit un coût de calcul hors session ; il ne devient rentable que pour des tâches longues et répétitives où la consolidation apporte un vrai gain.

En pratique, l’approche cible les agents qui reviennent sur les mêmes projets, utilisent des outils et doivent apprendre de leurs propres erreurs sans nécessiter de réentraînement complet. Pour les scénarios ponctuels ou les requêtes isolées, la recherche immédiate reste souvent la meilleure option.

Ainsi, la mémoire persistante d’Anthropic propose une façon structurée d’amplifier la capacité d’apprentissage continu des agents IAIntelligence artificielleEnsemble de techniques permettant à des machines d'accomplir des tâches nécessitant habituellement certaines capacités humaines, comme la reconnaissance, la prédiction ou la prise de décision., à condition de maîtriser la sélection des informations et d’accepter le surcoût de calcul inhérent.