![\"\"](\"https:\/\/www.artefact.com\/\/wp-content\/uploads\/2026\/03\/Part-1-Post-memory-training_Teaching-agents-to-remember-not-just-retrieve-image-1.png\")
<\/p>\n
Le mur de r\u00e9glage<\/h2>\n
L'hypoth\u00e8se par d\u00e9faut pour la majeure partie de l'histoire r\u00e9cente de l'IA a \u00e9t\u00e9 simple : si vous voulez qu'un mod\u00e8le se comporte diff\u00e9remment, affinez-le. Ajustez les poids. Optimisez pour votre domaine. Le probl\u00e8me, c'est que le r\u00e9glage fin est devenu l'apanage d'un nombre de plus en plus restreint d'organisations.<\/p>\n
L'entra\u00eenement d'un mod\u00e8le de 70B param\u00e8tres n\u00e9cessite des centaines de GPU haut de gamme fonctionnant pendant des jours ou des semaines. Une seule op\u00e9ration de r\u00e9glage fin sur un mod\u00e8le tel que Llama 3.1 70B co\u00fbte entre $50 000 et $200 000 en calcul, en fonction de la taille et de la dur\u00e9e de dataset. L'acc\u00e8s \u00e0 cet ordinateur est limit\u00e9. Les clusters NVIDIA H100 sont r\u00e9serv\u00e9s des mois \u00e0 l'avance et l'expertise n\u00e9cessaire pour g\u00e9rer les t\u00e2ches de formation distribu\u00e9es est rare. La plupart des \u00e9quipes d'entreprise n'ont pas d'ing\u00e9nieurs ML capables de concevoir des fonctions de r\u00e9compense, de d\u00e9boguer les probl\u00e8mes de gradient ou de g\u00e9rer la r\u00e9cup\u00e9ration des points de contr\u00f4le sur des grappes \u00e0 plusieurs n\u0153uds.<\/p>\n
Il en r\u00e9sulte un syst\u00e8me \u00e0 deux vitesses. Une poign\u00e9e de laboratoires d'avant-garde et de startups bien financ\u00e9es peuvent personnaliser le comportement des mod\u00e8les. Tous les autres utilisent les mod\u00e8les tels quels, en les enveloppant dans des pipelines d'ing\u00e9nierie et de r\u00e9cup\u00e9ration rapides qui atteignent un plafond d\u00e8s que les t\u00e2ches deviennent longues et complexes.<\/p>\n
La formation post-m\u00e9moire rompt cette dynamique. Elle ne modifie pas les poids du mod\u00e8le de base pour la connaissance du domaine. Il entra\u00eene un comportement - la gestion de la m\u00e9moire - en utilisant l'apprentissage par renforcement dans la phase de post-entra\u00eenement. Les besoins en calcul sont inf\u00e9rieurs d'un ordre de grandeur. L'ensemble du pipeline de formation d'AgeMem fonctionne sur un seul n\u0153ud 8xA100. Memory-R1 obtient ses r\u00e9sultats avec 152 \u00e9chantillons d'entra\u00eenement. MemAct entra\u00eene un mod\u00e8le de 14B pour atteindre la pr\u00e9cision de mod\u00e8les 16x plus grands. Il ne s'agit pas d'exigences en mati\u00e8re de ressources d'un laboratoire de pointe. Elles sont accessibles.<\/p>\n
Cons\u00e9quence : les organisations qui n'auraient jamais pu se permettre d'affiner un mod\u00e8le de base peuvent d\u00e9sormais former leurs agents \u00e0 g\u00e9rer la m\u00e9moire de mani\u00e8re intelligente. Il ne s'agit pas d'une am\u00e9lioration progressive. Il s'agit d'un changement dans le choix des personnes charg\u00e9es de cr\u00e9er des agents qui fonctionnent r\u00e9ellement au-del\u00e0 de la phase de d\u00e9monstration.<\/p>\n
Le foss\u00e9 que l'architecture seule ne peut combler<\/h2>\n
Voici le probl\u00e8me en termes concrets. Une seule conversation avec un agent d'IA co\u00fbte en moyenne $0,14 en jetons. Adaptez ce chiffre \u00e0 3 000 employ\u00e9s qui l'utilisent dix fois par jour, et vous obtiendrez $126 000 par mois en frais d'API. Au fur et \u00e0 mesure que l'historique des conversations s'allonge, les co\u00fbts augmentent de fa\u00e7on quadratique, car chaque nouveau tour traite \u00e0 nouveau tous les tours pr\u00e9c\u00e9dents. Un agent qui g\u00e8re un flux de travail de 100 tours ne co\u00fbte pas 10 fois le co\u00fbt d'un flux de travail de 10 tours. Son co\u00fbt est plus proche de 100x.<\/p>\n
Le secteur a essay\u00e9 d'\u00e9largir les fen\u00eatres contextuelles. Nous avons maintenant des mod\u00e8les qui acceptent un million de jetons ou plus. Mais trois probl\u00e8mes persistent. L'attention du mod\u00e8le se d\u00e9grade sur de longues s\u00e9quences. L'effet \u201clost in the middle\u201d (perdu au milieu), document\u00e9 par l'universit\u00e9 de Berkeley, montre que les performances chutent lorsque les informations pertinentes se trouvent pr\u00e8s des limites du contexte. Le co\u00fbt du renforcement brutal du contexte est insoutenable \u00e0 l'\u00e9chelle d'une organisation. Et la plupart des flux de travail des entreprises d\u00e9passent encore les fen\u00eatres d'un million de mots lorsque vous tenez compte des sorties d'outils, des data structur\u00e9es et de l'\u00e9tat accumul\u00e9.<\/p>\n
L'industrie a essay\u00e9 la g\u00e9n\u00e9ration augment\u00e9e par r\u00e9cup\u00e9ration. La RAG est utile, mais elle r\u00e9cup\u00e8re ce qui est s\u00e9mantiquement similaire, et non ce qui est pertinent d'un point de vue op\u00e9rationnel. Une contrainte critique du tour 3 peut \u00eatre s\u00e9mantiquement \u00e9loign\u00e9e de la requ\u00eate du tour 47, tout en \u00e9tant essentielle \u00e0 la d\u00e9cision \u00e0 prendre.<\/p>\n
L'industrie a essay\u00e9 la gestion heuristique de la m\u00e9moire. Des syst\u00e8mes bas\u00e9s sur des r\u00e8gles qui r\u00e9sument, compressent ou filtrent le contexte sur la base d'une logique pr\u00e9d\u00e9finie. L'architecture de Mem0 permet d'am\u00e9liorer la pr\u00e9cision de 26% et de r\u00e9duire le temps de latence de 91% par rapport aux m\u00e9thodes \u00e0 contexte complet. Des gains r\u00e9els. Mais les syst\u00e8mes heuristiques ont une limite commune : les r\u00e8gles sont con\u00e7ues par des ing\u00e9nieurs, et non apprises par l'exp\u00e9rience. Elles ne peuvent pas s'adapter \u00e0 de nouveaux domaines sans une refonte manuelle.<\/p>\n
La lacune : aucune de ces approches n'enseigne \u00e0 l'agent lui-m\u00eame ce qu'il doit retenir. Et aucune n'enseigne \u00e0 l'agent comment naviguer dans son propre contexte.<\/p>\n
Post-entra\u00eenement \u00e0 la m\u00e9moire : la convergence RL<\/h2>\n
Le terme \u201cpost-entra\u00eenement\u201d fait r\u00e9f\u00e9rence \u00e0 l'optimisation qui a lieu apr\u00e8s la phase de pr\u00e9-entra\u00eenement du mod\u00e8le de base. C'est ainsi que nous sommes pass\u00e9s de mod\u00e8les de langage brut \u00e0 des assistants qui suivent des instructions (via RLHF), d'assistants \u00e0 des mod\u00e8les de raisonnement (via des mod\u00e8les de r\u00e9compense de processus), et maintenant - de mod\u00e8les de raisonnement \u00e0 des agents qui g\u00e8rent leur propre \u00e9tat cognitif.<\/p>\n
Le m\u00e9canisme est l'apprentissage par renforcement. Au lieu de concevoir la gestion de la m\u00e9moire comme un syst\u00e8me externe, vous ajoutez des op\u00e9rations de m\u00e9moire \u00e0 l'espace d'action de l'agent et vous l'entra\u00eenez \u00e0 les utiliser correctement. L'agent apprend quand stocker, effacer, consolider et r\u00e9cup\u00e9rer - tout cela par essais et erreurs, optimis\u00e9s en fonction de l'accomplissement de la t\u00e2che. Il n'est pas n\u00e9cessaire de disposer d'exemples concrets de gestion \u201ccorrecte\u201d de la m\u00e9moire. Il suffit d'un signal de r\u00e9compense : l'agent a-t-il fini par r\u00e9soudre la t\u00e2che ?<\/p>\n
Huit articles r\u00e9cents expliquent comment cela fonctionne.<\/p>\n
Les architectures cl\u00e9s<\/h2>\n
AgeMem<\/strong> donne \u00e0 l'agent six outils de m\u00e9moire - ADD, UPDATE, DELETE pour le stockage \u00e0 long terme, et RETRIEVE, SUMMARY, FILTER pour le contexte \u00e0 court terme. La formation se d\u00e9roule en trois \u00e9tapes progressives. R\u00e9sultats sur Qwen2.5-7B : +49.59% am\u00e9lioration relative par rapport aux lignes de base sans m\u00e9moire, avec 3-5% moins de jetons d'invite consomm\u00e9s que les variantes RAG. Meilleure performance avec moins de contexte.<\/p>\n M\u00e9moire-R1<\/strong> s\u00e9pare le probl\u00e8me en deux agents sp\u00e9cialis\u00e9s : un gestionnaire de m\u00e9moire qui apprend les op\u00e9rations structur\u00e9es et un agent de r\u00e9ponse qui r\u00e9cup\u00e8re et raisonne. La r\u00e9compense du gestionnaire de m\u00e9moire d\u00e9pend de la capacit\u00e9 de l'agent de r\u00e9ponse \u00e0 r\u00e9pondre correctement. R\u00e9sultats : +28% F1<\/strong> par rapport \u00e0 la meilleure r\u00e9f\u00e9rence sur LoCoMo, en utilisant seulement 152 \u00e9chantillons d'entra\u00eenement. Transfert \u00e0 z\u00e9ro sur des benchmarks in\u00e9dits sans r\u00e9entra\u00eenement.<\/p>\n MemAct<\/strong> enrichit l'espace d'action d'un op\u00e9rateur \u201cPrune & Write\u201d - \u00e0 chaque \u00e9tape, l'agent peut supprimer des tours d'histoire et ajouter un r\u00e9sum\u00e9 de la m\u00e9moire. MemAct-RL-14B atteint la pr\u00e9cision de mod\u00e8les 16x plus grands<\/strong> tout en r\u00e9duisant la longueur moyenne du contexte de 51% et la latence d'inf\u00e9rence de ~40%.<\/p>\n MEM1<\/strong> va le plus loin, en maintenant une taille de m\u00e9moire constante. \u00c0 chaque tour, l'agent g\u00e9n\u00e8re un \u00e9tat interne qui consolide tout ce dont il a besoin, puis se d\u00e9barrasse de tout le contexte pr\u00e9c\u00e9dent. L'utilisation de la m\u00e9moire reste constante quelle que soit la dur\u00e9e de la t\u00e2che. MEM1-7B d\u00e9passe Qwen2.5-14B<\/strong> sur des t\u00e2ches \u00e0 16 objectifs. Le mod\u00e8le a appris \u00e0 suivre les sous-objectifs s\u00e9par\u00e9ment, \u00e0 sauter les questions r\u00e9solues et \u00e0 auto-corriger les requ\u00eates - autant de comportements \u00e9mergents.<\/p>\n MemAgent<\/strong> s'attaque au cas extr\u00eame : le traitement de documents de longueur arbitraire avec une complexit\u00e9 lin\u00e9aire. Entra\u00een\u00e9 sur une longueur de contexte de 32K, il extrapole \u00e0 3,5 millions de tokens avec une perte de performance inf\u00e9rieure \u00e0 5%.<\/p>\n Le m\u00eame sch\u00e9ma s'applique \u00e0 tous : la gestion de la m\u00e9moire entra\u00een\u00e9e est sup\u00e9rieure \u00e0 la gestion de la m\u00e9moire non entra\u00een\u00e9e, et souvent sup\u00e9rieure \u00e0 des mod\u00e8les plus importants avec une m\u00e9moire non entra\u00een\u00e9e<\/strong>.<\/p>\n Mais enseigner aux agents ce qu'il faut retenir n'est que la moiti\u00e9 de l'histoire. Dans la prochaine partie de cet article, j'approfondirai un d\u00e9veloppement parall\u00e8le qui recadre enti\u00e8rement le probl\u00e8me : Mod\u00e8les linguistiques r\u00e9cursifs<\/strong>, qui traitent le contexte non pas comme un \u00e9l\u00e9ment \u00e0 r\u00e9cup\u00e9rer, mais comme un \u00e9l\u00e9ment \u00e0 parcourir. Je me pencherai \u00e9galement sur la mani\u00e8re dont les syst\u00e8mes de production tels que OpenClaw<\/strong> Les agents qui \u00e9voluent ne se contenteront pas de mieux m\u00e9moriser - ils sauront comment trouver ce qu'ils n'ont pas encore m\u00e9moris\u00e9. Les agents qui passeront \u00e0 l'\u00e9chelle sup\u00e9rieure ne se contenteront pas de mieux se souvenir - ils sauront comment trouver ce qu'ils n'ont pas encore retenu.<\/p>","protected":false},"excerpt":{"rendered":" L'entra\u00eenement post-m\u00e9moire a \u00e9t\u00e9 un hyperfocus pour moi au cours des derniers mois. Si vous avez suivi mes \u00e9crits r\u00e9cents sur la gestion du contexte, les architectures de m\u00e9moire et la question r\u00e9currente de savoir pourquoi les agents se d\u00e9gradent apr\u00e8s le 50e tour, cet article est l\u00e0 o\u00f9 ces fils se rejoignent. Le sch\u00e9ma initial \u00e9tait suffisamment clair. Huit \u00e9quipes de recherche ind\u00e9pendantes sont parvenues \u00e0 la m\u00eame conclusion : arr\u00eatez de construire des syst\u00e8mes de m\u00e9moire autour du mod\u00e8le et entra\u00eenez le mod\u00e8le lui-m\u00eame \u00e0 g\u00e9rer la m\u00e9moire comme une comp\u00e9tence acquise. Cette convergence \u00e9tait significative.<\/p>","protected":false},"featured_media":1103953,"parent":0,"template":"","meta":{"_acf_changed":false,"ep_exclude_from_search":false},"blog-category":[2995],"blog-language":[2991],"class_list":["post-1103952","blog","type-blog","status-publish","has-post-thumbnail","hentry","blog-category-ai-technology","blog-language-en"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/blog\/1103952","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/blog"}],"about":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/types\/blog"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/media\/1103953"}],"wp:attachment":[{"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/media?parent=1103952"}],"wp:term":[{"taxonomy":"blog-category","embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/blog-category?post=1103952"},{"taxonomy":"blog-language","embeddable":true,"href":"https:\/\/www.artefact.com\/fr\/wp-json\/wp\/v2\/blog-language?post=1103952"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}