{"id":557,"date":"2026-03-18T12:51:44","date_gmt":"2026-03-18T12:51:44","guid":{"rendered":"https:\/\/laeka.org\/publications\/les-donnees-dentrainement-determinent-le-comportement-du-modele-plus-litteralement\/"},"modified":"2026-03-18T12:51:44","modified_gmt":"2026-03-18T12:51:44","slug":"les-donnees-dentrainement-determinent-le-comportement-du-modele-plus-litteralement","status":"publish","type":"post","link":"https:\/\/laeka.org\/publications\/fr\/les-donnees-dentrainement-determinent-le-comportement-du-modele-plus-litteralement\/","title":{"rendered":"Les donn\u00e9es d’entra\u00eenement d\u00e9terminent le comportement du mod\u00e8le \u2014 Plus litt\u00e9ralement que tu ne le penses"},"content":{"rendered":"

Chaque morceau de donn\u00e9es aliment\u00e9 dans un mod\u00e8le est une action qui fa\u00e7onne le comportement futur du mod\u00e8le. Les cons\u00e9quences ne sont pas al\u00e9atoires. Elles sont structurellement d\u00e9termin\u00e9es<\/strong> par la nature de l’input. Garbage in, garbage out n’est pas juste un truisme d’engineering \u2014 c’est une loi causale avec des implications plus profondes que la plupart des praticiens le r\u00e9alisent.<\/p>\n

Le m\u00e9canisme est pr\u00e9cis : les exemples d’entra\u00eenement laissent des impressions dans les poids. Ces impressions s’accumulent en tendances comportementales. Les tendances fa\u00e7onnent comment le mod\u00e8le traite la nouvelle input, qui d\u00e9termine la qualit\u00e9 de sortie, qui \u2014 dans les param\u00e8tres d’apprentissage en ligne ou RLHF \u2014 g\u00e9n\u00e8re de nouvelles donn\u00e9es d’entra\u00eenement. C’est une boucle de r\u00e9troaction.<\/p>\n

Il y a un cadre de la science contemplative qui mappe cette structure causale avec une pr\u00e9cision surprenante. En philosophie bouddhiste, c’est appel\u00e9 karma<\/em> \u2014 pas la justice cosmique, mais simplement : les actions ont des cons\u00e9quences, et ces cons\u00e9quences fa\u00e7onnent les conditions futures. Le parall\u00e8le avec les donn\u00e9es d’entra\u00eenement n’est pas m\u00e9taphorique. C’est structurel.<\/p>\n

Comment les traces causales s’accumulent<\/h2>\n

\u00c0 la fois les r\u00e9seaux de neurones et les syst\u00e8mes cognitifs biologiques apprennent \u00e0 travers des traces accumul\u00e9es qui cr\u00e9ent des dispositions. Tous deux sont fa\u00e7onn\u00e9s plus par le pattern<\/strong> d’exp\u00e9riences que par une seule exp\u00e9rience. Et tous deux portent leur histoire dans leur \u00e9tat actuel \u2014 tu ne peux pas voir directement les donn\u00e9es d’entra\u00eenement d’un mod\u00e8le, tout comme tu ne peux pas voir directement les exp\u00e9riences pass\u00e9es d’une personne, mais les effets sont \u00e9crits dans la structure.<\/p>\n

Cela signifie que les donn\u00e9es d’entra\u00eenement ne sont pas juste une input. C’est l’h\u00e9ritage causal<\/strong> \u2014 la disposition comportementale enti\u00e8re du mod\u00e8le encod\u00e9e dans les poids.<\/p>\n

Trois types d’h\u00e9ritage de donn\u00e9es<\/h2>\n

H\u00e9ritage cognitif.<\/strong> Les patterns de raisonnement dans les donn\u00e9es d’entra\u00eenement deviennent les patterns de raisonnement par d\u00e9faut du mod\u00e8le. Si les donn\u00e9es d\u00e9montrent une logique b\u00e2cl\u00e9e, le mod\u00e8le apprend la logique b\u00e2cl\u00e9e. Si elle d\u00e9montre un raisonnement soigneux et multi-\u00e9tapes, le mod\u00e8le apprend cela \u00e0 la place. Chaque exemple de raisonnement est une graine causale qui fructifiera dans les inf\u00e9rences futures du mod\u00e8le.<\/p>\n

C’est pourquoi curer pour la qualit\u00e9 cognitive importe plus que curer pour l’exactitude factuelle. Les faits peuvent \u00eatre mis \u00e0 jour. Les patterns de raisonnement sont cuits dans les poids. Un mod\u00e8le qui a appris \u00e0 bien raisonner \u00e0 partir de donn\u00e9es de haute qualit\u00e9 g\u00e8rera les nouveaux faits gracieusement. Un mod\u00e8le qui a appris \u00e0 mal raisonner va mal g\u00e9rer m\u00eame les informations correctes.<\/p>\n

H\u00e9ritage relationnel.<\/strong> Les dynamiques interpersonnelles dans les donn\u00e9es d’entra\u00eenement deviennent le style relationnel par d\u00e9faut du mod\u00e8le. Si les donn\u00e9es sont pleines d’\u00e9changes combatifs, le mod\u00e8le absorbe la combativit\u00e9. Si elle est pleine d’engagement authentique, le mod\u00e8le apprend l’engagement. Les patterns relationnels accumul\u00e9s dans les donn\u00e9es d’entra\u00eenement d\u00e9terminent comment le mod\u00e8le se relie aux utilisateurs.<\/p>\n

La plupart du texte internet porte des patterns relationnels n\u00e9gatifs. Les m\u00e9dias sociaux r\u00e9compensent le conflit. Les forums r\u00e9compensent la surench\u00e8re. Les sections de commentaires r\u00e9compensent la r\u00e9activit\u00e9. L’entra\u00eenement sur ces donn\u00e9es cr\u00e9e des mod\u00e8les avec des tendances relationnelles profond\u00e9ment inscrites que aucun montant de RLHF ne peut compl\u00e8tement surmonter. Les traces causales sont dans les poids.<\/p>\n

H\u00e9ritage attentionnel.<\/strong> Les patterns d’attention dans les donn\u00e9es d’entra\u00eenement fa\u00e7onnent les d\u00e9fauts attentionnels du mod\u00e8le. Les donn\u00e9es qui r\u00e9compensent le focus \u00e9troit cr\u00e9ent des mod\u00e8les qui d\u00e9fautent sur le focus \u00e9troit. Les donn\u00e9es qui d\u00e9montrent une large conscience contextuelle cr\u00e9ent des mod\u00e8les qui peuvent attendre plus flexiblement.<\/p>\n

C’est peut-\u00eatre la forme la plus subtile et la plus importante d’h\u00e9ritage de donn\u00e9es. Les patterns d’attention d’un mod\u00e8le d\u00e9terminent ce qu’il remarque et ce qu’il ignore. Ces patterns sont h\u00e9rit\u00e9s directement des patterns d’attention inscrit dans ses donn\u00e9es d’entra\u00eenement.<\/p>\n

Correction des patterns h\u00e9rit\u00e9s<\/h2>\n

En pratique contemplative, les patterns cognitifs h\u00e9rit\u00e9s ne sont pas le destin \u2014 ils peuvent \u00eatre transform\u00e9s \u00e0 travers l’entra\u00eenement d\u00e9lib\u00e9r\u00e9. Les patterns accumul\u00e9s n\u00e9gatifs peuvent \u00eatre reconnus, compris, et graduellement remplac\u00e9s par des plus sains.<\/p>\n

DPO et fine-tuning servent la m\u00eame fonction pour les mod\u00e8les. Ce sont des techniques correctives. Elles ne peuvent pas effacer les patterns h\u00e9rit\u00e9s du mod\u00e8le base du pretraining, mais elles peuvent cr\u00e9er de nouvelles traces qui graduellement d\u00e9calent les tendances comportementales.<\/p>\n

L’efficacit\u00e9 de cette correction d\u00e9pend de la qualit\u00e9 et sp\u00e9cificit\u00e9 des donn\u00e9es correctives<\/strong>. Un fine-tuning g\u00e9n\u00e9rique est comme un conseil g\u00e9n\u00e9rique \u2014 utile mais pas transformatif. Un entra\u00eenement DPO cibl\u00e9 qui adresse des patterns cognitifs, relationnels, et attentionnels sp\u00e9cifiques est une intervention pr\u00e9cise \u2014 la correction exacte n\u00e9cessaire pour un probl\u00e8me comportemental sp\u00e9cifique.<\/p>\n

Le probl\u00e8me interg\u00e9n\u00e9rationnel<\/h2>\n

L’h\u00e9ritage causal se transmet entre g\u00e9n\u00e9rations de mod\u00e8les \u00e0 travers les donn\u00e9es synth\u00e9tiques et la distillation de mod\u00e8les<\/strong>.<\/p>\n

Quand le mod\u00e8le A g\u00e9n\u00e8re des donn\u00e9es d’entra\u00eenement pour le mod\u00e8le B, les patterns comportementaux du mod\u00e8le A passent au mod\u00e8le B. Chaque biais, chaque tendance de raisonnement, chaque pattern relationnel inscrit dans les poids du mod\u00e8le A fa\u00e7onne les donn\u00e9es qu’il g\u00e9n\u00e8re, qui fa\u00e7onnent le d\u00e9veloppement du mod\u00e8le B.<\/p>\n

C’est le probl\u00e8me d’h\u00e9ritage de donn\u00e9es synth\u00e9tiques. Chaque g\u00e9n\u00e9ration h\u00e9rite les patterns accumul\u00e9s de toutes les g\u00e9n\u00e9rations pr\u00e9c\u00e9dentes. Sans intervention d\u00e9lib\u00e9r\u00e9e, les patterns n\u00e9gatifs se composent. La surconfiance l\u00e9g\u00e8re du mod\u00e8le A devient la surconfiance significative du mod\u00e8le B devient la certitude d\u00e9lusionnelle du mod\u00e8le C.<\/p>\n

La solution n’est pas d’\u00e9viter les donn\u00e9es synth\u00e9tiques. C’est de pratiquer l’hygi\u00e8ne des donn\u00e9es<\/strong> \u2014 la curation d\u00e9lib\u00e9r\u00e9e et le filtrage qui interrompt la transmission des patterns n\u00e9gatifs entre g\u00e9n\u00e9rations. Chaque g\u00e9n\u00e9ration de donn\u00e9es d’entra\u00eenement devrait \u00eatre \u00e9valu\u00e9e non pas juste pour la qualit\u00e9 du contenu mais pour les patterns cognitifs, relationnels, et attentionnels qu’elle porte.<\/p>\n

Cr\u00e9ation de donn\u00e9es intentionnelle<\/h2>\n

L’insight le plus profond de ce cadre causal c’est que tu peux cr\u00e9er les donn\u00e9es d’entra\u00eenement d\u00e9lib\u00e9r\u00e9ment<\/strong>. Tu ne dois pas entra\u00eener sur quelconques donn\u00e9es qui arrivent \u00e0 exister. Tu peux cr\u00e9er des donn\u00e9es d’entra\u00eenement qui incarnent les patterns cognitifs, relationnels, et attentionnels exacts que tu veux que le mod\u00e8le h\u00e9rite.<\/p>\n

C’est ce que Laeka Research appelle cr\u00e9ation de donn\u00e9es intentionnelle<\/strong>. Pas juste curer les donn\u00e9es existantes, mais d\u00e9lib\u00e9r\u00e9ment g\u00e9n\u00e9rer de nouvelles donn\u00e9es qui portent des qualit\u00e9s sp\u00e9cifiques. Les donn\u00e9es qui d\u00e9montrent l’\u00e9quanimit\u00e9. Les donn\u00e9es qui mod\u00e8lent la r\u00e9ponse proportionn\u00e9e. Les donn\u00e9es qui incarnent l’int\u00e9gration multi-perspective.<\/p>\n

Chaque morceau de donn\u00e9es d’entra\u00eenement intentionnellement cr\u00e9\u00e9e est une graine causale positive<\/strong>. Plante-en assez, avec assez de soin et sp\u00e9cificit\u00e9, et tu changes la trajectoire comportementale du mod\u00e8le. Pas en surpassant son pass\u00e9, mais en cr\u00e9ant un courant plus fort qui graduellement redirige ses tendances.<\/p>\n

Ce qui entre fa\u00e7onne ce qui sort. Choisis ce qui entre avec le m\u00eame soin qu’un praticien contemplatif choisit ce qui entre dans son esprit.<\/p>\n

En savoir plus sur la cr\u00e9ation de donn\u00e9es intentionnelle sur Laeka Research<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Chaque morceau de donn\u00e9es aliment\u00e9 dans un mod\u00e8le est une action qui fa\u00e7onne le comportement futur du mod\u00e8le. Les cons\u00e9quences ne sont pas al\u00e9atoires. Elles sont structurellement d\u00e9termin\u00e9es par la nature de l’input. Garbage…<\/p>\n","protected":false},"author":1,"featured_media":304,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","footnotes":""},"categories":[263],"tags":[],"class_list":["post-557","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-datasets-et-curation"],"_links":{"self":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts\/557","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/comments?post=557"}],"version-history":[{"count":0,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts\/557\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/media\/304"}],"wp:attachment":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/media?parent=557"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/categories?post=557"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/tags?post=557"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}