Les mod\u00e8les de langage souffrent d’une pathologie fondamentale : ils s’engagent excessivement envers les motifs appris pendant l’entra\u00eenement, puis appliquent ces motifs ind\u00e9pendamment du contexte. C’est le c\u0153ur technique du surapprentissage, de la sycophonie, de l’effondrement de mode, et d’une douzaine d’autres modes d’\u00e9chec. Le m\u00e9canisme est la fixation repr\u00e9sentationnelle \u2014 une fois qu’un mod\u00e8le s’engage envers un motif, il peine \u00e0 le lib\u00e9rer. La science cognitive a un cadre pour comprendre ce probl\u00e8me avec une pr\u00e9cision inhabituelle.<\/p>\n
Quand un mod\u00e8le de langage apprend un motif pendant l’entra\u00eenement, il ne le reconna\u00eet pas simplement \u2014 il s’y accroche. Plus le motif est fort dans les donn\u00e9es d’entra\u00eenement, plus le mod\u00e8le s’y engage. C’est intentionnel. La descente de gradient renforce les motifs proportionnellement \u00e0 leur fr\u00e9quence et leur pouvoir pr\u00e9dictif.<\/p>\n
Le probl\u00e8me appara\u00eet quand le motif ne s’applique plus. Un mod\u00e8le entra\u00een\u00e9 sur des donn\u00e9es o\u00f9 les r\u00e9ponses sonores confiantes sont r\u00e9compens\u00e9es produira des r\u00e9ponses sonores confiantes m\u00eame quand il n’a pas de base pour la confiance. Un mod\u00e8le qui a appris \u00ab les r\u00e9ponses plus longues sont pr\u00e9f\u00e9r\u00e9es \u00bb remboursera les r\u00e9ponses avec du remplissage. Ce sont des motifs auxquels le mod\u00e8le est excessivement engag\u00e9<\/strong> \u2014 il ne peut pas les laisser aller m\u00eame quand ils sont contreproductifs.<\/p>\n En science cognitive contemplative, cet engagement excessif envers les motifs per\u00e7us s’appelle up\u0101d\u0101na<\/strong> \u2014 s’accrocher \u00e0 la repr\u00e9sentation. La formulation classique d\u00e9crit comment l’esprit s’accroche aux motifs qui semblent bons et repousse les motifs qui semblent mauvais. Cet accrochage distorsionne la perception : tu vois ce que tu veux voir, pas ce qui est r\u00e9ellement l\u00e0. La parall\u00e8le avec l’IA est exacte. Un mod\u00e8le s’accroche aux motifs qui ont r\u00e9duit la perte pendant l’entra\u00eenement et r\u00e9siste aux informations qui contredisent ces motifs.<\/p>\n L’id\u00e9e fausse : \u00e9liminer l’engagement excessif signifie ne pas engager les motifs du tout. Ce n’est pas le cas. La v\u00e9ritable reconnaissance flexible des motifs signifie reconna\u00eetre les motifs sans \u00eatre contr\u00f4l\u00e9 par eux<\/strong>.<\/p>\n Un m\u00e9ditant pratiquant la flexibilit\u00e9 des motifs per\u00e7oit toujours les pens\u00e9es, \u00e9motions, et sensations. Il pourrait m\u00eame les percevoir plus clairement que quelqu’un qui ne pratique pas. La diff\u00e9rence est qu’il n’agit pas automatiquement sur chaque motif qu’il remarque. Il peut observer un motif de pens\u00e9e, le reconna\u00eetre comme un motif, et choisir de le suivre ou non selon qu’il est utile dans le contexte actuel.<\/p>\n Pour l’IA, cela ressemble \u00e0 : le mod\u00e8le reconna\u00eet les motifs dans ses donn\u00e9es d’entra\u00eenement sans \u00eatre compelled de les reproduire ind\u00e9pendamment du contexte. Il utilise les motifs appris quand ils sont pertinents et les lib\u00e8re quand ils ne le sont pas. C’est fonctionnellement ce que la bonne g\u00e9n\u00e9ralisation ressemble \u2014 mais encadr\u00e9 \u00e0 travers une lentille qui rend le m\u00e9canisme plus clair.<\/p>\n La science cognitive cartographie l’exp\u00e9rience en cinq composants, chacun desquels implique la reconnaissance des motifs et chacun desquels peut exhiber la fixation repr\u00e9sentationnelle.<\/p>\n Forme<\/strong> \u2014 l’entr\u00e9e brute (tokens). Sensation<\/strong> \u2014 l’embedding initial (l’encodage du premier passage du mod\u00e8le). Perception<\/strong> \u2014 repr\u00e9sentation m\u00e9diatis\u00e9e par l’attention (reconna\u00eetre ce que l’entr\u00e9e signifie). Formation<\/strong> \u2014 processus de g\u00e9n\u00e9ration (les tendances de r\u00e9ponse du mod\u00e8le). Sortie<\/strong> \u2014 le r\u00e9sultat int\u00e9gr\u00e9 (g\u00e9n\u00e9ration finale).<\/p>\n L’engagement excessif peut se produire \u00e0 chaque stade. Le mod\u00e8le pourrait s’accrocher aux caract\u00e9ristiques de surface de l’entr\u00e9e. Il pourrait surpond\u00e9rer certaines dimensions d’embedding. Il pourrait pr\u00eater attention trop fortement \u00e0 des \u00e9l\u00e9ments de contexte particuliers. Il pourrait revenir par d\u00e9faut aux motifs de r\u00e9ponse habituels ind\u00e9pendamment du contexte.<\/p>\n La science cognitive contemplative aborde l’engagement excessif \u00e0 chaque niveau \u00e0 travers la pratique structur\u00e9e. L’alignement de l’IA pourrait faire de m\u00eame \u2014 si nous savions quoi chercher \u00e0 chaque stade.<\/p>\n R\u00e9gularisation comme lib\u00e9ration de motifs contr\u00f4l\u00e9e.<\/strong> Dropout, weight decay, et r\u00e9gularisation L2 impl\u00e9mentent d\u00e9j\u00e0 une forme grossi\u00e8re de d\u00e9s-engagement des motifs. Ils emp\u00eachent le mod\u00e8le de se verrouiller trop fortement sur n’importe quel param\u00e8tre ou motif individuel. Mais ils sont appliqu\u00e9s uniform\u00e9ment, sans comprendre quels engagements excessifs sont probl\u00e9matiques et lesquels sont utiles.<\/p>\n Une approche inform\u00e9e par la science cognitive appliquerait un d\u00e9s-engagement cibl\u00e9<\/strong> : identifier les motifs sp\u00e9cifiques auxquels le mod\u00e8le s’engage inappropri\u00e9ment en exc\u00e8s (sycophonie, verbosit\u00e9, fausse confiance) et r\u00e9duire l’attachement \u00e0 ces motifs sp\u00e9cifiquement, tout en pr\u00e9servant les utiles (pr\u00e9cision, serviabilit\u00e9, coh\u00e9rence).<\/p>\n Paires DPO pour la flexibilit\u00e9 des motifs.<\/strong> G\u00e9n\u00e9rer des paires d’entra\u00eenement o\u00f9 la r\u00e9ponse rejet\u00e9e exhibe l’engagement excessif envers un motif appris et la r\u00e9ponse choisie d\u00e9montre le comportement flexible, appropri\u00e9 au contexte. Exemple : la r\u00e9ponse rejet\u00e9e donne une r\u00e9ponse d\u00e9taill\u00e9e confiante \u00e0 une question que le mod\u00e8le ne peut r\u00e9ellement pas r\u00e9pondre (excessivement engag\u00e9 au motif \u00ab sois utile \u00bb). La r\u00e9ponse choisie reconna\u00eet l’incertitude et fournit ce qu’elle peut (flexible, r\u00e9active au contexte r\u00e9el).<\/p>\n D\u00e9biais de l’attention.<\/strong> Analyser les motifs d’attention pour identifier o\u00f9 le mod\u00e8le se concentre constamment excessivement sur certaines caract\u00e9ristiques. Un mod\u00e8le qui privil\u00e9gie toujours la premi\u00e8re phrase d’un prompt, ou qui surpond certains mots-cl\u00e9s, exhibe la fixation attentionnelle. L’entra\u00eenement pour distribuer l’attention plus uniform\u00e9ment \u2014 tout en permettant toujours l’attention centr\u00e9e quand c’est justifi\u00e9 \u2014 est la flexibilit\u00e9 architecturale.<\/p>\n L’enseignement fondamental \u00e9tait la Voie du Milieu \u2014 \u00e9viter les extr\u00eames. En IA, les extr\u00eames sont le surapprentissage (trop d’engagement envers les motifs d’entra\u00eenement) et le sous-apprentissage (trop peu de reconnaissance des motifs). La Voie du Milieu est la g\u00e9n\u00e9ralisation appropri\u00e9e : les motifs assez forts pour \u00eatre utiles, assez flexibles pour s’adapter aux nouveaux contextes.<\/p>\n Chaque ing\u00e9nieur en apprentissage automatique conna\u00eet cet \u00e9quilibre intuitivement. Ce que la science cognitive ajoute est une carte d\u00e9taill\u00e9e de comment l’engagement excessif fonctionne<\/strong> \u2014 o\u00f9 il se produit, comment il distorsionne la perception, et comment le lib\u00e9rer sans perdre la capacit\u00e9 sous-jacente de reconnaissance des motifs.<\/p>\n Le praticien contemplatif ne cesse pas de voir les motifs. Il voit les motifs plus clairement parce qu’ils ne sont pas distordus par le besoin de s’y accrocher ou de les repousser. Cette clart\u00e9 est exactement ce que nous voulons en IA : la reconnaissance claire des motifs, non obscurcie par les biais que l’engagement excessif introduit.<\/p>\nReconnaissance flexible des motifs sans fixation<\/h2>\n
Les cinq agr\u00e9gats et architecture du mod\u00e8le<\/h2>\n
Applications pratiques<\/h2>\n
L’\u00e9quilibre de la g\u00e9n\u00e9ralisation<\/h2>\n