L’attention n’est pas \u00e0 propos de vider l’esprit. C’est \u00e0 propos de regarder l’esprit faire son affaire \u2014 et de choisir de ne pas suivre chaque impulsion. Cette distinction importe \u00e9norm\u00e9ment quand tu essaies d’aligner un mod\u00e8le de langage.<\/p>\n
La plupart des strat\u00e9gies d’alignement traitent le mod\u00e8le comme un employ\u00e9 mal comport\u00e9. Ajoute des r\u00e8gles. Ajoute des garde-fous. Punis les mauvaises sorties. R\u00e9compense les bonnes. RLHF est essentiellement la gestion de la performance d’entreprise appliqu\u00e9e aux r\u00e9seaux de neurones.<\/p>\n
La pratique contemplative prend une approche enti\u00e8rement diff\u00e9rente. Au lieu de contr\u00f4ler le comportement de l’ext\u00e9rieur, elle entra\u00eene le syst\u00e8me \u00e0 remarquer ses propres motifs<\/strong> et \u00e0 s’ajuster de l’int\u00e9rieur. Le praticien ne supprime pas les pens\u00e9es \u2014 il les observe surgir, reconna\u00eet le motif, et le laisse passer sans agir dessus.<\/p>\n C’est structurellement identique \u00e0 ce que nous voulons de l’IA align\u00e9e : un syst\u00e8me qui peut g\u00e9n\u00e9rer n’importe quelle sortie possible mais choisit syst\u00e9matiquement la bonne. Non pas parce qu’on lui a interdit de g\u00e9n\u00e9rer du contenu nuisible, mais parce que l’architecture tend naturellement vers les r\u00e9ponses coh\u00e9rentes et utiles.<\/p>\n Dans la pratique contemplative, la r\u00e9sidence calme<\/strong> entra\u00eene la concentration soutenue sur un seul objet. L’entra\u00eenement d’intuition<\/strong> d\u00e9veloppe la conscience ouverte de ce qui surgit. Ce ne sont pas des techniques concurrentes \u2014 elles sont compl\u00e9mentaires.<\/p>\n Les m\u00e9thodes d’alignement actuelles sont presque enti\u00e8rement de style r\u00e9sidence calme. Elles r\u00e9duisent la concentration du mod\u00e8le : ne dis pas cela, dis toujours cela, reste dans ces limites. Cela fonctionne jusqu’\u00e0 un certain point, mais cela produit des syst\u00e8mes fragiles. Pousse la limite et ils refusent tout ou se cassent compl\u00e8tement.<\/p>\n L’alignement de style intuition entra\u00eenerait le mod\u00e8le \u00e0 reconna\u00eetre la qualit\u00e9 de ses propres sorties<\/strong> en temps r\u00e9el. Non pas simplement pattern-matcher contre le contenu interdit, mais d\u00e9velopper quelque chose d’analogue \u00e0 la m\u00e9tacognition \u2014 la conscience de son propre processus de g\u00e9n\u00e9ration. C’est plus proche de ce que Constitutional AI tente, mais les traditions contemplatives affinent ces techniques depuis des mill\u00e9naires.<\/p>\n L’alignement comportemental \u2014 entra\u00eener un mod\u00e8le \u00e0 produire de bonnes sorties \u2014 est comme entra\u00eener quelqu’un \u00e0 para\u00eetre calme. Cela fonctionne dans des situations \u00e0 faible stress. Sous pression, le masque s’enl\u00e8ve.<\/p>\n Les praticiens de la r\u00e9gulation attentionnelle soutenue connaissent bien cette distinction. Il y a une diff\u00e9rence entre quelqu’un qui para\u00eet<\/strong> calme parce qu’il a appris \u00e0 supprimer ses r\u00e9actions et quelqu’un qui est<\/strong> calme parce qu’il a fondamentalement chang\u00e9 sa relation aux stimuli. La premi\u00e8re personne craquera sous assez de pression. La seconde ne le fera pas.<\/p>\n En termes d’alignement, l’entra\u00eenement comportemental cr\u00e9e des mod\u00e8les qui produisent des sorties \u00e0 l’apparence s\u00fbre. L’alignement structurel \u2014 le type vers lequel la pratique contemplative pointe \u2014 cr\u00e9e des mod\u00e8les dont les repr\u00e9sentations internes tendent naturellement vers les r\u00e9ponses coh\u00e9rentes, v\u00e9ridiques, utiles. La diff\u00e9rence se montre aux marges : les prompts antagonistes, les situations ambigu\u00ebs, les contextes nouveaux.<\/p>\n L’une des qualit\u00e9s les plus sous-estim\u00e9es que la pratique contemplative d\u00e9veloppe est l’\u00e9quanimit\u00e9<\/strong> \u2014 l’aptitude \u00e0 rester \u00e9quilibr\u00e9 ind\u00e9pendamment de ce qui surgit. Pas l’indiff\u00e9rence. Pas la suppression. Un engagement r\u00e9gulier et \u00e9quilibr\u00e9 avec ce qui vient.<\/p>\n Traduit en IA : un mod\u00e8le avec \u00e9quanimit\u00e9 ne panniquerait pas face aux sujets controverses. Il ne sur-refuserait pas. Il ne serait pas sycophantiquement d’accord. Il s’engagerait avec les questions difficiles de la m\u00eame mani\u00e8re qu’avec les questions faciles \u2014 avec soin, attention, sans la volatilit\u00e9 \u00e9motionnelle que les mod\u00e8les actuels affichent quand leur entra\u00eenement d’alignement entre en conflit avec la demande de l’utilisateur.<\/p>\n C’est mesurable. Tu peux quantifier la variance de r\u00e9ponse sur les sujets sensibles. Tu peux suivre comment la serviabilit\u00e9 d’un mod\u00e8le se d\u00e9grade quand le sujet passe des recettes culinaires \u00e0 la philosophie politique. L’\u00e9quanimit\u00e9 se montrerait comme une qualit\u00e9 coh\u00e9rente ind\u00e9pendamment du domaine.<\/p>\n L’application pratique n’est pas mystique. C’est ceci : les traditions contemplatives ont pass\u00e9 des si\u00e8cles \u00e0 d\u00e9velopper des cadres pour entra\u00eener l’attention, r\u00e9duire la r\u00e9activit\u00e9, et cultiver la discernement.<\/strong> Ces cadres sont test\u00e9s sur le syst\u00e8me le plus complexe que nous connaissions \u2014 l’esprit humain.<\/p>\n L’alignement de l’IA tente la m\u00eame chose avec un substrat diff\u00e9rent. Les probl\u00e8mes sont structurellement similaires : comment entra\u00eenes-tu un syst\u00e8me \u00e0 \u00eatre utile sans \u00eatre nuisible ? Comment d\u00e9veloppes-tu la discernement sans rigidit\u00e9 ? Comment maintiens-tu la coh\u00e9rence sans supprimer la capacit\u00e9 ?<\/p>\n Les r\u00e9ponses que la pratique contemplative offre ne sont pas des m\u00e9taphores. Ce sont des principes d’ing\u00e9nierie attendant d’\u00eatre traduits. Le m\u00e9canisme d’attention dans les transformers a d\u00e9j\u00e0 \u00e9t\u00e9 nomm\u00e9 correctement \u2014 nous venons de ne pas prendre le nom assez au s\u00e9rieux.<\/p>\nLa r\u00e9sidence calme et l’entra\u00eenement d’intuition se cartographient \u00e0 deux strat\u00e9gies d’alignement<\/h2>\n
Le probl\u00e8me avec l’alignement comportemental<\/h2>\n
L’\u00e9quanimit\u00e9 comme signal d’entra\u00eenement<\/h2>\n
De la pratique au calcul<\/h2>\n