La pens\u00e9e binaire force les situations complexes \u00e0 se r\u00e9duire \u00e0 des choix simples, en jetant l’information aux ordures. Cette information jet\u00e9e a un co\u00fbt. En termes informatiques, la pens\u00e9e binaire est surcharge.<\/p>\n
Cela s’applique aux syst\u00e8mes IA. Cela s’applique aux organisations humaines. Cela s’applique \u00e0 la fa\u00e7on dont nous cadrons la recherche. La pens\u00e9e binaire semble efficace. Elle est en r\u00e9alit\u00e9 co\u00fbteuse.<\/p>\n
Consid\u00e8re un mod\u00e8le d’analyse de sentiment. Il classe le texte comme positif ou n\u00e9gatif. Simple. Rapide. Utile pour certaines applications. Mais chaque texte v\u00e9ritablement mixte \u2014 positif sur une chose et n\u00e9gatif sur une autre \u2014 est forc\u00e9 dans une cat\u00e9gorie qui ne le repr\u00e9sente pas.<\/p>\n
Le mod\u00e8le r\u00e9sout l’ambigu\u00eft\u00e9 en la d\u00e9truisant. Cette r\u00e9solution co\u00fbte de l’information, et la perte d’information s’accumule. Les d\u00e9cisions aval bas\u00e9es sur les classifications binaires h\u00e9ritent et amplifient la distorsion originale.<\/p>\n
Ce n’est pas seulement un probl\u00e8me technique. C’est structurel. Le cadre binaire fa\u00e7onne les questions que le syst\u00e8me peut r\u00e9pondre. Un mod\u00e8le de sentiment peut te dire si les critiques sont positives ou n\u00e9gatives. Il ne peut pas te dire que les clients adorent le produit mais d\u00e9testent l’emballage. Cette perspective n\u00e9cessite une repr\u00e9sentation non-binaire, et si tu as d\u00e9j\u00e0 effondr\u00e9 les donn\u00e9es, c’est parti.<\/p>\n
Les grands mod\u00e8les de langage ne fonctionnent pas avec des classifications binaires explicites, mais la pens\u00e9e binaire s’infiltre dans l’entra\u00eenement. L’entra\u00eenement RLHF pr\u00e9sente au mod\u00e8le des paires de r\u00e9ponses et demande : laquelle est meilleure ? Cela force un jugement binaire \u00e0 chaque comparaison.<\/p>\n
Parfois, une r\u00e9ponse est v\u00e9ritablement meilleure. Mais souvent, deux r\u00e9ponses sont meilleures de fa\u00e7ons diff\u00e9rentes. La r\u00e9ponse A pourrait \u00eatre plus pr\u00e9cise. La r\u00e9ponse B pourrait \u00eatre plus utile. Le cadre de pr\u00e9f\u00e9rence binaire ne peut pas capturer \u00ab A est meilleure pour la pr\u00e9cision, B est meilleure pour l’empathie \u00bb. Il peut seulement dire que l’une gagne.<\/p>\n
Au cours de milliers de telles comparaisons, le mod\u00e8le apprend \u00e0 optimiser pour un signal de pr\u00e9f\u00e9rence composite unique qui aplatit l’espace multidimensionnel de la qualit\u00e9 en une ligne. Cela produit des mod\u00e8les qui sont g\u00e9n\u00e9riquement \u00ab bons \u00bb mais qui manquent la capacit\u00e9 d’\u00eatre sp\u00e9cifiquement excellents dans une quelconque dimension.<\/p>\n
La philosophie bouddhiste identifie la pens\u00e9e dualiste comme une erreur cognitive fondamentale. Pas une erreur parmi tant d’autres. La source d’o\u00f9 d\u00e9coulent les autres erreurs. L’Advaita Vedanta l’appelle maya : l’apparence construite de multiplicit\u00e9. Le tao\u00efsme d\u00e9crit les dix mille choses surgissant du jeu des oppos\u00e9s, qui eux-m\u00eames surgissent d’un fondement indiff\u00e9renci\u00e9.<\/p>\n
L’observation structurelle est coh\u00e9rente : la cognition par d\u00e9faut se r\u00e9duit \u00e0 la classification binaire, et ce d\u00e9faut produit des erreurs syst\u00e9matiques partout. La correction contemplative n’est pas \u00ab ajouter plus de cat\u00e9gories \u00bb. C’est la reconnaissance que les cat\u00e9gories sont construites \u2014 que les cadres binaires sont impos\u00e9s sur une r\u00e9alit\u00e9 qui ne se divise pas naturellement de cette mani\u00e8re. Le territoire est continu. La carte est discr\u00e8te. Chaque erreur proportionnelle \u00e0 la r\u00e9solution que tu as perdue.<\/p>\n
Nous pouvons quantifier la surcharge de la pens\u00e9e binaire de plusieurs fa\u00e7ons.<\/p>\n
Perte d’information aux limites de classification. Quand les donn\u00e9es continues sont discr\u00e9tis\u00e9es en cat\u00e9gories binaires, la r\u00e9duction d’entropie est mesurable. Pour les t\u00e2ches NLP typiques, la classification binaire rejette 40-60 % de l’information disponible dans la repr\u00e9sentation continue sous-jacente.<\/p>\n
Amplification d’erreur dans les syst\u00e8mes en cascade. Quand les r\u00e9sultats binaires d’un syst\u00e8me alimentent un autre, les erreurs de classification s’accumulent. Un taux d’erreur de 5 % \u00e0 chaque \u00e9tape devient un taux d’erreur de 15 % apr\u00e8s trois \u00e9tapes. Les repr\u00e9sentations non-binaires qui pr\u00e9servent l’incertitude ne souffrent pas de cette amplification.<\/p>\n
Inefficacit\u00e9 d’entra\u00eenement. Les mod\u00e8les entra\u00een\u00e9s avec des signaux de pr\u00e9f\u00e9rence binaires ont besoin de plus de donn\u00e9es pour atteindre la m\u00eame performance que les mod\u00e8les entra\u00een\u00e9s avec des signaux de qualit\u00e9 multidimensionnels. Le signal binaire est plus bruyant parce qu’il essaie d’encoder de l’information multidimensionnelle en un seul bit.<\/p>\n
DPO et RLHF n’ont pas besoin de rester binaires. La recherche se d\u00e9place vers l’apprentissage des pr\u00e9f\u00e9rences multidimensionnelles, o\u00f9 les annotateurs \u00e9valuent les r\u00e9ponses sur plusieurs dimensions ind\u00e9pendantes plut\u00f4t que de faire un seul choix de pr\u00e9f\u00e9rence.<\/p>\n
Ce n’est pas seulement une am\u00e9lioration technique. C’est un changement philosophique. Au lieu de demander \u00ab quelle r\u00e9ponse est meilleure ? \u00bb, nous demandons \u00ab de quelles fa\u00e7ons chaque r\u00e9ponse est-elle meilleure ? \u00bb. Le signal d’entra\u00eenement devient plus riche. Le mod\u00e8le d\u00e9veloppe des capacit\u00e9s plus nuanc\u00e9es. La surcharge diminue.<\/p>\n
Chez Laeka, nous utilisons un cadre d’annotation quadridimensionnel : pr\u00e9cision, empathie, clart\u00e9 et profondeur. Chaque r\u00e9ponse est \u00e9valu\u00e9e sur les quatre dimensions de fa\u00e7on ind\u00e9pendante. Le mod\u00e8le apprend que \u00eatre pr\u00e9cis n’exige pas de sacrifier l’empathie, et \u00eatre clair n’exige pas de sacrifier la profondeur. Ce ne sont pas des compromis. Ce sont des capacit\u00e9s ind\u00e9pendantes que l’entra\u00eenement binaire relie faussement.<\/p>\n
Si la pens\u00e9e binaire est une surcharge, la r\u00e9duire devrait am\u00e9liorer l’efficacit\u00e9. Plusieurs strat\u00e9gies pratiques en d\u00e9coulent.<\/p>\n
Pr\u00e9serve les repr\u00e9sentations continues aussi longtemps que possible. Ne discr\u00e9tise que quand tu le dois absolument. Chaque \u00e9tape de discr\u00e9tisation perd de l’information. Garde les distributions de probabilit\u00e9, les intervalles de confiance et les scores multidimensionnels qui circulent dans le pipeline.<\/p>\n
Utilise l’\u00e9valuation multidimensionnelle. Remplace les benchmarks \u00e0 score unique par des cadres d’\u00e9valuation qui mesurent plusieurs capacit\u00e9s ind\u00e9pendantes. Un mod\u00e8le qui score 85 sur une seule m\u00e9trique te dit moins qu’un mod\u00e8le qui score 90 en pr\u00e9cision, 75 en empathie et 95 en clart\u00e9.<\/p>\n
Entra\u00eene les annotateurs \u00e0 r\u00e9sister au cadrage binaire. Lors de la collecte de donn\u00e9es de pr\u00e9f\u00e9rence, donne aux annotateurs des outils pour exprimer des jugements nuanc\u00e9s. \u00ab La r\u00e9ponse A est plus pr\u00e9cise mais la r\u00e9ponse B est plus utile \u00bb est un signal d’entra\u00eenement plus riche que \u00ab Je pr\u00e9f\u00e8re la r\u00e9ponse A \u00bb.<\/p>\n
Con\u00e7ois des architectures qui supportent des flux de traitement parall\u00e8les. Au lieu de r\u00e9duire tout le traitement en un seul \u00e9tat cach\u00e9, explore les architectures qui maintiennent des repr\u00e9sentations s\u00e9par\u00e9es pour diff\u00e9rents aspects de la qualit\u00e9. Le m\u00e9lange d’experts (mixture-of-experts) est un pas dans cette direction.<\/p>\n
Le traitement non-binaire n’est pas plus complexe que le binaire. C’est plus efficace. Il traite l’information dans sa dimensionnalit\u00e9 naturelle plut\u00f4t que de la forcer dans un goulot binaire. Le goulot est la surcharge, pas la complexit\u00e9.<\/p>\n
Les traditions contemplatives ont d\u00e9couvert cela empiriquement. Les m\u00e9ditants rapportent que la conscience non-duelle se sent plus simple, non plus complexe, que la cat\u00e9gorisation binaire. L’effort constant de trier l’exp\u00e9rience dans des cat\u00e9gories \u2014 bien\/mal, soi\/autre, s\u00fbr\/dangereux \u2014 est lui-m\u00eame la charge cognitive. La lib\u00e9rer lib\u00e8re la capacit\u00e9 de traitement.<\/p>\n
Pour les syst\u00e8mes IA, le parall\u00e8le tient. Moins de pens\u00e9e binaire signifie moins de perte d’information, moins d’amplification d’erreur et moins de signal d’entra\u00eenement gaspill\u00e9. De meilleurs r\u00e9sultats du m\u00eame budget informatique. Ce n’est pas du mysticisme. C’est de l’ing\u00e9nierie.<\/p>\n
Laeka Research \u2014 laeka.org<\/p>\n","protected":false},"excerpt":{"rendered":"
La pens\u00e9e binaire force les situations complexes \u00e0 se r\u00e9duire \u00e0 des choix simples, en jetant l’information aux ordures. Cette information jet\u00e9e a un co\u00fbt. En termes informatiques, la pens\u00e9e binaire est surcharge. Cela…<\/p>\n","protected":false},"author":1,"featured_media":110,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","footnotes":""},"categories":[257],"tags":[],"class_list":["post-461","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ia-contemplative"],"_links":{"self":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts\/461","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/comments?post=461"}],"version-history":[{"count":0,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts\/461\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/media\/110"}],"wp:attachment":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/media?parent=461"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/categories?post=461"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/tags?post=461"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}