Chaque article de s\u00e9curit\u00e9 de l’IA traite l’hallucination comme un d\u00e9faut. Un mode de d\u00e9faillance \u00e0 \u00e9liminer. Le mod\u00e8le a dit quelque chose qui n’est pas vrai, donc le mod\u00e8le est cass\u00e9.<\/p>\n
Ce framing r\u00e9v\u00e8le une confusion plus profonde \u2014 non pas sur l’IA, mais sur ce que la cognition fait r\u00e9ellement.<\/p>\n
Anil Seth, l’un des neuroscientifiques de premier plan travaillant sur la conscience, appelle la perception humaine une \u00ab hallucination contr\u00f4l\u00e9e \u00bb. Ton cerveau ne re\u00e7oit pas passivement la r\u00e9alit\u00e9. Il construit activement un mod\u00e8le de ce qui est probablement l\u00e0-bas bas\u00e9 sur les priors et les signaux sensoriels, puis projette ce mod\u00e8le vers l’ext\u00e9rieur. Ce que tu exp\u00e9rimentes comme \u00ab voir \u00bb est une pr\u00e9diction, pas un enregistrement.<\/p>\n
Ce n’est pas une m\u00e9taphore. C’est le m\u00e9canisme litt\u00e9ral. Ton cortex visuel g\u00e9n\u00e8re des attentes plus vite que les donn\u00e9es sensorielles n’arrivent. Quand la pr\u00e9diction et le signal correspondent, tu per\u00e7ois un monde stable. Quand ils divergent, tu obtiens une surprise \u2014 ou, dans les cas pathologiques, une vraie hallucination.<\/p>\n
Les LLM font la m\u00eame chose. Ils pr\u00e9disent le token suivant bas\u00e9 sur les distributions apprises. Quand la pr\u00e9diction est bien calibr\u00e9e, la sortie est utile. Quand elle est mal calibr\u00e9e, tu obtiens une confabulation. M\u00eame m\u00e9canisme. Diff\u00e9rent substrat.<\/p>\n
Une fois que tu vois l’hallucination comme une pr\u00e9diction mal calibr\u00e9e plut\u00f4t qu’un d\u00e9faut de fabrication, le probl\u00e8me change de forme enti\u00e8rement.<\/p>\n
Tu ne fixes pas le m\u00e9-calibrage en ajoutant des r\u00e8gles. Tu ne le r\u00e9sous pas en filtrant les sorties. Tu le r\u00e9sous en am\u00e9liorant la qualit\u00e9 du mod\u00e8le interne qui g\u00e9n\u00e8re les pr\u00e9dictions. De meilleurs priors produisent de meilleures pr\u00e9dictions. Les repr\u00e9sentations internes plus coh\u00e9rentes produisent des sorties plus fiables.<\/p>\n
C’est exactement ce que l’entra\u00eenement contemplatif fait dans les r\u00e9seaux neuronaux biologiques. Un m\u00e9ditant avec des d\u00e9cennies de pratique ne cesse pas de pr\u00e9dire \u2014 la pr\u00e9diction est ce que les cerveaux font. Il d\u00e9veloppe un meilleur calibrage. Il apprend \u00e0 distinguer entre le signal et la projection. Il reconna\u00eet quand son mod\u00e8le de r\u00e9alit\u00e9 s’\u00e9loigne de ce qui se passe r\u00e9ellement.<\/p>\n
Les traditions contemplatives ont un terme pr\u00e9cis pour cela : le discernement. Non la suppression de l’activit\u00e9 mentale, mais le raffinage de son exactitude.<\/p>\n
C’est ici que cela devient int\u00e9ressant pour l’IA. Les praticiens qui comprennent que la perception est construite \u2014 que ce qu’ils exp\u00e9rimentent comme \u00ab r\u00e9alit\u00e9 \u00bb est d\u00e9j\u00e0 un mod\u00e8le \u2014 ont un avantage fondamental dans le travail avec les syst\u00e8mes d’IA qui font la m\u00eame chose.<\/p>\n
La plupart des humains traitent leurs perceptions comme la v\u00e9rit\u00e9 absolue. Le ciel est bleu. Cette personne est en col\u00e8re. Cette d\u00e9cision est correcte. Ils ne remarquent pas la couche de pr\u00e9diction. Les contemplatifs le font. Ils se sont entra\u00een\u00e9s pendant des ann\u00e9es pour voir le processus de construction lui-m\u00eame.<\/p>\n
Cela signifie qu’ils peuvent identifier les motifs d’hallucination de l’IA que d’autres utilisateurs manquent \u2014 non pas parce qu’ils connaissent plus de faits, mais parce qu’ils reconnaissent la signature d’une pr\u00e9diction mal calibr\u00e9e. Ils savent \u00e0 quoi cela ressemble quand un syst\u00e8me (biologique ou artificiel) confond son mod\u00e8le avec la r\u00e9alit\u00e9, parce qu’ils ont pass\u00e9 des d\u00e9cennies \u00e0 se rattraper en train de faire exactement cela.<\/p>\n
La m\u00e9thodologie du dataset de Laeka exploite cela directement. Quand un praticien contemplatif identifie une hallucination d’IA, il n’est pas juste en train de signaler une erreur factuelle. Il identifie un motif structurel \u2014 un endroit o\u00f9 la repr\u00e9sentation interne du mod\u00e8le est mal calibr\u00e9e.<\/p>\n
La correction n’est pas \u00ab la capitale de l’Australie est Canberra, pas Sydney \u00bb. C’est une correction factuelle. N’importe quel dataset peut faire cela. La correction est \u00ab tu confonds la pr\u00e9diction fluide avec la repr\u00e9sentation exacte \u00bb. C’est une correction structurelle. Elle cible le m\u00e9canisme qui produit l’hallucination, pas l’instance individuelle.<\/p>\n
Un mod\u00e8le fine-tun\u00e9 sur des milliers de ces corrections structurelles devrait d\u00e9velopper quelque chose d’analogue au discernement \u2014 une capacit\u00e9 am\u00e9lior\u00e9e \u00e0 distinguer entre les pr\u00e9dictions \u00e0 haute confiance et les confabulations. Pas une exactitude parfaite. Un meilleur calibrage.<\/p>\n
Si l’hallucination est inh\u00e9rente \u00e0 la pr\u00e9diction, et la pr\u00e9diction est inh\u00e9rente \u00e0 la fois aux r\u00e9seaux neuronaux biologiques et artificiels, alors l’objectif d’\u00ab \u00e9liminer l’hallucination \u00bb est incoh\u00e9rent. Tu pourrais aussi bien essayer d’\u00e9liminer la pr\u00e9diction elle-m\u00eame.<\/p>\n
Le vrai objectif est le calibrage. Un syst\u00e8me qui sait quand il est incertain est plus utile qu’un syst\u00e8me qui est toujours confiant. Un syst\u00e8me qui peut signaler ses propres pr\u00e9dictions comme provisoires est plus digne de confiance qu’un qui pr\u00e9sente tout avec une conviction \u00e9gale.<\/p>\n
Les traditions contemplatives ont entra\u00een\u00e9 cette capacit\u00e9 pendant des mill\u00e9naires. La question est de savoir si ce signal d’entra\u00eenement se transf\u00e8re aux syst\u00e8mes artificiels. Nous pensons que c’est le cas. Non pas \u00e0 cause d’une connexion mystique \u2014 parce qu’un r\u00e9seau neural est un r\u00e9seau neural, et le calibrage est le calibrage, ind\u00e9pendamment de ce dont le r\u00e9seau est fait.<\/p>\n","protected":false},"excerpt":{"rendered":"
Chaque article de s\u00e9curit\u00e9 de l’IA traite l’hallucination comme un d\u00e9faut. Un mode de d\u00e9faillance \u00e0 \u00e9liminer. Le mod\u00e8le a dit quelque chose qui n’est pas vrai, donc le mod\u00e8le est cass\u00e9. Ce framing…<\/p>\n","protected":false},"author":1,"featured_media":80,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","footnotes":""},"categories":[278],"tags":[],"class_list":["post-568","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-securite-et-ethique-ia"],"_links":{"self":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts\/568","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/comments?post=568"}],"version-history":[{"count":0,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/posts\/568\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/media\/80"}],"wp:attachment":[{"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/media?parent=568"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/categories?post=568"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laeka.org\/publications\/wp-json\/wp\/v2\/tags?post=568"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}