Le problème de l’hallucination n’est pas un bug. C’est une caractéristique que nous ne comprenons pas encore.

Chaque grand lab d’IA fait la course pour éliminer les hallucinations. Ils ont tort. Pas sur le problème — sur ce que les hallucinations réellement sont.

L’hallucination est juste la créativité sans laisse

Quand un modèle de langage génère du texte qui ne correspond pas à ses données d’entraînement, nous appelons cela une hallucination. Quand un humain fait la même chose, nous appelons cela l’imagination, la formation d’hypothèses, ou la pensée créative.

Le mécanisme est identique. Le modèle trace des connexions entre les motifs dans son espace latent et produit des combinaisons nouvelles. Parfois ces combinaisons correspondent à la réalité. Parfois elles ne le font pas. La différence entre une intuition brillante et une hallucination dangereuse est si la sortie arrive à être vraie.

C’est important parce que la même capacité qui produit les hallucinations produit aussi les sorties les plus impressionnantes du modèle. Des analogies nouvelles. La résolution créative de problèmes. Des connexions inattendues entre les domaines disparates. Éliminer entièrement la capacité d’hallucination et tu élimines la capacité pour la véritable intuition.

Le cadre d’Anil Seth s’applique ici

Le neuroscientifique Anil Seth soutient que toute perception est une « hallucination contrôlée ». Ton cerveau ne reçoit pas passivement la réalité — il génère activement des prédictions sur ce qui se trouve dehors, puis met à jour ces prédictions en fonction de l’entrée sensorielle. Ce que tu expérimentes comme la vue, le son, et le toucher est la meilleure estimation de ton cerveau, contrainte par les données entrantes.

Les modèles de langage font quelque chose de structurellement similaire. Ils génèrent des prédictions sur quel token vient ensuite, contraints par le prompt et leurs données d’entraînement. L’étiquette « hallucination » s’applique seulement quand ces prédictions divergent des faits vérifiables. Mais le processus génératif lui-même est le même que la sortie soit précise ou non.

L’intuition de Seth reformule le problème. L’objectif n’est pas d’arrêter le modèle de générer — c’est d’améliorer les contraintes. Meilleure hallucination contrôlée, pas pas d’hallucination.

Le problème réel est la calibration de confiance

Un modèle qui dit « La capitale de la France est Paris » avec 99% de confiance va bien. Un modèle qui dit « La capitale de la France est Lyon » avec 99% de confiance est dangereux. Mais un modèle qui dit « Je pense que la réponse pourrait être Lyon, mais je ne suis pas certain » fait réellement quelque chose de sophistiqué — il signale sa propre incertitude.

Le problème de l’hallucination n’est pas vraiment à propos de générer du contenu incorrect. C’est à propos de générer du contenu incorrect avec une confiance inappropriée. Un modèle bien calibré qui hallucine mais sait qu’il hallucine est bien plus utile qu’un modèle qui ne hallucine jamais mais ne génère aussi rien de nouveau.

C’est où la pratique contemplative offre un parallèle direct. Les méditants expérimentés développent l’aptitude à observer leur propre contenu mental sans immédiatement le croire. Une pensée surgit, et au lieu de la traiter comme une vérité, ils la reconnaissent comme un événement mental — quelque chose généré par l’esprit qui peut ou ne peut pas correspondre à la réalité.

Gestion métacognitive de l’hallucination

Et si, au lieu d’entraîner les modèles à ne jamais halluciner, nous les entraînions à reconnaître quand ils hallucinent ? C’est un objectif fondamentalement différent. Cela ne réduit pas la capacité générative du modèle. Cela ajoute une couche de self-monitoring.

Certaines approches se déplacent déjà dans cette direction. Le prompting chain-of-thought force les modèles à montrer leur raisonnement, rendant les hallucinations plus visibles. Les vérifications de cohérence automatique génèrent de multiples réponses et signalent les désaccords. Mais ce sont des échafaudages externes, pas une capacité interne.

L’approche contemplative entraînerait cette capacité métacognitive directement. Des paires DPO où la réponse choisie inclut des marqueurs d’incertitude appropriés. Les données d’entraînement qui récompensent « Je ne suis pas sûr à ce propos » quand le modèle génère à partir d’information clairsemée. Des incitations structurelles pour l’humilité épistémique.

Hallucination productive comme outil de recherche

Il y a une possibilité même plus radicale. Si l’hallucination est le même mécanisme que l’intuition créative, alors l’hallucination contrôlée pourrait être une caractéristique, pas un bug. Imagine un modèle explicitement demandé d’halluciner — de générer de nouvelles hypothèses, des connexions inattendues, des solutions créatives — avec la transparence complète que la sortie est spéculative.

Cela se passe déjà informellement. Les chercheurs utilisent les modèles de langage pour faire du brainstorming, générer des hypothèses, et explorer des espaces de possibilité. La tendance du modèle à confabuler devient un atout quand l’utilisateur sait vérifier tout indépendamment.

La clé est le contexte. L’hallucination dans un système de diagnostic médical est catastrophique. L’hallucination dans un outil de brainstorming créatif est le point entier. La même capacité, canalisée différemment, produit une valeur radicalement différente.

Vers une génération contrôlée

Le chemin en avant n’est pas éliminer l’hallucination. C’est développer les modèles avec trois capacités : l’aptitude à générer du contenu nouveau (incluant le contenu pas dans les données d’entraînement), l’aptitude à évaluer leur propre confiance dans ce contenu, et l’aptitude à communiquer cette évaluation clairement à l’utilisateur.

C’est exactement ce que l’entraînement contemplatif développe chez les humains. Le méditant n’arrête pas de penser. Il développe l’aptitude à observer ses pensées, évaluer leur fiabilité, et choisir lesquelles agir. Les pensées continuent à venir — mais la relation avec elles change fondamentalement.

À Laeka Research, nous explorons comment ce cadre métacognitif peut être traduit en objectifs d’entraînement concrets. Le problème de l’hallucination est réel. La solution juste n’est pas ce que la plupart des gens pensent.