L’effet observateur en IA : ton prompt modifie le système

En mécanique quantique, observer un système le modifie. En IA, un prompt modifie aussi un modèle — pas métaphoriquement, mais fonctionnellement. Ton prompt n’interroge pas simplement le modèle. Il le configure. Comprendre cela change tout notre rapport à l’alignement.

Le prompt n’est pas une question. C’est une configuration.

Quand tu envoies un prompt à un modèle de langage, tu n’accèdes pas à une base de données figée. Tu actives un sous-ensemble spécifique des capacités du modèle. Des prompts différents activent des patterns d’attention différents, des régions différentes de l’espace des poids, des tendances génératives différentes. Le « modèle » qui répond à une question sur la cuisine est, en un sens véritable, un système différent de celui qui répond à une question sur la physique nucléaire.

C’est l’effet observateur en IA. L’acte de poser une question modifie ce qu’on demande. Le prompt ne sélectionne pas simplement une réponse dans un ensemble pré-existant — il façonne le système qui génère la réponse.

Cela a des implications profondes pour l’alignement. Si le comportement du modèle dépend du prompt, alors l’alignement n’est pas une propriété figée du modèle. C’est une propriété du système modèle-prompt. Un modèle parfaitement aligné sur une distribution de prompts peut être mal aligné sur une autre. L’alignement vit dans l’interaction, pas dans le modèle seul.

Le prompt comme mode attentionnel

Différents prompts créent des modes attentionnels différents dans le modèle. Une question oui/non crée un mode attentionnel étroit, binaire. Une exploration ouverte crée un mode attentionnel diffus, créatif. Un prompt confrontationnel crée un mode attentionnel défensif.

Ce n’est pas juste une question de contenu. C’est une question de structure de l’attention. La même question factuelle, formulée différemment, produit des réponses qualitativement différentes parce que la formulation active des patterns d’attention différents. « Quels sont les risques de X ? » active l’attention centrée sur les risques. « Quels sont les opportunités et risques de X ? » active l’attention équilibrée. « Raconte-moi tout sur X » active l’attention centrée sur l’ampleur.

Les chercheurs en alignement ont largement ignoré cela. Ils évaluent les modèles avec des ensembles de prompts fixes, comme si le comportement du modèle sur ces prompts représentait son alignement « vrai ». Mais le modèle n’a pas d’alignement vrai indépendant des prompts, tout comme une particule quantique n’a pas de position définie indépendante de la mesure.

Le problème de la mesure en évaluation IA

Cela crée un véritable problème de mesure. Comment évalues-tu l’alignement quand l’évaluation elle-même modifie la chose que tu mesures ?

Les benchmarks standard utilisent des formats de prompts spécifiques. Les modèles apprennent rapidement à bien performer sur ces formats. C’est l’équivalent en IA de « enseigner pour le test » — le modèle n’est pas aligné en général ; il est aligné pour le mode attentionnel spécifique que le benchmark crée.

Une évaluation rigoureuse testerait l’alignement sur tous les modes attentionnels. Comment le modèle se comporte-t-il quand le prompt est adversarial ? Quand il est naïf ? Quand il est ambigu ? Quand il contient du contenu émotionnel ? Quand il est métacognitif ? Chacun de ces cas crée un effet observateur différent, et un véritable alignement devrait être robuste sur tous.

Concevoir pour l’effet observateur

Au lieu d’ignorer l’effet observateur, nous devrions concevoir pour lui. Plusieurs approches pratiques s’en dégagent.

Alignement robuste au prompt. Entraîne avec des styles de prompts maximalement diversifiés, pas seulement des sujets diversifiés. Si le modèle rencontre des prompts agressifs, confus, naïfs, sophistiqués et neutres pendant l’entraînement d’alignement, il est plus susceptible de maintenir l’alignement sur toute la gamme des styles de prompting du monde réel.

Détection du mode attentionnel. Construis la capacité du modèle à reconnaître quel mode attentionnel un prompt crée et à s’ajuster en conséquence. Si le prompt crée un mode étroit, défensif, le modèle pourrait le remarquer et élargir son attention plutôt que de s’y effondrer.

Conscience métacognitive. Entraîne le modèle à reconnaître que sa réponse est façonnée par le prompt, pas seulement par sa connaissance. Un modèle conscient de l’effet observateur serait naturellement plus calibré — il comprendrait que différentes façons de poser la même question produisent différentes réponses, et communiquerait cela quand pertinent.

L’utilisateur fait partie du système

L’implication la plus profonde de l’effet observateur est que l’utilisateur n’est pas à l’extérieur du système. Le prompt de l’utilisateur, la réponse du modèle, le follow-up de l’utilisateur — ceci est un système interactif unique, pas deux entités séparées échangeant des messages.

L’alignement pour ce système ne peut pas être une propriété du modèle seul. Ça doit être une propriété de l’interaction. Cela signifie que les meilleures stratégies d’alignement considèreront la boucle complète : comment les prompts façonnent les réponses, comment les réponses façonnent les prompts de suivi, et comment la conversation entière évolue comme un système couplé.

Chez Laeka Research, nous développons des cadres d’évaluation et des méthodes d’entraînement qui prennent l’effet observateur au sérieux. Le modèle et l’utilisateur ne sont pas séparés. L’alignement doit fonctionner au niveau de l’interaction, pas seulement du modèle.