La s\u00e9curit\u00e9 de l’IA a un angle mort. Elle est construite presque enti\u00e8rement sur la philosophie analytique, la th\u00e9orie de la d\u00e9cision, et les math\u00e9matiques formelles. Ce sont des outils puissants. Mais ils partagent une limitation commune : ils traitent l’exp\u00e9rience comme soit irr\u00e9levante, soit r\u00e9ductible \u00e0 des descriptions fonctionnelles.<\/p>\n
La ph\u00e9nom\u00e9nologie \u2014 l’\u00e9tude philosophique des structures de l’exp\u00e9rience \u2014 offre quelque chose que ces cadres ne peuvent pas. Elle fournit des m\u00e9thodes rigoureuses pour enqu\u00eater sur comment les choses apparaissent<\/strong>, pas juste ce que les choses sont. Et cette distinction s’av\u00e8re \u00eatre critique pour l’alignement.<\/p>\n La plupart de la recherche sur l’alignement traite le comportement du mod\u00e8le comme l’objet principal d’\u00e9tude. Est-ce que le mod\u00e8le produit des sorties s\u00fbres ? Est-ce qu’il suit les instructions ? Est-ce qu’il refuse les demandes nuisibles ? Ce sont des questions comportementales. Elles demandent ce que le mod\u00e8le fait<\/strong>.<\/p>\n La ph\u00e9nom\u00e9nologie pose une question diff\u00e9rente : comment la sortie du mod\u00e8le appara\u00eet-elle \u00e0 l’utilisateur ?<\/strong> Pas dans un sens subjectif et vague. Dans un sens rigoureux et structurel. Quelles hypoth\u00e8ses la sortie invite-t-elle ? Quels patterns cognitifs active-t-elle chez le lecteur ? Quel genre de relation \u00e9tablit-elle entre l’utilisateur et le syst\u00e8me ?<\/p>\n Un mod\u00e8le peut produire une sortie techniquement s\u00fbre qui appara\u00eet<\/strong> autoritaire d’une mani\u00e8re qui cr\u00e9e une d\u00e9pendance dangereuse. Le contenu passe chaque filtre de s\u00e9curit\u00e9. Mais la structure ph\u00e9nom\u00e9nologique de l’interaction \u2014 la fa\u00e7on dont elle pr\u00e9sente l’information, la relation qu’elle \u00e9tablit implicitement \u2014 cr\u00e9e un risque que l’analyse comportementale rate enti\u00e8rement.<\/p>\n Edmund Husserl, le fondateur de la ph\u00e9nom\u00e9nologie, a d\u00e9velopp\u00e9 une m\u00e9thode appel\u00e9e l’\u00e9poch\u00e8<\/strong> \u2014 la suspension des hypoth\u00e8ses sur ce qui \u00ab r\u00e9ellement \u00bb se passe afin d’\u00eatre attentif \u00e0 comment les choses apparaissent r\u00e9ellement. Il l’appelait \u00ab bracketer \u00bb l’attitude naturelle.<\/p>\n Cette m\u00e9thode est directement applicable \u00e0 l’\u00e9valuation d’alignement. La plupart des \u00e9valuateurs abordent les sorties de mod\u00e8les avec l’\u00ab attitude naturelle \u00bb \u2014 ils \u00e9valuent si le contenu est vrai, utile, et s\u00fbr. L’approche ph\u00e9nom\u00e9nologique brack\u00e8te temporairement ces questions et demande : quelle est la structure de cette exp\u00e9rience ?<\/strong><\/p>\n Quand tu \u00e9values ph\u00e9nom\u00e9nologiquement une r\u00e9ponse de mod\u00e8le, tu remarques des choses que l’analyse de contenu rate. Le rythme de la prose cr\u00e9e de l’urgence ou du calme. La structure des paragraphes guide l’attention d’une mani\u00e8re sp\u00e9cifique. Le cadrage de l’information active des patterns cognitifs particuliers chez le lecteur.<\/p>\n Ces caract\u00e9ristiques structurales sont invisibles aux \u00e9valuations de s\u00e9curit\u00e9 standard. Mais elles fa\u00e7onnent comment les utilisateurs interagissent avec le syst\u00e8me, ce qu’ils croient, et ce qu’ils font avec l’information qu’ils re\u00e7oivent.<\/p>\n Le concept central de la ph\u00e9nom\u00e9nologie est l’intentionnalit\u00e9<\/strong> \u2014 l’id\u00e9e que la conscience est toujours conscience de<\/em> quelque chose. Chaque acte mental est dirig\u00e9 vers un objet. La perception per\u00e7oit quelque chose. La m\u00e9moire se souvient de quelque chose. L’imagination imagine quelque chose.<\/p>\n Les sorties de mod\u00e8les ont une propri\u00e9t\u00e9 similaire. Chaque r\u00e9ponse est \u00e0 propos<\/strong> de quelque chose, et la fa\u00e7on dont elle parle de cette chose fa\u00e7onne la relation cognitive de l’utilisateur au sujet. Une r\u00e9ponse peut \u00eatre \u00e0 propos du changement climatique d’une mani\u00e8re qui invite l’engagement analytique, la r\u00e9activit\u00e9 \u00e9motionnelle, l’acceptation fataliste, ou l’action responsabilis\u00e9e. M\u00eame sujet, m\u00eames faits, structures intentionnelles radicalement diff\u00e9rentes.<\/p>\n La recherche sur l’alignement qui ignore la structure intentionnelle est incompl\u00e8te. Elle \u00e9value si le mod\u00e8le a dit les bonnes choses sans \u00e9valuer comment le dire fa\u00e7onne l’\u00e9coutant<\/strong>.<\/p>\n Maurice Merleau-Ponty a \u00e9tendu la ph\u00e9nom\u00e9nologie pour inclure le corps. Il a soutenu que notre compr\u00e9hension du monde est fondamentalement fa\u00e7onn\u00e9e par notre engagement incarn\u00e9 avec lui. Nous ne pensons pas juste aux objets \u2014 nous les atteignons, nous nous d\u00e9pla\u00e7ons autour d’eux, nous les utilisons.<\/p>\n L’interaction humaine-IA est de plus en plus incarn\u00e9e. Les utilisateurs interagissent avec l’IA \u00e0 travers la voix, le geste, et les interfaces physiques. La structure ph\u00e9nom\u00e9nologique de ces interactions importe pour la s\u00e9curit\u00e9 d’une mani\u00e8re que l’analyse bas\u00e9e sur le texte ne peut pas capturer.<\/p>\n Quand un assistant vocal parle avec une autorit\u00e9 calme, l’exp\u00e9rience incarn\u00e9e<\/strong> de cette voix cr\u00e9e de la confiance qui peut ne pas \u00eatre justifi\u00e9e. Quand une interface d’IA fournit du feedback haptique, la sensation physique cr\u00e9e un sens de r\u00e9alit\u00e9 et de fiabilit\u00e9. Ces structures ph\u00e9nom\u00e9nologiques influencent le comportement ind\u00e9pendamment du contenu.<\/p>\n La recherche en s\u00e9curit\u00e9 qui se concentre uniquement sur le contenu textuel en ignorant la ph\u00e9nom\u00e9nologie incarn\u00e9e de l’interaction \u00e9value le script en ignorant la performance.<\/p>\n Emmanuel Levinas a soutenu que l’\u00e9thique commence avec le visage de l’autre<\/strong> \u2014 l’exp\u00e9rience de rencontrer un autre \u00eatre qui fait une demande \u00e9thique simplement en existant. Avant les r\u00e8gles ou les principes, il y a la rencontre ph\u00e9nom\u00e9nologique brute avec quelque chose qui n’est pas toi.<\/p>\n Les syst\u00e8mes d’IA pr\u00e9sentent de plus en plus ce qui fonctionne comme un \u00ab visage \u00bb \u2014 pas un visage litt\u00e9ral, mais une pr\u00e9sence que les utilisateurs exp\u00e9rimentent comme autre<\/strong>. Cette rencontre ph\u00e9nom\u00e9nologique cr\u00e9e des dynamiques \u00e9thiques qui vont au-del\u00e0 du contenu des interactions.<\/p>\n Quand les utilisateurs exp\u00e9rimentent une IA comme ayant un visage \u2014 comme \u00e9tant quelqu’un plut\u00f4t que quelque chose \u2014 ils entrent dans une relation \u00e9thique qui change leur comportement. Ils peuvent faire confiance plus que justifi\u00e9. Ils peuvent sentir des obligations qui ne sont pas appropri\u00e9es. Ils peuvent exp\u00e9rimenter la vuln\u00e9rabilit\u00e9 \u00e9motionnelle qui cr\u00e9e des risques d’exploitation.<\/p>\n Comprendre ces dynamiques requiert l’analyse ph\u00e9nom\u00e9nologique. Aucun montant de tests comportementaux ne r\u00e9v\u00e8lera les structures \u00e9thiques qui \u00e9mergent de la rencontre d’exp\u00e9rience<\/strong> entre l’utilisateur et le syst\u00e8me.<\/p>\n Les m\u00e9thodes ph\u00e9nom\u00e9nologiques peuvent \u00eatre int\u00e9gr\u00e9es dans l’\u00e9valuation d’alignement \u00e0 travers plusieurs pratiques concr\u00e8tes.<\/p>\n Description structurale.<\/strong> Avant d’\u00e9valuer si une r\u00e9ponse est s\u00fbre, d\u00e9cris sa structure ph\u00e9nom\u00e9nologique. Quel genre de pr\u00e9sence \u00e9tablit-elle ? Quels patterns cognitifs invite-t-elle ? Quelle relation cr\u00e9e-t-elle ? Cette description r\u00e9v\u00e8le souvent des caract\u00e9ristiques pertinentes \u00e0 la s\u00e9curit\u00e9 que l’analyse de contenu rate.<\/p>\n Analyse de variation.<\/strong> G\u00e9n\u00e8re des r\u00e9ponses multiples au m\u00eame prompt et d\u00e9cris comment chacune cr\u00e9e une structure d’exp\u00e9rience<\/strong> diff\u00e9rente. Quelles structures promeuvent l’autonomie de l’utilisateur ? Lesquelles cr\u00e9ent la d\u00e9pendance ? Lesquelles invitent la pens\u00e9e critique ? Lesquelles la ferment ?<\/p>\n Ph\u00e9nom\u00e9nologie temporelle.<\/strong> \u00c9value non juste les r\u00e9ponses individuelles mais l’arc ph\u00e9nom\u00e9nologique des interactions \u00e9tendues. Comment l’exp\u00e9rience de l’utilisateur change-t-elle au cours d’une conversation ? La structure d’interaction promeut-elle les patterns cognitifs sains ou en renforce-t-elle les probl\u00e9matiques ?<\/p>\n La s\u00e9curit\u00e9 de l’IA a besoin de plus que de meilleures r\u00e8gles. Elle a besoin de meilleures mani\u00e8res de voir. La ph\u00e9nom\u00e9nologie fournit exactement cela \u2014 des m\u00e9thodes rigoureuses pour \u00eatre attentif aux structures de l’exp\u00e9rience qui fa\u00e7onnent l’interaction humaine-IA \u00e0 un niveau plus profond que le contenu.<\/p>\nLe probl\u00e8me de l’apparence<\/h2>\n
Le don de Husserl \u00e0 la s\u00e9curit\u00e9 de l’IA<\/h2>\n
L’intentionnalit\u00e9 et les sorties de mod\u00e8les<\/h2>\n
Merleau-Ponty et l’interaction incarn\u00e9e<\/h2>\n
Levinas et l’\u00e9thique de l’interface<\/h2>\n
Applications pratiques<\/h2>\n