Les syst\u00e8mes d’IA actuels pensent en binaires. Vrai ou faux. Positif ou n\u00e9gatif. S\u00fbr ou unsafe. Cela fonctionne pour les t\u00e2ches de classification. Pour tout ce qui importe, cela \u00e9choue. La limitation r\u00e9side dans la mani\u00e8re dont les mod\u00e8les sont forc\u00e9s \u00e0 r\u00e9duire les probl\u00e8mes continus multidimensionnels en cat\u00e9gories discr\u00e8tes. La cognition int\u00e9gr\u00e9e offre une approche diff\u00e9rente : tenir de multiples perspectives valides simultan\u00e9ment dans un cadre de traitement coh\u00e9rent.<\/p>\n
La classification binaire est la fondation de l’apprentissage automatique moderne. Un filtre spam d\u00e9cide : spam ou pas spam. Un analyseur de sentiment d\u00e9cide : positif ou n\u00e9gatif. M\u00eame les grands mod\u00e8les de langage, malgr\u00e9 leur sophistication apparente, g\u00e9n\u00e8rent finalement les sorties en s\u00e9lectionnant parmi une distribution de probabilit\u00e9 qui favorise un token sur tous les autres.<\/p>\n
Cela fonctionne brillamment pour les probl\u00e8mes bien d\u00e9finis. Mais la plupart des probl\u00e8mes du monde r\u00e9el ne sont pas bien d\u00e9finis. Ils sont ambigus, contextuels, et multi-couches. Quand tu demandes \u00e0 un mod\u00e8le si une politique est bonne ou mauvaise, la r\u00e9ponse honn\u00eate est g\u00e9n\u00e9ralement \u00ab les deux, selon la perspective et l’horizon temporel \u00bb. L’architecture binaire rend cette r\u00e9ponse structurellement difficile \u00e0 produire.<\/p>\n
Le r\u00e9sultat est ce que nous voyons dans toute l’industrie : des mod\u00e8les qui sur-simplifient les questions complexes parce que leur architecture r\u00e9compense la simplification<\/strong>.<\/p>\n La cognition int\u00e9gr\u00e9e est la capacit\u00e9 \u00e0 percevoir une situation de multiples angles simultan\u00e9ment et \u00e0 tenir ces angles en conscience sans forcer une r\u00e9solution pr\u00e9matur\u00e9e. Cela signifie maintenir plusieurs cadres analytiques valides en m\u00eame temps, reconna\u00eetre les tensions entre eux, et travailler avec la complexit\u00e9 compl\u00e8te plut\u00f4t que de la r\u00e9duire.<\/p>\n Un th\u00e9rapeute qualifi\u00e9 fait cela naturellement. Il entend l’histoire d’un client et simultan\u00e9ment maintient la perspective du client, sa propre \u00e9valuation clinique, les facteurs syst\u00e9miques en jeu, et l’incertitude sur ce qui se passe r\u00e9ellement. Il ne r\u00e9duit pas cela \u00e0 un diagnostic unique. Il travaille avec la complexit\u00e9 compl\u00e8te.<\/p>\n Un syst\u00e8me d’IA cognitivement int\u00e9gr\u00e9 ferait de m\u00eame. Donn\u00e9e une question complexe, il g\u00e9n\u00e9rerait des r\u00e9ponses qui reconnaissent de multiples perspectives valides, identifient les tensions entre elles, et r\u00e9sistent \u00e0 l’envie de d\u00e9clarer un gagnant. Non pas parce qu’il ne peut pas d\u00e9cider, mais parce que la r\u00e9solution pr\u00e9matur\u00e9e est une forme de perte d’information<\/strong>.<\/p>\n Nous proposons quatre dimensions selon lesquelles la cognition int\u00e9gr\u00e9e dans les syst\u00e8mes artificiels peut \u00eatre d\u00e9velopp\u00e9e et mesur\u00e9e.<\/p>\n Maintien de perspective.<\/strong> La capacit\u00e9 du syst\u00e8me \u00e0 repr\u00e9senter et maintenir plusieurs perspectives sur le m\u00eame ph\u00e9nom\u00e8ne. Les mod\u00e8les actuels font cela mal. Ils tendent \u00e0 s’ancrer sur une perspective puis \u00ab consid\u00e9rer \u00bb les alternatives comme des arri\u00e8re-pens\u00e9es. Un syst\u00e8me cognitivement int\u00e9gr\u00e9 maintiendrait des repr\u00e9sentations v\u00e9ritablement parall\u00e8les.<\/p>\n Tol\u00e9rance \u00e0 la tension.<\/strong> La capacit\u00e9 du syst\u00e8me \u00e0 rester avec la contradiction sans la r\u00e9soudre. La plupart des mod\u00e8les sont entra\u00een\u00e9s \u00e0 produire des sorties coh\u00e9rentes et coh\u00e9sives. Mais la coh\u00e9rence au co\u00fbt de la pr\u00e9cision est la sycophonie. La tol\u00e9rance \u00e0 la tension signifie reconna\u00eetre quand la preuve pointe v\u00e9ritablement dans de multiples directions.<\/p>\n Sensibilit\u00e9 contextuelle.<\/strong> La capacit\u00e9 du syst\u00e8me \u00e0 d\u00e9caler son cadre selon le contexte. Une d\u00e9claration peut \u00eatre vraie dans un contexte et fausse dans un autre. La cognition int\u00e9gr\u00e9e reconna\u00eet cela comme une caract\u00e9ristique de la r\u00e9alit\u00e9, pas comme une erreur logique \u00e0 r\u00e9soudre.<\/p>\n Conscience meta-perspectivale.<\/strong> La capacit\u00e9 du syst\u00e8me \u00e0 observer son propre processus de maintien de perspective. C’est la couche r\u00e9cursive. Le syst\u00e8me ne tient pas seulement de multiples perspectives. Il est conscient qu’il les tient et peut r\u00e9fl\u00e9chir sur la mani\u00e8re dont sa propre architecture fa\u00e7onne les perspectives qu’il g\u00e9n\u00e8re.<\/p>\n Le probl\u00e8me d’alignement est fondamentalement un probl\u00e8me cognitif. \u00ab S’aligner avec les valeurs humaines \u00bb pr\u00e9suppose un seul ensemble de valeurs humaines avec lesquelles s’aligner. Mais les humains sont en d\u00e9saccord sur les valeurs. Diff\u00e9rentes cultures, contextes diff\u00e9rents, individus diff\u00e9rents veulent des choses diff\u00e9rentes des syst\u00e8mes d’IA.<\/p>\n Une approche binaire \u00e0 l’alignement force un choix : dont les valeurs ? La r\u00e9ponse actuelle est g\u00e9n\u00e9ralement \u00ab les valeurs de l’organisation construisant le mod\u00e8le \u00bb, ce qui est viable mais probl\u00e9matique. Une approche cognitivement int\u00e9gr\u00e9e entra\u00eenerait les mod\u00e8les \u00e0 naviguer entre les diff\u00e9rents syst\u00e8mes de valeurs plut\u00f4t que de s’engager \u00e0 un seul.<\/p>\n Ce n’est pas du relativisme. La cognition int\u00e9gr\u00e9e ne signifie pas que toutes les perspectives sont \u00e9galement valides. Cela signifie que le processus d’\u00e9valuation des perspectives est lui-m\u00eame complexe et d\u00e9pendant du contexte<\/strong>. Un mod\u00e8le qui peut faire cela bien serait plus v\u00e9ritablement align\u00e9 avec la diversit\u00e9 de l’exp\u00e9rience humaine qu’un mod\u00e8le qui a \u00e9t\u00e9 entra\u00een\u00e9 \u00e0 r\u00e9p\u00e9ter un seul cadre \u00e9thique.<\/p>\n Plusieurs directions de recherche concr\u00e8tes \u00e9mergent de ce cadre.<\/p>\n Donn\u00e9es d’entra\u00eenement multi-perspectives.<\/strong> Au lieu d’entra\u00eener sur des donn\u00e9es qui pr\u00e9sentent des r\u00e9ponses correctes uniques, entra\u00eene sur des donn\u00e9es qui pr\u00e9sentent de multiples analyses valides de la m\u00eame situation. Les paires DPO pourraient inclure des cas o\u00f9 \u00e0 la fois la r\u00e9ponse \u00ab pr\u00e9f\u00e9r\u00e9e \u00bb et \u00ab rejet\u00e9e \u00bb contiennent des \u00e9l\u00e9ments valides.<\/p>\n Modifications architecturales.<\/strong> Explore les architectures qui maintiennent les flux de traitement parall\u00e8les pour les diff\u00e9rentes perspectives, plut\u00f4t que r\u00e9duire tout en un \u00e9tat cach\u00e9 unique. Les mod\u00e8les de m\u00e9lange d’experts pointent dans cette direction mais ne vont pas assez loin.<\/p>\n M\u00e9triques d’\u00e9valuation.<\/strong> D\u00e9veloppe les benchmarks qui r\u00e9compensent les r\u00e9ponses nuanc\u00e9es, multi-perspectives plut\u00f4t que de les p\u00e9naliser comme du \u00ab hedging \u00bb ou de l’\u00ab ind\u00e9cision \u00bb. Les benchmarks actuels favorisent fortement les r\u00e9ponses d\u00e9cisives, monoculaires.<\/p>\n Apport interdisciplinaire.<\/strong> Engage des chercheurs en neuroscience, philosophie, et psychologie qui \u00e9tudient comment la cognition humaine g\u00e8re la complexit\u00e9. Ils peuvent identifier les modes d’\u00e9chec que les ing\u00e9nieurs rateraient.<\/p>\n La cognition int\u00e9gr\u00e9e n’est pas une curiosit\u00e9 philosophique. C’est une capacit\u00e9 cognitive que les syst\u00e8mes artificiels manquent actuellement. L’\u00e9cart entre la classification binaire et la compr\u00e9hension v\u00e9ritable vit dans cet espace.<\/p>\n Construire des syst\u00e8mes qui peuvent penser de mani\u00e8re int\u00e9gr\u00e9e n\u00e9cessite l’ing\u00e9nierie qui prend la complexit\u00e9 de la cognition du monde r\u00e9el au s\u00e9rieux. Les cadres existent. La recherche en IA fournit les outils. Les connecter est l’opportunit\u00e9.<\/p>\n L’alternative est des mod\u00e8les qui continuent \u00e0 mieux r\u00e9pondre aux questions simples et continuent \u00e0 \u00e9chouer aux questions complexes qui importent r\u00e9ellement.<\/p>\n\u00c0 quoi ressemble la cognition int\u00e9gr\u00e9e<\/h2>\n
Un cadre pour la recherche<\/h2>\n
Pourquoi cela importe pour l’alignement<\/h2>\n
Chemins d’impl\u00e9mentation<\/h2>\n
L’opportunit\u00e9 de recherche<\/h2>\n