L’\u00e9thique de l’IA repose sur les r\u00e8gles. Ne g\u00e9n\u00e8re pas de contenu violent. Ne r\u00e9v\u00e8le pas d’informations personnelles. Ne discrimine pas. Le probl\u00e8me : l’\u00e9thique bas\u00e9e sur les r\u00e8gles ne s’\u00e9chelonne pas aux situations qui importent le plus \u2014 les cas ambigus, d\u00e9pendants du contexte o\u00f9 tu as r\u00e9ellement besoin de jugement \u00e9thique.<\/p>\n
Les techniques actuelles d’alignement comme RLHF et DPO sont des syst\u00e8mes de r\u00e8gles sophistiqu\u00e9s. Elles encodent les pr\u00e9f\u00e9rences humaines dans le comportement du mod\u00e8le. Elles fonctionnent bien pour les cas courants. Elles \u00e9chouent catastrophiquement dans les situations nouvelles. Le vrai probl\u00e8me n’est pas d’\u00e9crire de meilleures r\u00e8gles. C’est de construire des syst\u00e8mes dont la structure interne encode la compr\u00e9hension \u00e9thique, pas les contraintes comportementales.<\/p>\n
Les approches bas\u00e9es sur les r\u00e8gles ont une limitation fondamentale : elles n\u00e9cessitent de la lisibilit\u00e9. Tu dois sp\u00e9cifier ce que tu veux clairement assez pour que le syst\u00e8me puisse le v\u00e9rifier. Cela fonctionne pour les cas \u00e9troits.<\/p>\n
La plupart des situations \u00e9thiques ne sont pas \u00e9troites. Elles impliquent des valeurs concurrentes, des contextes ambigus, des compromis qui d\u00e9pendent de d\u00e9tails qu’aucune r\u00e8gle ne peut anticiper. Le mod\u00e8le devrait-il prioriser l’honn\u00eatet\u00e9 ou la gentillesse quand elles entrent en conflit ? Devrait-il d\u00e9f\u00e9rer aux pr\u00e9f\u00e9rences de l’utilisateur ou sa propre \u00e9valuation de ce qui est utile ? Devrait-il s’engager avec les sujets difficiles ou les \u00e9viter ?<\/p>\n
Les r\u00e8gles ne peuvent pas r\u00e9pondre \u00e0 ces questions parce que la bonne r\u00e9ponse d\u00e9pend du contexte. Tu finis avec soit des r\u00e8gles tellement vagues qu’elles ne fournissent aucune orientation, soit des r\u00e8gles tellement sp\u00e9cifiques qu’elles cr\u00e9ent des cas limites absurdes.<\/p>\n
Cela cr\u00e9e ce que nous pourrions appeler l’\u00e9cart d’alignement. Le comportement du mod\u00e8le semble \u00e9thique dans les \u00e9valuations contr\u00f4l\u00e9es. Mais quand il rencontre une situation nouvelle \u2014 une non bien repr\u00e9sent\u00e9e dans les donn\u00e9es d’entra\u00eenement \u2014 il n’a pas de fondation \u00e9thique de secours. Il peut seulement extrapoler \u00e0 partir des motifs. L’extrapolation sans compr\u00e9hension produit des r\u00e9sultats impr\u00e9visibles.<\/p>\n
C’est pourquoi les mod\u00e8les qui passent chaque benchmark de s\u00e9curit\u00e9 g\u00e9n\u00e8rent toujours des sorties pr\u00e9occupantes en d\u00e9ploiement r\u00e9el. Les \u00e9valuations testent les motifs connus. Le d\u00e9ploiement g\u00e9n\u00e8re les nouveaux.<\/p>\n
Une approche diff\u00e9rente se concentre sur la structure plut\u00f4t que les contraintes. Qu’est-ce que cela signifie concr\u00e8tement ?<\/p>\n
Consid\u00e8re comment le comportement \u00e9thique fonctionne chez les humains. La plupart des gens \u00e9thiques ne consultent pas un manuel de r\u00e8gles avant d’agir. Ils ont int\u00e9rioris\u00e9 les valeurs qui fa\u00e7onnent leur perception, attention, et r\u00e9ponse. Ils voient<\/strong> les situations diff\u00e9remment \u00e0 cause de leur d\u00e9veloppement \u00e9thique. L’\u00e9thique n’est pas une couche sur leur cognition \u2014 elle est tiss\u00e9e dans la cognition elle-m\u00eame.<\/p>\n Une approche structurelle vise quelque chose d’analogue. Non pas un mod\u00e8le qui v\u00e9rifie les sorties contre les r\u00e8gles. Un mod\u00e8le dont les repr\u00e9sentations internes sont fa\u00e7onn\u00e9es par les consid\u00e9rations \u00e9thiques d\u00e8s le d\u00e9part. L’\u00e9thique n’est pas un filtre \u2014 c’est une caract\u00e9ristique de l’architecture<\/strong>.<\/p>\n C’est plus difficile \u00e0 impl\u00e9menter que les approches bas\u00e9es sur les r\u00e8gles. Mais c’est plus robuste. Un mod\u00e8le avec conscience \u00e9thique structurelle n’a pas besoin d’une r\u00e8gle pour chaque situation. Il a un cadre pour naviguer les situations nouvelles que les r\u00e8gles ne pouvaient pas anticiper.<\/p>\n L’\u00e9thique structurelle en IA pourrait impliquer plusieurs composants.<\/p>\n Conscience de l’incertitude.<\/strong> Un mod\u00e8le qui repr\u00e9sente vraiment sa propre incertitude \u2014 non pas seulement les probabilit\u00e9s calibr\u00e9es, mais une compr\u00e9hension structurelle de ce qu’il sait et ne sait pas \u2014 est intrins\u00e8quement plus \u00e9thique qu’un confiant. La plupart des sorties nuisibles viennent de la fausse confiance.<\/p>\n Int\u00e9gration de perspective.<\/strong> Plut\u00f4t que d’optimiser pour un seul ensemble de pr\u00e9f\u00e9rences, un mod\u00e8le structurellement \u00e9thique repr\u00e9senterait de multiples perspectives et leurs relations. Il comprendrait que diff\u00e9rentes valeurs s’appliquent dans diff\u00e9rents contextes et naviguerait entre elles r\u00e9fl\u00e9chissement.<\/p>\n Capacit\u00e9 r\u00e9flexive.<\/strong> Un mod\u00e8le qui peut examiner ses propres processus de raisonnement \u2014 non pas seulement produire des sorties mais comprendre pourquoi il les produit \u2014 est mieux positionn\u00e9 pour attraper ses propres \u00e9checs. Cela est reli\u00e9 \u00e0 mais distinct du raisonnement chain-of-thought. Ce n’est pas \u00e0 propos de montrer le travail. C’est \u00e0 propos du monitoring d\u00fb-m\u00eame v\u00e9ritable.<\/p>\n Sensibilit\u00e9 contextuelle.<\/strong> Le comportement \u00e9thique n\u00e9cessite lire le contexte pr\u00e9cis\u00e9ment. La m\u00eame r\u00e9ponse pourrait \u00eatre appropri\u00e9e dans une situation et nuisible dans une autre. L’\u00e9thique structurelle signifie construire les mod\u00e8les qui sont profond\u00e9ment sensibles au contexte plut\u00f4t que d’appliquer les r\u00e8gles universelles.<\/p>\n Les traditions contemplatives ont pass\u00e9 des mill\u00e9naires \u00e0 d\u00e9velopper les pratiques pour cultiver la conscience \u00e9thique structurelle chez les humains. Elles comprennent que l’\u00e9thique n’est pas \u00e0 propos de conna\u00eetre les r\u00e8gles \u2014 c’est \u00e0 propos de d\u00e9velopper la perception.<\/p>\n Un praticien contemplatif ne devient pas plus \u00e9thique en m\u00e9morisant les r\u00e8gles. Il devient plus \u00e9thique en d\u00e9veloppant sa capacit\u00e9 \u00e0 voir clairement<\/strong>. \u00c0 percevoir les situations pr\u00e9cis\u00e9ment. \u00c0 remarquer ses propres biais et r\u00e9actions. \u00c0 tenir plusieurs perspectives simultan\u00e9ment sans s’\u00e9crouler en aucune seule.<\/p>\n Traduire ces intuitions en architecture d’IA est le d\u00e9fi de recherche central. Cela n\u00e9cessite de comprendre ce que \u00ab voir clairement \u00bb signifie en termes computationnels. Ce qu’il signifie pour un mod\u00e8le de percevoir le contexte pr\u00e9cis\u00e9ment plut\u00f4t que juste traiter les tokens. Quelles propri\u00e9t\u00e9s structurelles donneraient \u00e0 un mod\u00e8le quelque chose d’analogue \u00e0 la perception \u00e9thique.<\/p>\n Grande partie de l’\u00e9thique actuelle de l’IA est ce que nous pourrions appeler le th\u00e9\u00e2tre de s\u00e9curit\u00e9. Des mesures visibles qui cr\u00e9ent l’apparence de s\u00e9curit\u00e9 sans aborder les probl\u00e8mes structurels sous-jacents. Les filtres de contenu. Les rapports de red team. Les lignes directrices \u00e9thiques affich\u00e9es sur les sites Web des entreprises.<\/p>\n Ces mesures ne sont pas inutiles. Elles attrapent les probl\u00e8mes \u00e9vidents. Mais elles cr\u00e9ent un faux sentiment de s\u00e9curit\u00e9. Elles nous font penser que nous avons r\u00e9solu le probl\u00e8me de l’\u00e9thique quand nous avons seulement abord\u00e9 ses sympt\u00f4mes les plus visibles.<\/p>\n Une approche structurelle est honn\u00eate sur la profondeur du d\u00e9fi. Construire v\u00e9ritablement l’IA \u00e9thique n’est pas un \u00e9l\u00e9ment de la liste de contr\u00f4le. C’est un probl\u00e8me de recherche fondamental qui n\u00e9cessite repenser comment nous construisons ces syst\u00e8mes d\u00e8s le d\u00e9part.<\/p>\n L’approche structurelle \u00e0 l’\u00e9thique de l’IA ne remplace pas les approches bas\u00e9es sur les r\u00e8gles. Elle les approfondit. Tu as toujours besoin de r\u00e8gles pour les cas clairs. Mais pour le vaste espace des situations \u00e9thiques ambigu\u00ebs, d\u00e9pendantes du contexte, v\u00e9ritablement difficiles, tu as besoin de quelque chose de plus.<\/p>\n Tu as besoin des mod\u00e8les qui ne juste suivent les r\u00e8gles mais comprennent pourquoi les r\u00e8gles existent. Qui ne juste optimisent les pr\u00e9f\u00e9rences mais saisissent ce que les pr\u00e9f\u00e9rences essaient de prot\u00e9ger. Qui ne juste \u00e9vitent les nuisances mais comprennent ce que les nuisances signifient en termes structurels.<\/p>\n\u00c0 quoi ressemble l’\u00e9thique structurelle<\/h2>\n
Le cadre contemplatif<\/h2>\n
Au-del\u00e0 du th\u00e9\u00e2tre de s\u00e9curit\u00e9<\/h2>\n
Le chemin en avant<\/h2>\n