Terminator. Ex Machina. 2001 l’Odyss\u00e9e de l’espace. Le cin\u00e9ma nous a appris une chose : l’IA va devenir consciente, d\u00e9cider que les humains sont le probl\u00e8me, et nous exterminer.<\/p>\n
C’est un bon sc\u00e9nario de film. C’est un mauvais sc\u00e9nario de r\u00e9alit\u00e9.<\/p>\n
L’IA est-elle dangereuse? Oui, mais pas comme tu penses. Les vrais dangers sont pas mal plus plates que Skynet \u2014 et c’est justement pour \u00e7a qu’on devrait s’en occuper.<\/p>\n
L’IA actuelle est pas consciente. Pas proche. Pas en chemin. ChatGPT sait pas qu’il existe. Il a pas d’objectifs, pas de d\u00e9sirs, pas de plan pour dominer le monde. Il pr\u00e9dit le prochain mot dans une phrase. C’est tout.<\/p>\n
Les chercheurs s\u00e9rieux \u2014 et y’en a beaucoup \u2014 s’entendent l\u00e0-dessus. On est tr\u00e8s, tr\u00e8s loin<\/strong> d’une intelligence artificielle g\u00e9n\u00e9rale qui pourrait avoir des intentions. On sait m\u00eame pas si c’est possible avec la technologie actuelle.<\/p>\n \u00c7a veut pas dire que \u00e7a arrivera jamais. Mais \u00e7a veut dire que c’est pas le danger d’aujourd’hui.<\/p>\n La d\u00e9sinformation.<\/strong> L’IA peut g\u00e9n\u00e9rer de faux articles de nouvelles, de fausses images, de fausses vid\u00e9os \u00e0 une vitesse et une qualit\u00e9 jamais vues. C’est d\u00e9j\u00e0 un probl\u00e8me. Pendant les \u00e9lections, les deepfakes sont partout. Et \u00e7a va juste empirer.<\/p>\n Les biais.<\/strong> L’IA apprend des donn\u00e9es humaines. Et les donn\u00e9es humaines sont pleines de pr\u00e9jug\u00e9s. Un syst\u00e8me d’IA utilis\u00e9 pour filtrer des CVs peut discriminer contre les femmes. Un syst\u00e8me de police pr\u00e9dictive peut cibler les quartiers pauvres. Pas parce que l’IA est raciste \u2014 parce que les donn\u00e9es le sont.<\/p>\n La d\u00e9pendance.<\/strong> Plus on laisse l’IA prendre de d\u00e9cisions, plus on perd notre capacit\u00e9 \u00e0 les prendre nous-m\u00eames. C’est le m\u00eame ph\u00e9nom\u00e8ne que le GPS : depuis qu’on l’utilise, notre sens de l’orientation a diminu\u00e9. Imagine \u00e7a, mais pour la pens\u00e9e critique.<\/p>\n La concentration du pouvoir.<\/strong> L’IA co\u00fbte cher \u00e0 d\u00e9velopper. Seules les plus grosses compagnies au monde peuvent entra\u00eener les mod\u00e8les les plus puissants. \u00c7a met un pouvoir immense entre les mains de quelques entreprises. C’est un probl\u00e8me d\u00e9mocratique.<\/p>\n Tous ces dangers-l\u00e0 sont g\u00e9rables<\/strong>. Ils demandent de l’\u00e9ducation, de la r\u00e9glementation, et de la vigilance. Pas de la panique.<\/p>\n La d\u00e9sinformation se combat avec la pens\u00e9e critique et des outils de v\u00e9rification. Les biais se corrigent avec de meilleures donn\u00e9es et des audits r\u00e9guliers. La d\u00e9pendance se pr\u00e9vient en gardant l’humain dans la boucle. La concentration du pouvoir se combat avec l’open source et la r\u00e9glementation.<\/p>\n Le pire qu’on peut faire, c’est avoir tellement peur de l’IA qu’on s’en occupe pas. Ou tellement confiance qu’on v\u00e9rifie rien.<\/p>\n Comprendre l’IA. Pas en d\u00e9tail technique \u2014 juste assez pour savoir ce que \u00e7a fait bien, ce que \u00e7a fait mal, et o\u00f9 sont les risques. C’est comme apprendre les r\u00e8gles de la route : tu deviens pas m\u00e9canicien, mais tu conduis de fa\u00e7on s\u00e9curitaire.<\/p>\nLes vrais dangers (les plates)<\/h2>\n
La bonne nouvelle<\/h2>\n
Ce que tu peux faire<\/h2>\n