Une IA d\u00e9cide si tu as un pr\u00eat. Une autre IA choisit les candidats pour un emploi. Une troisi\u00e8me IA d\u00e9termine si tu re\u00e7ois des services de sant\u00e9. Et l\u00e0, tu d\u00e9couvres quelque chose de glacial : l’IA est biais\u00e9e. Elle aime pas les personnes comme toi.<\/p>\n
\u00ab Mais c’est juste des chiffres \u00bb, tu dis. \u00ab Les chiffres sont objectifs, right? \u00bb<\/p>\n
Wrong. Les chiffres, c’est juste du pr\u00e9jug\u00e9 en nombre.<\/p>\n
L’IA learn de donn\u00e9es historiques. Si historiquement, les banques donnaient plus de pr\u00eats aux hommes blancs qu’aux femmes noires, l’IA va apprendre \u00e7a. Elle va reproduire le biais. Pas parce qu’elle est m\u00e9chante. Parce qu’elle apprend ce qui s’est pass\u00e9 avant.<\/p>\n
C’est comme si tu apprenais \u00e0 cuisiner en regardant ta m\u00e8re toute ta vie. Si ta m\u00e8re salait pas assez, tu vas saler pas assez. C’est pas de ta faute. Tu copias juste ce que tu as vu.<\/p>\n
Sauf qu’avec l’IA, c’est pire. Parce que l’IA reproduit les biais, pis elle les amplifie. Si le data historique montre que les femmes sont moins souvent engag\u00e9es dans la tech, l’IA va \u00ab apprendre \u00bb que c’est normal. Et quand elle choisit les candidats, elle va privil\u00e9gier les gars. Plus que ce que les humains faisaient.<\/p>\n
Et personne remarque, parce que c’est un algoritme. C’est \u00ab objectif \u00bb. C’est des nombres. C’est scientifique.<\/p>\n
\u00c7a semble abstrait jusqu’\u00e0 ce que \u00e7a t’affecte.<\/p>\n
Y a eu des cas o\u00f9 une IA d’embauche refusait les femmes syst\u00e9matiquement. Une autre IA refusait les gens avec des noms qui \u00ab sondaient \u00bb immigrants. Une autre encore offrait des pr\u00eats plus chers aux personnes noires pour les m\u00eames demandes que les personnes blanches.<\/p>\n
Ce qui est vraiment fou? Les gens qui construisaient l’IA pensaient qu’elle \u00e9tait juste. Ils avaient regard\u00e9 les chiffres. Pas le contexte. Pas l’histoire. Juste les chiffres.<\/p>\n
Et imagine combien de cas on a pas encore d\u00e9couverts. Une compagnie d’assurance qui utilise une IA biais\u00e9e, c’est des milliers de gens qui paient plus. Une appli d’embauche biais\u00e9e, c’est des milliers de gens qui perdent un emploi. Et personne sait pourquoi. L’IA a d\u00e9cid\u00e9.<\/p>\n
Y a un autre biais : celui de ce qu’on vaut la peine de servir. Si une IA voit que historiquement, les jeunes ados utilisaient une app, elle va montrer plus d’ads \u00e0 des ados. Elle va investir dans les ados. Mais si elle voit que les a\u00een\u00e9s utilisaient moins, elle va \u00ab apprendre \u00bb que les a\u00een\u00e9s c’est pas important. Et plus elle apprend \u00e7a, plus elle va les ignorer.<\/p>\n
C’est un biais de circularit\u00e9. Le pr\u00e9sent devient le pass\u00e9. Le pr\u00e9jug\u00e9 d’aujourd’hui devient la \u00ab v\u00e9rit\u00e9 \u00bb de demain.<\/p>\n
D’abord, \u00eatre conscient. Si une IA prend une d\u00e9cision qui t’affecte\u2014un pr\u00eat refus\u00e9, un emploi rejet\u00e9, une assurance refus\u00e9e\u2014tu as le droit de demander pourquoi. Et pas juste \u00ab parce que l’IA a dit non \u00bb. Pourquoi vraiment.<\/p>\n
Deuxi\u00e8mement, soutenir la r\u00e9gulation. Les gouvernements commencent \u00e0 demander que les companies expliquent leurs IAs. C’est bon. \u00c7a veut pas dire bannir l’IA. \u00c7a veut juste dire : \u00ab Montrez-nous ce que vous faites. \u00bb C’est justice basique.<\/p>\n
Troisi\u00e8mement, demander \u00e0 la compagnie qui utilise une IA si elle a test\u00e9 pour le biais. Une bonne compagnie peut te dire. \u00ab Oui, on a regard\u00e9. Voici ce qu’on a trouv\u00e9. Voici comment on l’a fix\u00e9. \u00bb Si elle peut pas te dire \u00e7a, c’est un red flag.<\/p>\n
Et finalement, reste humain. L’IA peut t’aider \u00e0 prendre une d\u00e9cision. Mais pas la d\u00e9cision elle-m\u00eame. Pas sur quelque chose qui t’affecte vraiment.<\/p>\n
Tu veux comprendre comment les biais entrent dans la tech?<\/strong> Sherpa<\/a> (gratuit) t’explique simplement. Ou creuse dans Laeka Research<\/a> pour les d\u00e9tails vraiment importants.<\/p>\n","protected":false},"excerpt":{"rendered":" Une IA d\u00e9cide si tu as un pr\u00eat. Une autre IA choisit les candidats pour un emploi. Une troisi\u00e8me IA…<\/p>\n","protected":false},"author":1,"featured_media":74,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_kad_post_transparent":"","_kad_post_title":"","_kad_post_layout":"","_kad_post_sidebar_id":"","_kad_post_content_style":"","_kad_post_vertical_padding":"","_kad_post_feature":"","_kad_post_feature_position":"","_kad_post_header":false,"_kad_post_footer":false,"_kad_post_classname":"","footnotes":""},"categories":[184],"tags":[],"class_list":["post-83","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-lia-et-toi"],"_links":{"self":[{"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/posts\/83","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/comments?post=83"}],"version-history":[{"count":1,"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/posts\/83\/revisions"}],"predecessor-version":[{"id":331,"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/posts\/83\/revisions\/331"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/media\/74"}],"wp:attachment":[{"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/media?parent=83"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/categories?post=83"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/laeka.org\/blog\/wp-json\/wp\/v2\/tags?post=83"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}