L’IA et les biais : elle reproduit nos préjugés (en pire)

Une IA décide si tu as un prêt. Une autre IA choisit les candidats pour un emploi. Une troisième IA détermine si tu reçois des services de santé. Et là, tu découvres quelque chose de glacial : l’IA est biaisée. Elle aime pas les personnes comme toi.

« Mais c’est juste des chiffres », tu dis. « Les chiffres sont objectifs, right? »

Wrong. Les chiffres, c’est juste du préjugé en nombre.

Comment un biais rentre dans l’IA

L’IA learn de données historiques. Si historiquement, les banques donnaient plus de prêts aux hommes blancs qu’aux femmes noires, l’IA va apprendre ça. Elle va reproduire le biais. Pas parce qu’elle est méchante. Parce qu’elle apprend ce qui s’est passé avant.

C’est comme si tu apprenais à cuisiner en regardant ta mère toute ta vie. Si ta mère salait pas assez, tu vas saler pas assez. C’est pas de ta faute. Tu copias juste ce que tu as vu.

Sauf qu’avec l’IA, c’est pire. Parce que l’IA reproduit les biais, pis elle les amplifie. Si le data historique montre que les femmes sont moins souvent engagées dans la tech, l’IA va « apprendre » que c’est normal. Et quand elle choisit les candidats, elle va privilégier les gars. Plus que ce que les humains faisaient.

Et personne remarque, parce que c’est un algoritme. C’est « objectif ». C’est des nombres. C’est scientifique.

Les vraies conséquences

Ça semble abstrait jusqu’à ce que ça t’affecte.

Y a eu des cas où une IA d’embauche refusait les femmes systématiquement. Une autre IA refusait les gens avec des noms qui « sondaient » immigrants. Une autre encore offrait des prêts plus chers aux personnes noires pour les mêmes demandes que les personnes blanches.

Ce qui est vraiment fou? Les gens qui construisaient l’IA pensaient qu’elle était juste. Ils avaient regardé les chiffres. Pas le contexte. Pas l’histoire. Juste les chiffres.

Et imagine combien de cas on a pas encore découverts. Une compagnie d’assurance qui utilise une IA biaisée, c’est des milliers de gens qui paient plus. Une appli d’embauche biaisée, c’est des milliers de gens qui perdent un emploi. Et personne sait pourquoi. L’IA a décidé.

Et c’est plus que juste la discrimination

Y a un autre biais : celui de ce qu’on vaut la peine de servir. Si une IA voit que historiquement, les jeunes ados utilisaient une app, elle va montrer plus d’ads à des ados. Elle va investir dans les ados. Mais si elle voit que les aînés utilisaient moins, elle va « apprendre » que les aînés c’est pas important. Et plus elle apprend ça, plus elle va les ignorer.

C’est un biais de circularité. Le présent devient le passé. Le préjugé d’aujourd’hui devient la « vérité » de demain.

Ce qu’on peut faire

D’abord, être conscient. Si une IA prend une décision qui t’affecte—un prêt refusé, un emploi rejeté, une assurance refusée—tu as le droit de demander pourquoi. Et pas juste « parce que l’IA a dit non ». Pourquoi vraiment.

Deuxièmement, soutenir la régulation. Les gouvernements commencent à demander que les companies expliquent leurs IAs. C’est bon. Ça veut pas dire bannir l’IA. Ça veut juste dire : « Montrez-nous ce que vous faites. » C’est justice basique.

Troisièmement, demander à la compagnie qui utilise une IA si elle a testé pour le biais. Une bonne compagnie peut te dire. « Oui, on a regardé. Voici ce qu’on a trouvé. Voici comment on l’a fixé. » Si elle peut pas te dire ça, c’est un red flag.

Et finalement, reste humain. L’IA peut t’aider à prendre une décision. Mais pas la décision elle-même. Pas sur quelque chose qui t’affecte vraiment.

Tu veux comprendre comment les biais entrent dans la tech? Sherpa (gratuit) t’explique simplement. Ou creuse dans Laeka Research pour les détails vraiment importants.