{"id":380,"date":"2023-10-19T13:49:49","date_gmt":"2023-10-19T11:49:49","guid":{"rendered":"https:\/\/nausikaa.net\/?p=380"},"modified":"2023-10-20T12:41:49","modified_gmt":"2023-10-20T10:41:49","slug":"lia-est-elle-objective","status":"publish","type":"post","link":"https:\/\/nausikaa.net\/index.php\/2023\/10\/19\/lia-est-elle-objective\/","title":{"rendered":"L’IA est-elle objective ?"},"content":{"rendered":"\n

*** English version below ***<\/p>\n\n\n\n

On entend souvent que les algorithmes d’IA sont plus objectifs que les humains car ils n’ont pas de pr\u00e9jug\u00e9s, d’\u00e9motions, ou de biais. Mais c’est loin d’\u00eatre vrai ! Ces algorithmes apprennent \u00e0 partir de donn\u00e9es, g\u00e9n\u00e9r\u00e9es par des humains, qui eux sont biais\u00e9s. Les donn\u00e9es r\u00e9sultant de leurs actions sont donc biais\u00e9es, et l’algorithme apprend donc les m\u00eames biais que les humains.<\/p>\n\n\n\n

Par exemple on s’int\u00e9resse ici au processus de recrutement et au choix entre des candidats masculins ou f\u00e9minins (pour simplifier). Si les humains ont un pr\u00e9jug\u00e9 en faveur des hommes pour cet emploi, alors les donn\u00e9es (le pourcentage d’hommes et de femmes dans cette entreprise) sont biais\u00e9es. L’algorithme va donc apprendre qu’un candidat masculin est probablement meilleur, puisqu’ils sont plus pr\u00e9sents dans les candidats “gagnants”, recrut\u00e9s par le pass\u00e9. L’algorithme va donc plus souvent recruter des hommes, accentuant leur proportion parmi les employ\u00e9s. La probabilit\u00e9 de les recruter augmente donc de plus en plus, et la proportion de femmes baisse de plus en plus. L’algorithme d’IA a donc tendance non seulement \u00e0 reproduire les biais humains, mais aussi \u00e0 les amplifier.<\/p>\n\n\n\n

Tester le mod\u00e8le simple en fran\u00e7ais<\/a> \"\"<\/p>\n\n\n\n

Dans une version plus \u00e9labor\u00e9e<\/strong>, on s’int\u00e9resse \u00e0 un autre biais qui influence lui aussi le recrutement. Il s’agit d’un biais d’auto-censure. Les personnes moins repr\u00e9sent\u00e9es sur un lieu de travail vont avoir tendance \u00e0 moins candidater, ressentant qu’elles ont moins de chances d’\u00eatre choisies. Ainsi les femmes vont moins choisir des \u00e9tudes scientifiques o\u00f9 elles sont peu repr\u00e9sent\u00e9es, moins candidater sur des emplois “masculins”, etc. Si on ajoute ce biais au pr\u00e9c\u00e9dent, les discriminations se font encore plus fortes, car le recruteur peut ne m\u00eame pas avoir de candidates f\u00e9minines parmi lesquelles choisir.<\/p>\n\n\n\n

\"\"TESTER le mod\u00e8le en fran\u00e7ais<\/a><\/p>\n\n\n\n

In this model we show how AI can reproduce and amplify human biases. It is applied to CV selection, by either a human recruiter (who relies on human prejudices in favour of males for instance), or on an AI recruiter (which learns from the current percentage of women among employees: the more women are employed, the more likely it is to hire women again). One can observe that even though humans are known to be subjective, AI will do no better. On the contrary, it will reproduce and amplify that same biases: the less women are employed, the less the AI algorithm will hire them in the future, reducing their proportion even more, hence their probability to apply and to be selected, etc, until it falls to 0…<\/p>\n\n\n\n

\"\" TEST the model in English<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

On pense souvent que les IA sont plus objectives que les humains, mais ce n’est pas vrai. L’IA apprend \u00e0 partir des donn\u00e9es cr\u00e9\u00e9es par les humains, et va donc reproduire et amplifier les m\u00eames pr\u00e9jug\u00e9s et discriminations.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[87,62,86],"tags":[],"class_list":["post-380","post","type-post","status-publish","format-standard","hentry","category-ai","category-english-version","category-gender"],"_links":{"self":[{"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/posts\/380","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/comments?post=380"}],"version-history":[{"count":4,"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/posts\/380\/revisions"}],"predecessor-version":[{"id":386,"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/posts\/380\/revisions\/386"}],"wp:attachment":[{"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/media?parent=380"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/categories?post=380"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/nausikaa.net\/index.php\/wp-json\/wp\/v2\/tags?post=380"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}