Selon un rapport de Goldman Sachs, les postes qui vont s’automatiser sous l’effet de l’AI sont occupés à 80% par des femmes, contre 58% par des hommes.
Les femmes sont sous-représentées dans le monde de l’intelligence artificielle et elles sont moins enclines à s’en servir que les hommes. Cette sous-représentativité a un impact certain sur les fameux algorithmes générés par l’IA, qui peuvent être biaisés en ne représentant pas assez, ou mal, la moitié de l’humanité. Entretien avec deux expertes : Sasha Luccioni et Joëlle Pineau.
"Dans ce domaine, on a une vraie crise de diversité. Selon les dernières statistiques, on est à peu près 15% de femmes, donc très peu", regrette Sasha Luccioni, spécialisée dans la recherche sur les impacts sociétaux et environnementaux des technologies de l’IA chez Hugging Face, une "start up" franco-américaine. En septembre 2024, le Time Magazine a nommé la Québécoise de 34 ans parmi les 100 personnes les plus influentes en intelligence artificielle dans le monde, une reconnaissance qui a agréablement surpris la jeune femme, "je pense que c'est plutôt mon sujet de recherche que moi, mais quand même, ça fait plaisir", précise-t-elle en souriant.
Tweet URL
Dans l'informatique en général, c'est un problème bien connu, mais en IA, c'est particulièrement problématique parce que les outils et les systèmes qu'on crée vont avoir des changements, avoir un impact dans la société. Sasha Luccioni, chercheuse IA
Se retrouver sur cette liste est d’autant plus symbolique que les femmes qui travaillent dans le monde de l’intelligence artificielle sont minoritaires : "Dans l'informatique en général, c'est un problème bien connu, mais en IA, c'est particulièrement problématique parce que les outils et les systèmes qu'on crée vont avoir un impact dans la société. Contrairement à une page web un peu statique, les algorithmes d'IA font des prédictions et peuvent changer des manières de faire, des manières d'être. Par exemple, si on classifie un homme en tant que professionnel et une femme en tant que mère au foyer, on a des algorithmes biaisés, et cela peut avoir des impacts sur le travail, les crédits bancaires. C’est pour ça que c'est important qu’il y ait de la diversité autour de la table parce que ça permet de détecter les biais, de faire des algorithmes qui sont plus représentatifs de plus de monde et minimiser les impacts négatifs et la discrimination dans la société".
"Au tout début, j’étais encore en études d’ingénieur à Ottawa, au centre de recherches du Canada, et on travaillait sur un système de reconnaissance de la parole dans les hélicoptères. On voulait le tester, mais on ne trouvait que des hommes pilotes. On a essayé de trouver une pilote, mais on n’a pas été capable, alors c’est moi qui ai pris les commandes de l’hélicoptère et j’ai suivi tout le protocole. Souvent on essaye d’avoir de la diversité dans nos équipes, parce que les questions qu’on pose, notre regard sur le monde comme chercheurs, c’est ce qui influence", se souvient Joëlle Pineau, vice-présidente de la recherche en IA et directrice du laboratoire FAIR de META et professeure à l’Université McGill de Montréal.
La chercheuse, qui travaille dans le domaine depuis plus de vingt ans, voit tout de même une certaine progression, faisant valoir qu’il y a quand même plus de femmes dans l’IA maintenant qu’au début, quand le secteur a commencé ses activités. Il reste néammoins bien du chemin à parcourir pour arriver à une parité : "Dans mon équipe de recherche chez Meta, on est au moins à parité, donc c’est possible, mais si on regarde les chiffres au niveau global, on est loin de la parité".
Joëlle Pineau, vice-présidente de la recherche en IA, directrice du laboratoire FAIR de META et professeure à l’Université McGill de Montréal.
DR
Autre exemple qui illustre l’impact de l’absence des femmes en IA : les premières versions de l’application santé d’Apple n’avaient pas l’indice pour suivre les cycles menstruels, tout simplement parce que quand l’application a été créée, personne n’y a pensé, rappelle Sasha Luccioni.
Il y a beaucoup de "boys" très gentils, des bons alliés mais il faut aussi savoir que des gens comme moi, comme Sasha, on est un peu des survivantes parce qu’on a beaucoup de collègues femmes qui ont quitté le domaine pour toutes sortes de raisons Joëlle Pineau, professeure Université MC Gill de Montréal
Alors quand on demande aux deux expertes si elles évoluent dans un "boys club", leurs réponses sont sans équivoque : "Complètement, déclare Sasha Luccioni. Et c'est vraiment dur parce que non seulement on doit lutter pour avoir sa place à la table, mais souvent, comme on est différent d'une manière ou d'une autre, on doit aussi critiquer le statu quo. Par exemple, un algorithme qui va générer des images de PDG qui ne sont que des hommes : on va dire que c'est sexiste, que ce n'est pas représentatif de la réalité et donc on est toujours, beaucoup, dans la critique et dans le conflit. Et c'est sûr que ça crée des frictions, parce que non seulement on est différent des autres, mais aussi on insiste sur le fait qu'il faut changer les choses, il faut changer nos façons de concevoir ces modèles-là. Et c'est sûr que personne n'aime être critiqué".
Tweet URL
"Ah oui c’est un boys club, absolument, ajoute Joëlle Pineau, j’y suis depuis vingt-cinq/trente ans et il y a beaucoup de 'boys' très gentils, des bons alliés, mais il faut aussi savoir que des gens comme moi, comme Sasha, on est un peu des survivantes, parce qu’on a beaucoup de collègues femmes qui ont quitté le domaine pour toutes sortes de raisons".
Femmes et IA : "Je t'aime, moi, non plus"
Le Conseil du statut de la femme (organisme québécois), a récemment publié un rapport, "L’intelligence artificielle : Des risques pour l’égalité entre les femmes et les hommes", qui révèle qu’au Québec, sur les 45 000 postes professionnels en intelligence numérique répertoriés en 2021, à peine 19 % étaient occupés par des femmes.
Les femmes sont de moins grandes utilisatrices de l’IA que les hommes. Selon une étude récente du Forum économique mondial, 59% des travailleurs masculins âgés de 18 à 65 ans utilisent au moins une fois par semaine l’intelligence artificielle générative, comparativement à 51 % des femmes. Chez les jeunes de 18 à 25 ans, l’écart est encore plus marqué : c’est 71 % chez les hommes, contre 59 % chez les femmes, soit un écart considérable de 12 %. Selon une étude d’Oxford Economics et Cognizant, 90% des emplois seront impactés par l’IA d’ici 2032 ; on parle d’une multiplication par six du nombre d’emplois touchés, passant de 8% à 52% entre 2023 et 2032.
Selon un rapport de Goldman Sachs, les postes qui vont s’automatiser sous l’effet de l’IA sont occupés à 80% par des femmes, contre 58% par des hommes.
La sous-représentativité des femmes dans le monde de l’IA risque de perdurer avec ce qu’il se passe aux États-Unis depuis le 20 janvier, ce qui soulève beaucoup d’inquiétude, renchérit Sasha Luccioni : "En ce moment, particulièrement, avec le président Trump, il y a encore plus d'animosité envers les initiatives en IA sur la diversité, l'équité, l'inclusion. Comme beaucoup de la recherche en IA est faite dans ces grandes compagnies technologiques, elles sont influencées aussi par ces mouvements. On voit vraiment un contre-mouvement, plus d'énergie masculine dans les grandes compagnies technologiques, ce qui impacte l'IA aussi. Et comme ce n’est pas vraiment un domaine de recherche pure, c'est impacté par le onde capitaliste où on vit. Tout ça fait que c’est un environnement difficile pour les femmes".
Je pense que les technologies doivent s'améliorer, elles doivent évoluer parce que sinon les femmes vont arrêter de les utiliser, les homosexuels aussi et les autres minorités. Sarah Lucciani
"Je pense que les prochaines années vont être vraiment difficiles pour les femmes et les minorités de manière générale, tous les gens qui critiquent le statu quo, qui ne sont pas 'homme blanc hétérosexuel' - explique la chercheuse, qui a fait son postdoctorat au sein de la réputée compagnie MILA fondée par Yoshua Bengio. Je pense que les technologies doivent s'améliorer, elles doivent évoluer parce que, sinon, les femmes vont arrêter de les utiliser, les homosexuels aussi et les autres minorités. Et au fur et à mesure, ils vont perdre des usagers. Donc quand ça devient trop flagrant, quand il risque d'y avoir trop de pertes, je pense que le capitalisme va un peu revenir là-dessus".
Sasha Luccioni siège au sein du comité de direction d’un organisme à but non lucratif, Women in Machine Learning, WIML, qui aide les femmes qui travaillent dans le domaine de l’IA et de l’apprentissage automatique. Elle constate que l’organisme récolte de moins en moins de dons, notamment de la part de géants du web comme Google et Facebook. Cet organisme offre des bourses à des femmes qui veulent participer à des conférences sur l’IA un peu partout dans le monde, notamment pour les aider avec la garde de leurs enfants, les visas, etc. Donc moins de dons, moins d’argent, moins de femmes qui en profitent… et qui vont participer à ces conférences.
De son côté, Joëlle Pineau insiste sur les changements mis en place par Meta pour favoriser la diversité dans le processus d’embauche : "Il y a certains programmes qu’on avait déployés depuis plusieurs années qui ne seront plus utilisés au sein de Meta, d’autres programmes vont être mis en place et on doit se réaligner sur la nouvelle réalité américaine, les lois ont changé aux États-Unis. A l’échelle de la société, oui, je dois dire que ces changements-là m’inquiètent, à l’échelle de Meta, je vois qu’il y a quand même de la bonne volonté et des choses qui vont se mettre en place pour remplacer ces programmes".
Le vent qui souffle fort actuellement aux États-Unis contre le " wokisme", les programmes de diversité et les communautés LGBTQ+ est clairement en train de contaminer ces géants du web, qui étaient représentés lors de la cérémonie d’investiture de Donald Trump. Et cela risque aussi d’impacter tout le monde de l’IA en partie contrôlé par ces géants.
Plus de femmes dans l’IA : quelles pistes ?
Selon Sasha Lucciani, il faut offrir de meilleures conditions aux femmes qui travaillent dans l’IA si on veut qu’elles y restent et qu’elles y fassent leur place : "Par exemple, ça fait peut-être depuis quelques années seulement que dans des conférences en IA, on a des crèches ou des micro-crèches ou des haltes-garderies alors que dans d'autres domaines, comme en sociologie, en histoire, en littérature, c'est courant, d'avoir ça. Moi quand j’ai fait ma thèse, ce n’était pas possible d’amener ses enfants à une conférence (Sasha a eu ses deux enfants alors qu’elle faisait sa thèse, ndlr)".
On veut des algorithmes et des modèles qui représentent 50% de la population, ce 50% de la population dont on ne tient pas compte trop souvent. Si on inclut plus de femmes dans la conception de ces technologies, on a plus de chances que ces technologies fonctionnent pour les femmes. Sarah Lucciani
Pour renforcer la présence des femmes dans l’IA, la jeune femme joue sur le positif : "Moi j'essaie de présenter ça comme gagnant-gagnant, dans le sens que globalement les femmes représentent à peu près 50% de la population. Donc on veut des algorithmes et des modèles qui représentent 50% de la population, ce 50% de la population dont on ne tient pas compte trop souvent. Si on inclut plus de femmes dans la conception de ces technologies, on a plus de chances que ces technologies fonctionnent pour les femmes. Moi j'essaie souvent d'insister sur le fait que la diversité fait la force, surtout dans une technologie, parce qu’on parle toujours d'IA universelle qui est pour le bien de tous".
Pour Joëlle Pineau, il faut agir en amont, en attirant les jeunes filles dans des études en lien avec l’IA : "A l’université McGill, on a réussi à amener beaucoup de jeunes femmes dans nos programmes d’informatique, on est proche du 30-40% de la représentativité des femmes. On le fait de deux façons, en offrant des programmes conjoints, comme informatique-biologie, et en offrant plusieurs portes d’entrées dans le domaine". Autre nécessité selon elle : apprivoiser le monde de l’intelligence artificielle le plus tôt possible dans le cursus scolaire. Et sur ce terrain, il y a beaucoup de progrès à faire sur ce plan au Québec, estime la chercheuse : "C’est là qu’on va voir les femmes s’approprier davantage cet univers et y faire leurs études et leurs carrières".
Je pense que c’est important de donner la parole aux femmes, pas juste dans un article sur les femmes. On tend toujours le micro aux géants de l’IA sur les sujets de l’IA, les femmes, on nous appelle quand on veut parler de questions en lien avec les femmes dans l’IA, alors que je pense qu’il y a un rôle important à jouer aussi pour les médias. Joelle Pineau
Confiante, Joëlle Pineau veut croire que les femmes vont réussir à prendre de plus en plus leur place au sein de l’IA : "Au fur et à mesure que l’IA va se développer dans différents secteurs, c’est comme ça qu’on va avoir de plus en plus de femmes impliquées. Ce qu’il faut aussi surveiller, c’est qu’on est dans une dynamique de course, de compétition au sein de l’IA, et il y a certaines femmes qui se retrouvent dans cette dynamique mais il y a en a aussi beaucoup qui sont plus dans une dynamique de collaboration, de co-construction et il va falloir trouver des terrains où on peut travailler sur ce mode collaboratif". Les recherches menées par son équipe sont, par exemple, en mode "open sources" c'est à dire ouvertes, disponibles et partagées. "La démocratisation de l’IA, ça me tient beaucoup à cœur parce que je pense que c’est une des façons pour rejoindre les femmes et toutes les autres communautés", ajoute-t-elle.
Et de conclure : "Je pense que c’est important de donner la parole aux femmes, pas juste dans un article sur les femmes. On tend toujours le micro aux géants de l’IA sur les sujets de l’IA, les femmes, on nous appelle quand on veut parler de questions en lien avec les femmes dans l’IA, alors que je pense qu’il y a un rôle important à jouer aussi pour les médias, d’aller chercher ces expertes de l’IA, de leur tendre de micro et d’amplifier leurs voix. Il y a vraiment ce mythe de héros de l’intelligence artificielle, ce boys club, il est aussi renforcé par les médias. Il y a une réflexion à faire aussi de ce côté-là".
6 minutes de lecture
© Digital113
