A l’occasion de la journée de la femme le 8 mars, le Quai des Savoirs organise une semaine de réflexion sur les femmes et la science. Ce 9 mars, nous avons assisté pour vous au Webinaire « Intelligence Artificielle : les femmes aussi« .

« Le webinaire va bientôt commencer, veuillez rester en ligne ». Il est 15h58, et cette phrase résonne toutes les trente secondes. « Le webinaire va bientôt commencer, veuillez rester en ligne ». Covid-19 oblige, c’est par écrans interposés que le Quai des Savoirs, le CNRS Occitanie Ouest et leurs partenaires organisent une semaine mettant les femmes scientifiques à l’honneur.

« Du 8 mars au 14 mars, les femmes scientifiques sortent de l’ombre au Quai des Savoirs », peut-on lire sur leur communiqué de presse. Un programme qui vise à identifier pourquoi, « alors que les femmes représentent un peu plus de 50% des effectifs dans la filière scientifique du baccalauréat, leur nombre décroît à mesure que leur niveau de responsabilité augmente. » En somme, pourquoi, arrivés sur les bancs de la fac, le nombre d’étudiantes est très largement inférieur au nombre d’étudiants dans le domaine des sciences, et plus précisément ici, de l’informatique ? Alors qu’hier c’est une table ronde sur « Vers une égalité Femme/ Homme en IA : outils et dispositifs » qui a été proposée, aujourd’hui, c’est un webinaire intitulé « Intelligence artificielle, les femmes aussi » qui s’est tenu pendant 1h20.

A 16h, cinq femmes apparaissent à l’écran. Quatre sont scientifiques (Marjorie Allain-Moulet, Céline Castets-Renard, Flora Vincent et Sihame Aarab). La cinquième, Emmanuelle Durand Rodriguez,  est la journaliste qui anime la session. Elles sont respectivement responsable innovation IA et data, professeure en faculté de droit, autrice d’œuvre scientifique ainsi que co-fondatrice de Wax-Science et data scientist.
Des femmes, pour parler des femmes. Des femmes scientifiques, pour parler des femmes dans la science.

« Il y n’a pas ou peu de femme dans le domaine de l’IA. Il y en a même moins qu’il y a trente ans dans le domaine de l’informatique. C’est embêtant dans un domaine qui représente un grand nombre d’emplois dans l’avenir. Ça signifie qu’on se passe aussi du regard particulier qu’est celui de la femme », introduit l’une d’elle. Au-delà du manque de mixité hommes-femmes dans les équipes entrainant les algorithmes de l’IA, Flora Vincent dénonce un manque de mixité bien plus général.

Joy Buolamwini animant une conférence. « Compassion through Computation: Fighting Algorithmic Bias » by World Economic Forum is licensed under CC BY-NC-SA 2.0

Elle cite notamment les travaux de Joy Buolamwini, une informaticienne américano-ghanéenne, qui a démontré que l’algorithme de l’IA reconnait plus facilement les visages d’hommes blancs que ceux de femmes noires. Plus qu’uniquement les biais sexistes, la conférence semble dépeindre des biais éthique bien plus nombreux de l’IA.
Couleurs de peaux, sexes, cultures, ethnies,… Les scientifiques pointent une base de données de référence pour l’IA biaisée en tout point.

IA et biais éthiques

La juriste prend alors la parole. Elle souligne qu’il existe aujourd’hui des centaines de chartes sur l’éthique de l’IA. Pour elle, l’éthique n’est absolument pas la priorité des GAFAM.
Sihame Aarab et Flora Vincent, qui travaillent pour ces grands groupes, vont dans le sens de la juriste et dénoncent à leur tour les actions de ces derniers.
La co-fondatrice de Wax-science s’explique et reprend une affaire arrivée récemment : une ingénieur Google s’est faite licenciée, puis supprimée de Google, après avoir voulu publier un papier sur les biais algorithmiques de l’IA de Google. « Nous sommes tellement dépendants de ces groupes qu’ils peuvent agir de la sorte sans être inquiétés. C’est effrayant ! », conclue t-elle.

Alors que les quatre expertes s’accordent pour reconnaitre l’omniprésence de biais discriminatoires dans l’intelligence artificielle, aucune solution toute trouvée ou innovante n’a encore été avancée.
« L’IA reste une science, et en tant que scientifique, je sais que lorsqu’on regarde un problème et qu’on vient tous d’une même société, d’une même culture, d’une même éducation, (…) alors on voit tous le problème sous le même angle. Et on voit tous la même solution », explique Flora Vincent.

Alors, que faire ?

Pour Sihame Aarab, il faut s’appliquer rigoureusement à veiller autant à une équité homme-femme qu’à une équité d’âge, de diversité culturelle, etc pour corriger ces biais discriminatoires. « Ce n’est pas pour rien que les accidents de voiture sont plus dangereux pour les femmes que pour les hommes ! Les ceintures sont pensés pour des humains d’1m70 et 70 kg », analyse Flora Vincent.
Pour Sihame Aarab, l’autre solution, sur un temps bien plus long, serait de créer une culture d’ouverture qui veille à ce que chaque individu puisse réfléchir par et pour la diversité la plus totale. Une deuxième option, qui, dans un monde de plus en plus individualiste, semble difficile à mettre en œuvre. Difficile n’étant pour autant pas synonyme d’impossible !

Pour autant, toutes s’entendent à rappeler que l’IA ne doit pas être considérée comme une ennemie. Pour Flora Vincent, c’est un bon outil d’analyse. Aujourd’hui, on peut l’utiliser pour montrer, justement, l’invisibilité des femmes sur le web ou au cinéma.
Si c’est un outil qui discrimine encore beaucoup trop, la jeune femme rappelle qu’il peut aussi permettre de faire de la discrimination positive, « On peut obliger Linkedin à présenter 50% de profil féminin. L’IA fait ressortir des profils normalement moins visibles. »

 

Image mise en avant : « Artificial Intelligence & AI & Machine Learning » bymikemacmarketing is licensed under CC BY 2.0