L’IA enquête sur Disney : misogyne ou pas ?

La mauvaise nouvelle est que l’égalité raciale et de genre dans les films a encore beaucoup de chemin à parcourir. Mais la bonne nouvelle est que l’IA peut nous aider à y parvenir.

La neutralité de genre de Disney
Disney est-il misogyne ?

Une étude de l’UNESCO tire son titre d’une phrase que l’assistant vocal Siri, de sexe féminin, d’Apple, a programmée à l’origine en réponse aux utilisateurs qui lui donnaient un nom sexiste : “I’d Blush If I Could”. Ce n’est qu’au début de l’année 2019 qu’Apple a mis à jour la programmation de Siri pour la remplacer par “Je ne sais pas comment répondre à cela”.

Si l’on considère que Siri a été lancée en 2011, cela ne semble pas déranger Apple d’avoir attribué à Siri une réponse si timide et stéréotypée au féminin qu’elle lui a permis de rester dans le programme pendant près de huit ans. Comme le souligne le rapport de l’UNESCO, “la soumission “féminine” de Siri – et la soumission exprimée par tant d’autres assistants numériques projetés comme de jeunes femmes – illustre de manière éloquente les préjugés sexistes encodés dans les produits technologiques.”

De tels préjugés ont affecté non seulement le secteur technologique, mais aussi l’industrie du divertissement. Bien sûr, l’IA ne crée pas de préjugés, mais elle reflète les préjugés de sa programmation. Aujourd’hui, cependant, l’IA est utilisée pour lutter contre les préjugés.

Les femmes sur les écrans

Les préoccupations concernant le message sur les rôles des femmes véhiculé par la façon dont elles apparaissent, ou souvent n’apparaissent pas, dans les films et à la télévision sont à l’origine du travail à but non lucratif du Geena Davis Institute on Gender in Media. Son slogan est “Si elle peut le voir, elle peut l’être”.

Il y a beaucoup de vérité dans cette affirmation d’opportunité. Comme le montre l’étude Women in Tech : Their Current Status, What They Have Achieved and What They Want, le manque de visibilité des femmes dans le secteur de la technologie, notamment aux postes de direction et en tant qu’oratrices lors des conférences, est très décourageant pour les femmes, et la majorité d’entre elles ont déclaré qu’elles seraient plus susceptibles d’assister à une conférence si une femme y était représentée.

Introduction d’un correcteur orthographique assisté par l’IA pour les préjugés

Geena Davis, l’actrice qui a donné son nom à l’organisation, est une militante convaincue de la représentation des femmes à l’écran. Comme il se doit, elle a annoncé le lancement par Disney d’une solution d’IA pour lutter contre les préjugés dans les films portant le nom de ses idéaux : le Geena Davis Inclusion Quotient (GD-IQ) ou GD-IQ : Spellcheck for Bias.

Comme le rapporte The Hollywood Reporter, Mme Davis a prononcé le discours principal ce mois-ci lors du Power of Inclusion Summit qui s’est tenu en Nouvelle-Zélande. Ce faisant, elle a annoncé que son organisation travaille avec les studios Walt Disney pour utiliser la solution d’IA qui porte son nom afin d’identifier les préjugés potentiels dans les scénarios de films et de télévision.  L’article explique :

Le nouvel outil utilise une technologie brevetée d’apprentissage automatique mise au point à l’école d’ingénierie Viterbi de l’université de Californie du Sud pour analyser rapidement le texte d’un scénario afin de déterminer le nombre de personnages masculins et féminins et de savoir s’ils sont représentatifs de la population du monde réel en général. La technologie peut également détecter le nombre de personnages de couleur, LGBTQI, handicapés ou appartenant à d’autres groupes qui sont généralement sous-représentés et absents des histoires hollywoodiennes.

En plus d’énumérer la représentation des sexes et des races ou les identités ethniques des personnages dans un scénario, l’outil peut décomposer la qualité de la représentation en termes de dialogue, y compris le nombre total de mots et le “niveau de sophistication du vocabulaire utilisé”. Elle évalue également “le statut social relatif ou les positions de pouvoir attribuées aux personnages en fonction du groupe”.

Mme Davis a déclaré que son organisation travaillerait avec Disney pendant un an “pour utiliser cet outil comme un outil de prise de décision et identifier les possibilités d’accroître la diversité et l’inclusion dans les manuscrits qu’ils reçoivent”.

Il est intéressant que Disney prenne cette initiative maintenant, car l’entreprise a été critiquée par le passé pour avoir véhiculé des stéréotypes sexistes et racistes négatifs dans ses films d’animation. Regardez les vidéos ci-dessous :

Ces dernières années, Disney a modifié ses intrigues et ses scénarios pour les rendre plus conformes aux sensibilités modernes. Cela nous a permis de passer de la première princesse Blanche-Neige, qui est non seulement la domesticité incarnée, mais aussi la “plus belle de toutes”, à la princesse polynésienne Moana, qui quitte sa maison non pas pour fuir sa vie, mais pour sauver son peuple en tant que souveraine.

Entre-temps, il y a eu de nombreuses autres princesses qui ont permis à Disney de montrer des Amérindiens, des Asiatiques, des Afro-Américains, etc., ainsi que des princesses qui ne sont pas seulement mariées et vivent heureusement pour toujours, comme dans le cas de Brave. Disney a également réalisé un certain nombre de remakes de ses films d’animation avec des acteurs vivants, donnant ainsi au célèbre studio l’occasion non seulement d’actualiser l’apparence d’un film, mais aussi de le faire entrer dans une ère plus moderne en termes de représentation des races et des sexes.

Mais même dans les films, qui étaient censés être beaucoup plus progressistes que leurs prédécesseurs, il y a eu quelques dérapages en cours de route.

La galaxie est peut-être très, très lointaine, mais le film ne date pas d’hier.

Un exemple frappant de sexisme étonnamment persistant dans l’univers Disney est le film Star Wars de 2016, Rogue One. Bien sûr, il y a un héros féminin au centre du film, plutôt qu’un jeune homme qui essaie de se trouver et d’entrer dans sa destinée en puisant dans le pouvoir de la Force. Il y avait même des femmes aviateurs parmi les rebelles.

Mais avez-vous remarqué quelque chose ? Chacun des scientifiques et des ingénieurs apparaissant dans le film était un homme.

Le père du protagoniste était le scientifique principal, à la tête d’une équipe d’ingénieurs masculins. Même si Disney n’était pas prêt à permettre à la mère de notre héroïne d’être une scientifique (je ne sais donc pas pourquoi ils ne l’ont pas fait), les producteurs auraient pu au moins inclure quelques femmes dans le groupe d’ingénieurs. Mais ils ne l’ont pas fait, et cet oubli évident devrait faire rougir les producteurs de Disney.

Donc, si l’outil d’IA saisit ce qui est évident pour toute personne qui en a conscience, à savoir que les rôles ne sont pas forcément genrés et qu’on ne peut pas s’en tirer en supposant que tous les ingénieurs et les scientifiques sont des hommes simplement parce qu’on a créé un rôle principal féminin fort, ce serait une bonne chose pour le film.