Twitter va enquêter sur possible biais raciste de son système de prévisualisation des photos

[ad_1]

C’est une découverte qui fait désordre. Des utilisateurs de Twitter ont observé ce week-end que le système qui sélectionne la partie d’une image à afficher dans un aperçu favorisait l’affichage des visages blancs par rapport aux visages noirs. On peut s’en apercevoir sur cette comparaison entre le sénateur républicain Mitch McConnell et l’ancien président Barack Obama.

Trying a horrible experiment…

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020

Des problèmes avec la reconnaissance faciale et vocale

Interpellé, la société n’a pas tardé à réagir et à s’expliquer. Liz Kelly, membre de l’équipe de communication de Twitter a notamment indiqué à Mashable : « Notre équipe a fait des tests avant d’envoyer le modèle et n’a pas trouvé de preuve de biais raciste ou sexiste. Mais il ressort clairement de ces exemples que nous avons plus d’analyses à faire. Nous nous penchons sur cette question et continuerons de partager ce que nous apprenons et les actions que nous entreprenons. »

Ces nouvelles investigations permettront de mieux comprendre s’il ne s’agit que d’exemples isolés ou si l’algorithme reproduit cette pratique à très grande échelle. Cela ne serait en tout cas pas la première fois qu’une IA souffre d’un biais raciste. Nous vous citions notamment en mars dernier l’exemple des logiciels de reconnaissance faciale. Une étude du MIT datant d’il y a plusieurs années affirmait qu’être un homme à la peau blanche facilitait le travail de l’IA. Le taux de succès enregistré alors pour des systèmes développés par IBM et Microsoft était de 95 % pour les blancs et tombait à 77,6 % pour les noirs.

D’autres études ont également pointé ces limites, notamment au niveau de la reconnaissance vocale. Selon une étude menée par des chercheurs de l’Université de Stanford, les algorithmes ont des taux d’erreurs plus élevés lorsque les paroles sont prononcées par des afro-américains. Le soucis est d’autant plus grand que ces technologies sont désormais utilisées à grande échelle notamment sur les téléphones portables ou encore via les enceintes connectées.