Facebook et ses algorithmes racistes

Le New York Times a révélé qu’un algorithme de Facebook avait confondu le visage d’hommes noirs avec celui de primates. Tout est parti d’une vidéo du journal britannique le Daily Mail, intitulée « un homme blanc appelle les flics contre des hommes noirs à la marina », publiée en juin 2020. Sur celle-ci, on observe en effet des hommes noirs ayant un différend avec un homme blanc, puis un autre homme noir victime de violences policières. Et, sous la vidéo, l’algorithme a proposé à des utilisateurs de « voir plus de vidéos sur les primates », avec les options « Oui » ou « Rejeter ». C’est Darci Groves, une ancienne designer de Facebook, qui la première a signalé la chose sur Twitter, capture d’écran de l’un de ses amis à l’appui. « C’est clairement une erreur inacceptable », a réagi une porte-parole de Facebook en ajoutant : « Nous présentons nos excuses à quiconque a vu ces recommandations insultantes. » Signalons cependant que ce n’est pas la première fois que la plateforme est épinglée pour des faits de racisme, tout comme Google et Twitter. Et lorsque l’on sait que de tels algorithmes sont utilisés couramment pour les embauches et les recrutements, il y a de quoi s’inquiéter sur les préjugés de ceux qui les conçoivent et de ceux qui les utilisent.