Des personnes noires confondues à des singes par un algorithme de Facebook. C’est le New York Times qui a révélé l’affaire ce vendredi. Le sujet suscite d’autant plus de tensions que de nombreuses organisations de la société civile accusent les réseaux sociaux et leurs algorithmes de contribuer à la division de la société américaine.

L’un de ses algorithmes de recommandation du géant de la messagerie a demandé à des utilisateurs s’ils souhaitaient voir d’autres « vidéos sur les primates » sous une vidéo d’un tabloïd britannique montrant des personnes noires, a révélé le New York Times vendredi.

La vidéo du Daily Mail, vieille de plus d’un an, est intitulée « un homme blanc appelle les flics contre des hommes noirs à la marina ». Elle ne montre que des personnes, pas de singes.

En dessous, la question « voir plus de vidéos sur les primates ? » avec les options « Oui/Rejeter » s’est affichée sur l’écran de certains utilisateurs, d’après une capture d’écran diffusée sur Twitter par Darci Groves, une ancienne designer du géant des réseaux sociaux.

« C’est scandaleux », a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l’affaire.

Conscient de la situation, Facebook présente des excuses

Facebook

« C’est clairement une erreur inacceptable. Nous présentons nos excuses à quiconque a vu ces recommandations insultantes », a réagi une porte-parole de Facebook.

« Le groupe californien a désactivé l’outil de recommandation sur ce sujet dès que nous nous sommes aperçus de ce qui se passait afin d’enquêter sur les causes du problème et empêcher que cela ne se reproduise », a-t-il précisé.

« Comme nous l’avons dit, même si nous avons amélioré nos systèmes d’intelligence artificielle, nous savons qu’ils ne sont pas parfaits et que nous avons des progrès à faire », a reconnu Facebook.