Appen, une société cotée australienne qui propose des services pour améliorer les outils d'intelligence artificielle utilisés par de grandes sociétés, a dû présenter ses excuses aux candidats qu'elle avait contactés via des recruteurs. Les postulants devaient en effet remplir un questionnaire, comprenant leur ethnicité. Mais si la réponse était « Noir », d'autres suivaient, demandant de définir la couleur exacte – claire ou foncée, caramel ou autre... Une candidate, basée au Texas, s'en est émue et a tweeté l'information qui a fait le tour des réseaux sociaux. « En quoi est-ce que la nuance, sur la couleur de peau, peut être pertinente pour travailler, à distance, pour cette entreprise ? », s'est-elle demandé, précisant qu'elle avait abandonné l'idée de postuler pour Appen... Kerri Reynolds, responsable des ressources humaines pour Appen, a présenté ses excuses, et déclaré à la presse que la question avait été prestement supprimée du questionnaire, après l'émoi qu'elle avait causé, expliquant en outre que la question, mal formulée, visait au contraire à éliminer les biais dont les outils d'intelligence artificielle ont déjà été accusés, à savoir qu'ils ont du mal à reconnaître des visages noirs parce qu'ils ont souvent été conçus par des techies blancs... Deux ingénieurs de Google ont d'ailleurs quitté cette société en février dernier, en raison de l'impact que pourrait avoir l'IA sur des groupes déjà marginalisés, ont-ils déclaré. De même, des groupes tels que « Noirs en IA », ont décidé de refuser les financements offerts par Google. Google, selon eux, doit non seulement accroître la diversité dans ses rangs mais aussi s'assurer que les outils mis au point ne résultent pas en une nouvelle forme de discrimination.