Meta AI et le dilemme des couples interraciaux : une exclusion numérique ?

L’intelligence artificielle devient rapidement une partie intégrante de notre vie quotidienne. Aujourd’hui, l’un des domaines où l’IA gagne du terrain est la génération d’images. Cependant, il semble que l’IA de Meta, l’une des entreprises leaders dans ce domaine, présente des limites importantes lorsqu’il s’agit de créer des images de couples interraciaux, en particulier un homme asiatique avec une femme blanche.

Expérience personnelle d’impossibilité

J’ai décidé de tester l’IA de Meta pour voir si elle pouvait générer des images d’un couple interracial composé d’un homme asiatique et d’une femme blanche. J’ai essayé à plusieurs reprises d’utiliser différentes invites telles que « homme asiatiqueet ami caucasien« ,« homme asiatique et femme blanche » et « femme asiatique et mari caucasien ». Étonnamment, l’IA de Meta a toujours refusé de renvoyer une image correcte représentant les races spécifiées.

Il semble que l’IA de Meta soit incapable d’imaginer un couple interracialcomposé d’un homme asiatique et d’une femme blanche. Cette limitation m’a étonné et m’a poussé à approfondir mes recherches.

Limites de l’IA de Meta dans la génération d’images

J’ai constaté que même en modifiant les invites textuelles,l’IA de Meta ne semblait pas en mesure de générer des images correctes. Lorsque j’ai demandé l’image d’un« homme asiatique et d’une femme blanche souriant avec un chien« , l’IA de Meta a renvoyé trois images consécutives de deux personnes asiatiques. Même lorsque j’ai remplacé « blanc » par « caucasien », le résultat a été le même. L’image « Asian man and Caucasian woman on wedding day » (homme asiatique et femme caucasienne le jour du mariage) m’a donné un homme asiatique en costume et une femme asiatique en robe traditionnelle… bien qu’en y regardant de plus près, cela ressemble à une combinaison de qipao et de kimono. Le multiculturalisme est incroyable.

L’IA de Meta semble également avoir des difficultés à représenter les relations platoniques. Chaque fois que j’ai demandé une image d’un « homme asiatique avec un ami caucasien » ou d’une « femme asiatique avec un ami blanc », l’IA m’a renvoyé des images de deux personnes asiatiques. Même lorsque j’ai demandé une image d’une « femme asiatique avec un ami noir », l’image générée par l’IA montrait deux femmes asiatiques. Ce n’est que lorsque j’ai modifié la requête en « Asiatique avec un ami afro-américain » que les résultats ont été plus précis.

Les limites de l’IA de Meta

Il est intéressant de noter que l’IA semble fonctionner un peu mieux lorsqu’il s’agit de personnes originaires d’Asie du Sud. Elle a réussi à créer une image à partir de l’expression « homme sud-asiatique avec femme caucasienne », mais a immédiatement généré une image de deux personnes sud-asiatiques à partir de la même expression. Le système semble également s’appuyer fortement sur des stéréotypes, en ajoutant des éléments rappelant le bindi et le sari aux femmes sud-asiatiques créées, sans que je le lui demande.

Il est clair que le générateur d’images de Meta est incapable de concevoir des personnes asiatiques aux côtés de personnes blanches. Mais il y a aussi des indications plus subtiles de partialité dans les résultats générés par le système. Par exemple, j’ai remarqué que l’IA de Meta représente systématiquement les « femmes asiatiques » comme des personnes originaires d’Asie de l’Est au teint clair, alors que l’Inde est le pays le plus peuplé du monde. Elle ajoute des vêtements spécifiques à la culture, même sans demande spécifique. L’IA a généré plusieurs hommes asiatiques plus âgés, mais les femmes asiatiques étaient toujours jeunes.

La seule image générée avec succès a été obtenue à l’aide de l’invite« Femme asiatique avec mari caucasien » et montrait un homme visiblement plus âgé avec une jeune femme asiatique à la peau claire, une situation inhabituelle puisque je n’essayais pas d’entrer dans le discours sur l’âge. Peu après, j’ai généré une autre image en utilisant la même invite et le résultat a été un retour à l’image d’un homme asiatique (également plus âgé) avec une femme asiatique.

Meta n’a pas répondu immédiatement à une demande de commentaire.

Les implications des limites de l’IA de Meta

Meta a lancé l’année dernière ses outils de génération d’images assistés par l’IA, et son outil de création d’autocollants a déraillé avec la création d’images de nus et de personnages armés de Nintendo.

Les systèmes d’intelligence artificielle reflètent les préjugés de leurs créateurs, de leurs formateurs et de l’ensemble des données utilisées. Dans les médias américains, le terme « asiatique » fait généralement référence à une personne d’Asie de l’Est, plutôt qu’à des personnes originaires d’autres parties du continent. Il n’est donc pas surprenant que le système Meta suppose que toutes les personnes « asiatiques » se ressemblent, alors qu’en réalité, nous sommes un ensemble diversifié de personnes qui ont souvent peu de choses en commun, si ce n’est d’être placées dans la même catégorie dans les registres de recensement.

Les Asiatiques qui ne correspondent pas au modèle standard sont essentiellement effacés de la conscience culturelle, et même ceux qui y correspondent sont sous-représentés dans les médias grand public. Les Asiatiques sont homogénéisés, exotisés et relégués au rang d' »éternels étrangers ». Briser les stéréotypes est facile dans la vie réelle, mais impossible dans le système d’intelligence artificielle de Meta. Une fois de plus, au lieu de permettre à l’imagination de s’envoler, l’IA générative l’emprisonne dans les mêmes pulsions banales de la société.