Le comité de surveillance de Meta s’attaque aux images sexuelles de l’IA

Lecomité de surveillance de Meta est à nouveau confronté aux règles du réseau social concernant le contenugénéré par l’IA. Le comité a accepté deux affaires concernant des images explicites de personnalités générées par l’IA.

Les cas concernent des images explicites de deux personnalités publiques

Meta dispose de règles interdisant la nudité sur Facebook et Instagram. Toutefois, le comité de surveillance a indiqué dans une note qu’il souhaitait vérifier si« les politiques et les pratiques d’application de Meta sont efficaces pour contrer les images explicites générées par l’IA« . Les images générées par l’IA de célébrités féminines, de politiciens et d’autres personnalités publiques sont devenues une forme de plus en plus courante de harcèlement en ligne et ont suscité un certain nombre de propositions de réglementation. Avec ces deux affaires, le comité de surveillance pourrait pousser Meta à adopter de nouvelles règles pour lutter contre ce type de harcèlement sur sa plateforme.

Lecomité de surveillance a déclaré qu’il ne révélerait pas les noms des deux personnalités publiques impliquées dans les affaires afin d’éviter tout nouveau harcèlement, bien qu’il ait décrit les circonstances entourant chaque message.

Le premier cas concerne un post sur Instagram

La première affaire concerne un post sur Instagram qui montrait uneimage générée par l’IA d’une femme indienne nue. Le message avait été publié par un compte qui « ne partage que des images de femmes indiennes générées par l’IA ». Le message avait été signalé à Meta, mais le rapport avait été clos au bout de 48 heures sans avoir fait l’objet d’une enquête. Le même utilisateur avait fait appel de cette décision, mais l’appel avait également été classé sans être examiné. Meta a finalement retiré le message après que l’utilisateur a fait appel auprès du comité de surveillance, qui a accepté d’examiner l’affaire.

Le deuxième cas concerne un post Facebook

Le deuxième cas concerne un message posté sur Facebook dans un groupe consacré à l’art généré par l’IA. Le message en question montrait « une image générée par l’IA d’une femme nue avec un homme lui tripotant les seins ». La femme était censée ressembler à « une personnalité publique américaine » dont le nom figurait également dans la légende du message. Le message a été supprimé automatiquement parce qu’il avait été signalé auparavant et que les systèmes internes de Meta ont pu l’associer au message précédent. L’utilisateur a fait appel de la décision de suppression, mais l’appel a été « automatiquement clôturé ». L’utilisateur a alors fait appel au Comité de surveillance, qui a accepté d’examiner l’affaire.

L’objectif du Conseil de surveillance et l’implication de Meta

Dans une déclaration, la coprésidente du comité de surveillance, Helle Thorning-Schmidt, a indiqué que le comité avait abordé les deux cas à partir de pays différents afin d’évaluer les éventuelles disparités dans l’application des politiques de Meta. « Nous savons que Meta est plus rapide et plus efficace pour modérer le contenu sur certains marchés et dans certaines langues que sur d’autres« , a déclaré Mme Thorning-Schmidt. « En prenant un cas aux États-Unis et un autre en Inde, nous voulons vérifier si Meta protège toutes les femmes du monde de la même manière.

Le comité de surveillance sollicite à présent les commentaires du public pour les deux prochaines semaines et publiera prochainement sa décision, ainsi que des recommandations politiques pour Meta. Un processus similaire impliquant une vidéo trompeuse de Joe Biden a récemment conduit Meta à s’engager à baliser davantage de contenus générés par l’IA sur sa plateforme.