Des associations appellent les réseaux sociaux à mieux combattre les dérives de l'IA

Dans ce texte adressé aux dirigeants de Meta (Facebook, Instagram, WhatsApp), X, YouTube, TikTok, Snapchat, et Reddit ces organisations appellent les entreprises à mieux identifier et sanctionner les contenus "sexistes et misogynes" présents sur leurs plateformes.

Un appel à l'action alors que la désinformation et les "deepfakes pornographiques", c'est-à-dire des images ou vidéos fausses créées par l'intelligence artificielle, se sont multipliés sur les plateformes ces dernières années.

Au moins 90% des victimes de ces contenus créés à leur insu sont des femmes, rappellent les associations, qui poursuivent: "les femmes, les personnes transgenres et les non-binaires sont tout particulièrement à risque de subir les conséquences néfastes de ces contenus façonnés par l'IA."

En conséquence, les réseaux sociaux "doivent prendre des mesures dès maintenant, afin que tout un chacun se sente en sécurité en ligne", exhorte Leanna Garfield, de l'association signataire GLAAD.

Dans leur lettre, qui sera rendue publique vendredi, les organisations exposent une douzaine de recommandations. Parmi les mesures proposées, la suspension par les réseaux sociaux des comptes récidivistes, la mise en oeuvre d'un outil tiers de détection des contenus générés par de l'IA, ou encore d'audits internes pour évaluer la lutte contre ces contenus néfastes.

Ces contenus "nous réduisent au silence en ligne, violent notre droit à contrôler notre propre image et faussent nos élections", rappelle Jenna Sherman, de l'organisation féministe américaine UltraViolet, également signataire.

Une référence au déferlement de contenus sexistes et d'allégations mensongères que connaît Kamala Harris, candidate démocrate à l'élection présidentielle américaine, depuis son entrée dans la course à la Maison Blanche.