Sur Facebook, des vidéos générés par IA montrent des enfants victimes de violences extrêmes. Meta affirme les supprimer, mais l’enquête de Futurism montre que la modération est au mieux très molle, au pire inexistante.

Une machine à clics sans scrupules.

Une enquête de Futurism révèle que Facebook héberge un grand nombre de vidéos générées par IA montrant des enfants victimes de violences extrêmes : coups, enfermement, privation de nourriture, menaces, tortures et scènes à caractère raciste et esclavagiste.

Ces contenus, produits en série, récoltent des milliers de réactions. Certains internautes les prennent pour des images réelles, condamnent les adultes des vidéos ou réclament des suites judiciaires.

Meta affirme interdire les images de violences faites aux enfants, y compris lorsqu’elles sont artificielles, et assure avoir supprimé les vidéos signalées. Le test mené par les journalistes est pourtant accablant : sur huit comptes rapportés, seuls deux ont finalement été fermés, parfois plus d’une semaine après le signalement. D’autres pages contenant des scènes particulièrement sordides sont restées accessibles.

Meta dispose bien des moyens techniques pour détecter ces contenus. Les journalistes ont détecté des centaines de comptes similaires. L’offre semble inépuisable, les auteurs de ces contenus les mettant en ligne aussi vite que les journalistes parvenaient à les identifier. C’est une industrie.

L’entreprise investit parallèlement des sommes vertigineuses dans l’intelligence artificielle et la « superintelligence ». Le problème ne serait donc pas l’absence d’outils, mais leur usage très sélectif… qui leur permettrait d’augmenter leur audience, donc leur chiffre d’affaires.