Un flot de contenus étranges et générés par l’intelligence artificielle inonde Facebook, baptisé « Slop IA » par les internautes. Il s’agit d’images et de vidéos souvent bizarres, parfois dérangeantes, et aux légendes trompeuses. Jésus sur du poulet frit, une femme à vélo avec un panier rempli de bébés et de burritos – ce ne sont là que quelques exemples de ce phénomène qui pullule sur le réseau social.
Ces images, souvent accompagnées de légendes génériques sans rapport avec le contenu (« pourquoi ce genre de photo n’est jamais à la mode ? », « magnifique personnel de bord », « Scarlett Johansson » pour une image de Jésus sur le capot d’une voiture), sont généralement publiées par des pages Facebook aux noms peu inspirants.
On peut se demander quel est l’intérêt de diffuser ce type de contenu ? Deux hypothèses principales émergent :
- Attirer des victimes d’arnaques potentielles : ces images étranges pourraient servir d’appât pour identifier des utilisateurs naïfs dans les commentaires, que les escrocs pourraient ensuite tenter d’exploiter financièrement.
- Accroître l’audience des pages : en publiant du contenu qui suscite le clic, les administrateurs de ces pages chercheraient à gonfler leur audience afin de la monétiser ultérieurement.
Ces agissements posent question sur la modération du contenu par Facebook (désormais Meta). D’autant plus que ce phénomène ne date pas d’hier. Des médias spécialisés, comme 404 Media, évoquent un « internet zombie » alimenté par l’IA, où des bots interagissent entre eux.
Pourquoi Meta ne réagit-elle pas plus vigoureusement face à ce « Slop IA » ? Plusieurs hypothèses sont avancées :
- Pas de violation flagrante des règles : ces images ne contiennent pas de nudité ou d’autres éléments interdits par la charte de Facebook.
- Un certain engagement généré par le contenu : des utilisateurs commentent et interagissent avec ces publications, ce qui, d’une certaine manière, « bénéficie » à Facebook.
- Des actions ciblées contre les spams avérés : Meta ne supprime pas systématiquement les pages diffusant du « Slop IA », mais sanctionne celles qui recourent à des techniques de spam manifestes.
- La crainte de décourager la création de contenu via l’IA : Meta, qui propose ses propres outils d’intelligence artificielle (Llama 3), pourrait hésiter à bannir trop largement ce type de contenu.
- Des priorités ailleurs : face à d’autres défis, comme le développement du métavers et la concurrence d’autres plateformes, la modération de contenu sur Facebook pourrait être reléguée au second plan.
Meta n’a pas répondu aux sollicitations concernant sa politique vis-à-vis du « Slop IA ». Ce silence alimente les inquiétudes sur la capacité du géant des réseaux sociaux à endiguer la propagation de contenus trompeurs et potentiellement dangereux sur sa plateforme.
Alors que Facebook a déjà dû faire face à de multiples vagues de contenus indésirables et malveillants, le « Slop IA » apparaît comme une nouvelle illustration des défis auxquels est confrontée la modération de contenu à l’ère de l’intelligence artificielle.
