Les experts avertissent que la stratégie de modération de Meta est risquée pour les enfants et les adolescents exposés au sectarisme et au harcèlement dans Horizon Worlds.
Zach Mathison, 28 ans, s’inquiète parfois de l’hostilité dans le jeu de médias sociaux alimenté par la réalité virtuelle de Meta, Horizon Worlds. Lorsque son fils de 7 ans, Mason, explore l’application, il rencontre des utilisateurs, souvent d’autres enfants, qui crient des obscénités ou des insultes racistes.
Il est tellement inquiet à propos de son fils qu’il surveille chacun de ses mouvements en réalité virtuelle via une télévision connectée à son casque Quest. Lorsque Mathison décide qu’une pièce n’est pas sûre, il ordonne à Mason de partir. Il fréquente les forums en ligne pour conseiller aux autres parents de faire de même.
« Beaucoup de parents ne le comprennent pas vraiment du tout, alors ils laissent généralement les enfants jouer dessus », a-t-il déclaré. Il dira « si votre enfant a un Oculus, essayez de le surveiller et de surveiller à qui il parle. »
Pendant des années, Meta a soutenu que la meilleure façon de protéger les personnes dans la réalité virtuelle est de leur donner les moyens de se protéger eux-mêmes, en donnant aux utilisateurs des outils pour contrôler leur propre environnement, comme la possibilité de bloquer ou d’éloigner les autres utilisateurs. C’est une position nettement moins agressive et coûteuse que celle qu’elle adopte avec ses réseaux de médias sociaux, Facebook et Instagram, qui sont renforcés par des systèmes automatisés et soutenus par l’homme pour éradiquer les discours de haine, les contenus violents et la désinformation contraire aux règles.
Le président de Meta Global Affairs, Nick Clegg, a comparé la stratégie métaverse de l’entreprise à être propriétaire d’un bar. Si un client est confronté à « une quantité inconfortable de langage abusif », il partira simplement, plutôt que de s’attendre à ce que le propriétaire du bar surveille les conversations.
Mais les experts préviennent que cette stratégie de modération pourrait s’avérer dangereuse pour les enfants qui affluent vers Horizon Worlds, qui, selon les utilisateurs, est en proie au sectarisme, au harcèlement et au contenu sexuellement explicite. Bien qu’officiellement Meta interdit aux enfants de moins de 18 ans son application phare de réalité virtuelle, les chercheurs et les utilisateurs rapportent que les enfants et les adolescents utilisent le programme en masse, exploitent des comptes détenus par des adultes ou mentent sur leur âge.
Dans certains cas, les utilisateurs adolescents sont mal équipés pour gérer les situations délicates qu’ils trouvent dans le métaverse, selon les chercheurs. D’autres signalent que de jeunes utilisateurs harcèlent d’autres personnes de manière inappropriée alors qu’ils sont hors de la surveillance des adultes. Pendant ce temps, des recherches émergentes suggèrent que les victimes de harcèlement et d’intimidation dans la réalité virtuelle subissent souvent des effets psychologiques similaires à ceux qu’elles subiraient lors d’attaques réelles.
Les enfants « ne savent même pas qu’il n’y a pas de monstres sous le lit », a déclaré Jesse Fox, professeur agrégé à l’Ohio State University qui étudie la réalité virtuelle. « Comment sont-ils censés pouvoir comprendre qu’il y a un monstre qui utilise un avatar? »
Malgré les risques, Meta continue de présenter le métaverse à des utilisateurs de plus en plus jeunes, suscitant la colère des militants et des régulateurs de la protection de l’enfance. Après que Meta ait révélé son intention d’ouvrir Horizon Worlds aux jeunes utilisateurs, entre 13 et 17 ans, certains législateurs ont exhorté l’entreprise à abandonner le plan.
« À la lumière des antécédents d’échec de votre entreprise en matière de protection des enfants et des adolescents et d’un nombre croissant de preuves indiquant des menaces pour les jeunes utilisateurs dans le métaverse, nous vous exhortons à arrêter ce plan immédiatement », a déclaré le sénateur Richard Blumenthal (D-Conn.) et Edward J. Markey (D-Mass.) ont écrit la semaine dernière dans une lettre au directeur général de Meta, Mark Zuckerberg.
La porte-parole de Meta, Kate McLaughlin, a déclaré dans un communiqué qu’avant que la société ne mette Horizon Worlds « à la disposition des adolescents, nous aurons mis en place des protections et des outils supplémentaires pour les aider à leur offrir des expériences adaptées à leur âge ».
« Nous encourageons les parents et les tuteurs à utiliser nos outils de supervision parentale, y compris la gestion de l’accès aux applications, pour garantir des expériences sûres », a-t-elle ajouté.
Une nouvelle recherche du Center for Countering Digital Hate, un groupe de défense axé sur les entreprises technologiques, illustre certains des scénarios dangereux auxquels les utilisateurs qui semblent être des enfants sont confrontés dans le métaverse. L’étude a enregistré une litanie de conversations agressives, préjudiciables et sexuellement explicites dans des clubs de comédie virtuels, des fêtes et des simulations de tribunal, se déroulant devant des utilisateurs qui semblaient jeunes.
« Le métaverse s’adresse aux plus jeunes. Il est inévitable que les enfants y parviennent », a déclaré Imran Ahmed, PDG du Center for Countering Digital Hate. « Lorsque vous vous occupez des enfants et que vous cherchez à commercialiser leur attention, vous avez la responsabilité envers leurs parents de vous assurer que votre plateforme est sûre. »
La controverse survient alors que Meta tente de transformer la façon dont les gens interagissent grâce à sa poussée dans des royaumes virtuels immersifs connus sous le nom de métaverse. Les méta-dirigeants envisagent un avenir dans lequel les gens travailleront, joueront et feront leurs achats ensemble dans des expériences numériques qui ressemblent au monde réel, mais qui sont alimentées par des dispositifs de réalité virtuelle et augmentée.
Selon les règles de Meta, le contenu sexuellement explicite, la promotion de drogues illégales et la violence extrême sont interdits. Les utilisateurs peuvent signaler des incidents problématiques à des spécialistes de la sécurité, bloquer des utilisateurs, brouiller la voix d’utilisateurs qu’ils ne connaissent pas ou se retirer de l’expérience sociale.
Ces outils n’ont pas empêché le contenu illicite de proliférer dans le métaverse, apparaissant souvent devant des utilisateurs qui semblent être des enfants.
Des chercheurs du Center for Countering Digital Hate sont entrés dans les salles de la liste des «100 meilleurs mondes» d’Horizon Worlds – un classement déterminé par les avis des utilisateurs. Ils ont enregistré les interactions dont ils ont été témoins, triant les contenus matures ou concernant les interactions entre mineurs apparents et adultes.
Ils ont déterminé qu’un utilisateur était mineur si deux chercheurs s’accordaient à dire que la personne ressemblait à un enfant ou si l’utilisateur disait explicitement son âge.
Ils ont trouvé des utilisateurs se livrant à un jeu de sexe en groupe, qui posait des questions telles que « quelle est votre catégorie porno? » Au Soapstone Comedy Club, une utilisatrice dans la foule a répondu qu’on lui avait dit de « se taire » avec une barbe : « Je n’ai que 12 mecs, chillax. »
Au total, le groupe a enregistré 19 incidents dans lesquels il est apparu que des mineurs étaient exposés à des commentaires préjudiciables, du harcèlement ou des contenus sexuellement explicites. Sur 100 enregistrements dans Horizon Worlds, il a trouvé que 66 d’entre eux contenaient des utilisateurs qui semblaient avoir moins de 18 ans.
On ne sait pas combien d’utilisateurs contournent les restrictions d’âge de Meta ou comment la prévalence du contenu explicite dans Horizon Worlds se compare à d’autres programmes de réalité virtuelle.
« Le problème est qu’un enfant entre dans quelque chose auquel il ne veut pas nécessairement être exposé », a déclaré Jeff Haynes, rédacteur en chef des jeux vidéo et des sites Web chez Common Sense, un groupe de défense qui évalue le contenu de divertissement pour les enfants.
Haley Kremer, 15 ans, a déclaré qu’elle se tournait vers Horizon Worlds pour socialiser, en particulier avec ses mentors plus âgés, qui la guident à travers les problèmes de sa vie. C’était bien, dit-elle, d’apprendre à connaître plus de gens qui se soucient d’elle.
Mais toutes ses interactions avec les adultes dans l’application n’ont pas été aussi positives. Il y a quelques mois, un utilisateur utilisant un avatar masculin aux cheveux gris l’a approchée dans l’un des principaux hubs d’Horizon Worlds et lui a dit qu’elle était jolie. Quand elle lui a dit de rester loin d’elle, il a continué à la suivre jusqu’à ce qu’elle le bloque – une stratégie qu’elle a apprise de l’un de ses mentors.
« Je me sentais un peu bizarre », a-t-elle déclaré. « Je lui ai demandé de rester à l’écart et il ne l’a pas fait. »
La recherche naissante sur la réalité virtuelle suggère que l’expérience viscérale d’être en réalité virtuelle rend le harcèlement agressif dans l’espace similaire à une attaque dans le monde réel. Les utilisateurs disent souvent que leur corps virtuel ressemble à une extension de leur corps réel – un phénomène connu sous le nom d’incarnation dans la recherche scientifique.
« Quand quelqu’un dit qu’il a été harcelé, attaqué ou agressé en réalité virtuelle, c’est parce que tous ses systèmes biologiques ont les mêmes réactions que s’il était physiquement attaqué », a déclaré Brittan Heller, chercheur principal en démocratie et technologie à l’Atlantic. Conseil.
Et les critiques disent que l’approche du propriétaire de bar de Meta impose aux utilisateurs réguliers de réguler ces espaces virtuels immersifs – une responsabilité plus difficile à exécuter pour les jeunes utilisateurs. Et ils affirment que Horizon Worlds a été conçu par un géant de la technologie qui a de mauvais antécédents en matière de réponse à la prolifération de rhétoriques dangereuses sur ses plateformes de médias sociaux.
« Meta ne gère pas un bar. Aucun bar n’a jamais causé de génocide », a déclaré Ahmed. « Aucun bar n’a jamais été un vivier pour les prédateurs les plus dangereux du pays. Facebook a été tout cela, tout comme le métavers.
