Un jour comme les autres sur Internet, quelques femmes se sont réveillées en apprenant qu’elles étaient en vente. Il est important de noter qu’il s’agissait de femmes musulmanes. Plus important encore est le fait qu’il s’agissait de femmes musulmanes au franc-parler -:militantes, journalistes, avocates. Cela s’est produit à nouveau, six mois plus tard. Cette fois, les coupables ont été arrêtés, mais c’est tout. Pas de plus grandes conversations sur le préjudice systémique et son omniprésence dans le monde virtuel. La grande question de notre époque est donc la suivante : que signifie être une personne en ligne ?
Il semble que pour harceler ou blesser quelqu’un en ligne, le fait qu’un corps réel ne soit pas impliqué rende les choses plus faciles. En revanche, il est difficile de demander justice et de rendre des comptes parce que, là encore, un corps réel n’est pas impliqué. La deuxième question est donc la suivante : le fait d’être une personne avec des droits implique-t-il nécessairement d’avoir un corps, ou d’être incarné, à tout moment ?
Prenons l’exemple des fraudes financières en ligne. Lorsqu’un vol a lieu dans le monde virtuel, de l’argent « réel » est perdu. Dans l’ensemble, l’argent est plus incarné en ligne que les personnes. Les gens sont des images désincarnées, des textes, des pixels sur un écran. Les maîtres de la technologie définissent pour nous ce qui est réel et ce qui ne l’est pas, et le crédit l’emporte sur la conscience dans cette bataille. C’est une moralité à la carte : lorsqu’il y a préjudice, il n’y a pas de corps impliqué, donc il n’y a pas de préjudice ou de véritable auteur du préjudice. Le problème est résolu.
Au milieu de tout cela, Meta a annoncé son projet de construire un métavers. Microsoft est également d’accord avec cette idée, tout comme Disney. Un trio d’entreprises pourrait bientôt définir les termes de notre réalité en ligne. Il serait facile d’écarter cette idée comme un énième gadget technologique sans intérêt pour la majorité du monde. Mais si l’on regarde de plus près ce qu’est réellement le métavers, on peut s’interroger. Il s’agit de la réalité virtuelle, où des avatars peuvent occuper l’espace numérique, avoir des interactions, travailler et jouer comme nous, mais dans une simulation hyperréelle. En d’autres termes, la frontière entre le réel et le virtuel serait plus floue que jamais. Il n’est pas nécessaire d’avoir les moyens de s’offrir les lunettes Oculus pour accéder à cette réalité augmentée ; beaucoup diront que nous vivons déjà dans la réalité virtuelle. Le métavers n’est qu’une mise à jour supplémentaire de l’expérience utilisateur. Mais à quel prix ?
Les joueurs naviguent dans la réalité virtuelle depuis un certain temps déjà, et ont déjà expérimenté les pièges de l’occupation de l’espace dans un environnement largement non réglementé. Prenez l’expérience de cette utilisatrice en 2016, lorsqu’elle a été tripotée alors qu’elle jouait à un jeu. Les forums de discussion ont ensuite vivement débattu pour savoir s’il s’agissait d’un « véritable » harcèlement sexuel. Et pourtant, des années plus tard, un incident similaire et glaçant a eu lieu sur Horizon Worlds. « En fin de compte, la nature des espaces de réalité virtuelle est telle qu’elle est conçue pour tromper l’utilisateur en lui faisant croire qu’il se trouve physiquement dans un certain espace, que chacune de ses actions corporelles se déroule dans un environnement en 3D… Cela explique en partie pourquoi les réactions émotionnelles peuvent être plus fortes dans cet espace, et pourquoi la RV déclenche le même système nerveux interne et les mêmes réponses psychologiques », a déclaré Katherine Cross, qui mène des recherches sur le harcèlement en ligne à l’université de Washington, au MIT Technological Review.
Il y a de quoi s’inquiéter, car les mêmes entreprises qui profitent déjà de l’extraction de données sur les médias sociaux construisent le métavers sous couvert d’une meilleure expérience numérique. Quel est le modèle économique sous-jacent de la RA et de la RV ? Ces entreprises vont aspirer de plus en plus de données sur les utilisateurs, et elles vont construire davantage d’incitations pour que les gens passent plus de temps dans ces environnements », note Apar Gupta, directeur de l’Internet Freedom Foundation. Un coup d’œil aux brevets demandés par Meta en est une bonne indication. Cela signifie que les comportements polarisants qui sont autorisés sur les médias sociaux pourraient être encouragés dans la RV également, ce qui rendrait l’environnement encore plus dangereux pour les personnes vulnérables. En effet, lorsque nous entrons dans la réalité virtuelle, nous entrons dans un monde dont les règles sont définies de haut en bas.
« Nous avons à peine des protections ou des cadres adéquats pour protéger les gens contre les préjudices, en particulier les groupes marginalisés au sein des espaces numériques tels que nous les connaissons… vous avez ensuite quelque chose comme le métaverse où le problème va s’amplifier profondément », déclare Urvashi Aneja, fondateur du Digital Futures Collective. Aneja explique que le problème est multiple. Premièrement, les questions de juridiction compliqueront tout cadre de protection contre les discours de haine, les crimes ou d’autres formes de violence dans la RV. « La façon dont ces choses sont priorisées est secondaire par rapport à la métrique de l’engagement. Ce dont nous aurions besoin… c’est de règles de base et de politiques qui soient contextuelles à l’endroit où la technologie est mise en œuvre », explique Divyansha Sehgal, du Centre for Internet and Society.
La deuxième question est celle de la responsabilité. « Il devient très difficile de distinguer qui est humain, qui est un robot, ce qui est réel, ce qui est un média synthétique », ajoute Mme Aneja. Facebook a déjà contribué à nuire à la communauté d’une manière que la loi n’a pas encore rattrapée. Et pourtant, l’accent est mis sur la censure et la modération du contenu – là où la responsabilité est mince et où le problème peut « disparaître » d’un simple clic sur un bouton.
Sauf que les choses ne sont pas aussi simples. La responsabilité est plus difficile à définir dans tout environnement virtuel. Si de simples images peuvent causer tant de tort, comme l’ont montré les incidents liés à la vengeance pornographique et à l’affaire Sulli, combien de dommages supplémentaires peuvent être causés à des avatars sensibles en trois dimensions ? Il y a une « mise à jour » de la façon dont nous pouvons être incarnés en ligne, sans mise à jour correspondante de la façon dont la loi comprend cette nouvelle réalité. Nos avatars auront-ils des droits humains ? Les avatars qui portent atteinte à autrui seront-ils passibles des mêmes sanctions que ceux qui sont hors ligne ? Nous ne reconnaissons toujours pas le préjudice causé aux communautés comme une catégorie unique de préjudice sur les médias sociaux. Si c’était le cas, l’incident des « affaires Sulli » aurait été traité comme une privation systématique des droits plutôt que comme un harcèlement individuel.
Le problème est qu’actuellement, il y a une confusion sur ce que signifie l’intégrité corporelle dans la RV. La première articulation de ce problème a eu lieu en 1993, lors d’un incident d’agression sexuelle violente dans un espace de RV. Le journaliste Julian Dibbell, dans son essai « A Rape in Cyberspace », note que les faits sur ce qui s’est passé se compliquent « … pour la simple raison que chaque ensemble de faits dans la réalité virtuelle (ou RV, comme l’abrègent les locaux) est assombri par un second ensemble, qui le complique : les faits de la « vie réelle ». Et tandis qu’une certaine tension bourdonne invariablement dans l’écart entre les faits durs et prosaïques de la RL et leurs contreparties plus fluides et rêveuses de la RV, la dissonance… est frappante. »
« Les nouvelles technologies sont toujours accueillies avec une promesse haletante et excitée de techno-utopie, qui se transforme ensuite en techno-dystopie parce que nous ne prêtons pas attention à la façon dont le monde virtuel cartographie et reflète la réalité sociale », note Isha Bhallamudi, chercheuse en genre et technologie à l’Université de Californie, Irvine.
Les plates-formes sont conçues pour les castes supérieures et les Blancs – nous n’avons même pas encore de réponses pour la version analogique ou « texte » de ce problème.
Bhallamudi note que le modèle actuel des plates-formes consiste à faire peser sur les utilisateurs la responsabilité de signaler les activités indésirables et d’assurer leur sécurité – ce qui risque d’être exacerbé dans la RV. Les modérateurs, par exemple, sont présentés comme des « intermédiaires démocratiques » dans un forum de discussion relativement peu réglementé. Mais qui modère les modérateurs ? Comme le souligne Divyansha Sehgal, du Centre for Internet and Society : des plateformes comme Discord et Steam sont connues pour accueillir des contenus et des discussions nazis de l’extrême droite, ce qui amène à s’interroger sur la signification réelle des espaces sécurisés dans un contexte où la marginalisation dans la vie réelle est facilement transposée dans le virtuel, mais où il n’en va pas de même pour les protections dans la vie réelle.
L’anonymat est un autre aspect du problème du préjudice en ligne qui rend la question de la responsabilité difficile à résoudre. « Il ne permet aucun enjeu dans une conversation et rend le discours un peu plus mauvais. L’anonymat peut être porté à un niveau supérieur dans le métavers », ajoute Sehgal. Et même si les gens peuvent compter sur l’anonymat pour se protéger, cela fait une fois de plus peser la charge de la sécurité sur les utilisateurs eux-mêmes.
« Nous devons commencer à considérer les espaces numériques comme des extensions de nos espaces analogiques, et les mêmes droits, devoirs et responsabilités qui s’appliquent aux espaces numériques doivent s’appliquer aux espaces analogiques », explique Mme Aneja. C’est particulièrement vrai pour l’Inde, note-t-elle, où la transition vers le « numérique » est poussée par le gouvernement dans le cadre du récit de la croissance du pays. Ne pas participer au numérique devient moins optionnel.
En d’autres termes, la distinction entre « réel » et « virtuel » n’est plus aussi nette – elle ne l’a jamais été. Avec l’avènement de la pandémie, une grande partie de notre vie se déroule en ligne. Pourtant, les experts notent que nous sommes très loin d’instituer les formes de protection les plus élémentaires dans l’espace numérique dont nous disposons actuellement. Nous sommes également loin de nous interroger sur les nouveaux types de vulnérabilités que le métavers pourrait engendrer, pour qu’un cadre quelconque puisse même s’appliquer. Les employés de Facebook en sont également conscients.
« Il devrait y avoir de la transparence », déclare Shweta Mohandas, du Centre for Internet and Society. « La plateforme devrait clairement informer l’utilisateur de ses droits dans le monde virtuel, des devoirs de la plateforme, du code de conduite et du mécanisme de signalement, et indiquer clairement comment les données et les interactions des utilisateurs seront traitées. »
Cependant, cela signifierait aussi récupérer la propriété de l’espace virtuel. À l’heure actuelle, le métavers est moins démocratique que la vie réelle, car il est régi par la modération du contenu plutôt que par toute forme de coopération ou de communication ouverte. Ce sont toujours les plates-formes qui décident des préjudices, et il y a très peu de place pour un processus de dialogue, quel qu’il soit, en cas de préjudice. Comme l’a noté le professeur d’études des médias et concepteur de jeux vidéo Ian Bogost, « le métavers n’a jamais été un fantasme sur la réalité virtuelle, mais juste un fantasme sur le pouvoir. »
« C’est une quasi-certitude qu’il deviendra courant », déclare Apar Gupta, directeur de l’Internet Freedom Foundation. Le problème en soi ne se limite pas à la présence ou à l’absence de lois, mais le problème beaucoup plus vaste est celui du pouvoir en soi. « La société indienne est intrinsèquement tribaliste, patriarcale, axée sur les castes, avec d’énormes inégalités économiques… Cela s’est manifesté très clairement en ligne. »
Et cela continuera à le faire, dans des proportions toujours plus grandes. « Le métavers lui-même est un endroit qui crée une dépendance, qui est violent et qui favorise nos pires impulsions… C’est une vision étrange construite à partir d’un recueil de fantasmes juvéniles, d’opportunités de marché perçues et de dystopies manifestes », écrit Brain Merchant pour Vice.
Pourtant, le métavers tient simultanément deux promesses : il rendrait les choses beaucoup plus réelles, tout en offrant une échappatoire au « vrai » réel. Si tout cela est déroutant, c’est parce que c’est censé l’être : les développeurs définissent la réalité virtuelle, elle-même une expression oxymorique, de manière nébuleuse pour susciter la curiosité et l’enthousiasme à l’égard du progrès pour le progrès.
Maya Indira Ganesh, du Cambridge Digital Humanities Lab, soutient que les affirmations selon lesquelles le métavers est « plus réel » doivent être remises en question. « Les choses qui sont arrivées aux gens sur les médias sociaux au cours des dix dernières années sont toutes réelles ».
Ce qui revient à dire que nous vivons déjà dans une réalité virtuelle : « Un endroit où il y a un certain type de projection ou d’expérience ou d’existence qui est séparé de ce que vous considérez comme matériel – que ce soit votre corps ou l’espace ou les objets. Pour les gens d’il y a 100 ans, nos vies relèvent déjà de la science-fiction », explique M. Ganesh. Les contes, le cinéma et même les discours des monarques et des dirigeants diffusés à la radio étaient tous très réels pour nous, même s’ils étaient virtuellement partagés. Il existe une perspective alléchante de fantaisie impliquant des psychés réelles, faisant de la réalité virtuelle une nouvelle bête avec laquelle il faut compter. Et pourtant, nos lois ne reflètent guère cette réalité.
Mme Ganesh propose une solution pour sortir de cette impasse : réglementer les entreprises, et non les contenus. Elle cite également la réglementation à partir de la base, plutôt qu’une approche descendante, comme une stratégie susceptible de remettre en question l’autorité qui fixe les règles des nouveaux mondes que nous habitons (et que nous habitons déjà, en fait).
Si nous prenons nos expériences, nos esprits et nos pensées au sérieux, si nous considérons que les choses que nous ne pouvons pas toucher et sentir sont aussi « réelles » que celles que nous pouvons, nous serons peut-être mieux placés pour défendre nos droits en tant que citoyens numériques plutôt que consommateurs. Beaucoup ont déjà commencé ce combat – la question est de savoir si quelqu’un nous écoute.
Adapté de The Swaddle
