Voici un scénario plausible qui pourrait bientôt se dérouler dans les métavers, ces environnements de réalité virtuelle en ligne développés rapidement par Mark Zuckerberg et d’autres entrepreneurs technologiques : Un candidat politique fait un discours devant des millions de personnes. Alors que chaque spectateur pense voir la même version du candidat, dans la réalité virtuelle, chacun voit en fait une version légèrement différente. Pour chaque spectateur, le visage du candidat a été subtilement modifié pour lui ressembler.
Pour ce faire, les caractéristiques du visage de chaque spectateur sont intégrées à celui du candidat. Les spectateurs ne sont pas conscients de la manipulation de l’image. Pourtant, ils sont fortement influencés par celle-ci : Chaque membre du public est plus favorable au candidat qu’il ne l’aurait été sans aucune manipulation numérique.
Il ne s’agit pas d’une spéculation. On sait depuis longtemps que le mimétisme peut être exploité comme un puissant outil d’influence. Une série d’expériences menées par des chercheurs de Stanford a montré qu’en modifiant légèrement les traits d’une personnalité politique inconnue pour la faire ressembler à chaque électeur, les gens évaluaient les politiciens plus favorablement.
Les expériences ont pris des photos des participants à l’étude et de vrais candidats dans une maquette de campagne électorale. Les photos de chaque candidat ont été modifiées pour ressembler à chaque participant. Les études ont montré que même si 40 % des traits du participant étaient fondus dans le visage du candidat, les participants n’étaient absolument pas conscients que l’image avait été manipulée.
Dans les métavers, il est facile d’imaginer ce type de mimétisme à grande échelle.
La manipulation émotionnelle est au cœur de toute tromperie. Les environnements de réalité virtuelle, tels que le métavers de Facebook (désormais Meta), permettront une manipulation psychologique et émotionnelle des utilisateurs à un niveau inimaginable dans les médias actuels.
Je travaille sur les problèmes de tromperie, de désinformation et d’intelligence artificielle depuis près de quarante ans, dont deux mandats en tant que responsable de programme à la Defense Advanced Research Projects Agency (DARPA). Nous sommes loin d’être en mesure de défendre les utilisateurs contre les menaces que représente ce nouveau média à venir. Dans la réalité virtuelle, les acteurs malveillants seront en mesure de porter les arts sombres séculaires de la tromperie et de l’influence à de nouveaux sommets – ou à de nouvelles profondeurs.
Les caractéristiques qui rendent les environnements de réalité virtuelle si attrayants en tant qu’environnements de communication – le sentiment d’avoir été téléporté dans un monde synthétique – peuvent également nuire à leurs utilisateurs. En matière de manipulation émotionnelle, deux caractéristiques des métavers sont particulièrement importantes : la présence et l’incarnation.
La « présence » signifie que les gens ont l’impression de communiquer directement les uns avec les autres, sans aucun type d’interface informatique. L' »incarnation » signifie que l’utilisateur a le sentiment que son avatar ou son corps virtuel est son corps réel.
Même dans l’état actuel et primitif de la réalité virtuelle, ces deux sensations sont ce qui rend la RV si puissante. Elles sont aussi ce qui rend la manipulation émotionnelle dans la RV si dangereuse.
Dans la RV, le langage corporel et les signaux non verbaux tels que le regard, les gestes ou les expressions faciales peuvent être utilisés pour communiquer des intentions et des émotions. Contrairement au langage verbal, nous produisons et percevons souvent le langage corporel de manière inconsciente.
Les environnements de réalité virtuelle permettent une interaction entre les personnes qui exploite toute la gamme de la communication humaine. L’interaction de personne à personne à cette intensité et à cette échelle n’a pas été possible dans les environnements de médias sociaux traditionnels.
C’est à la fois une bonne et une mauvaise nouvelle. Bonne, car elle permettra une meilleure communication. Terrible, parce qu’elle ouvrira les utilisateurs à toute la gamme des techniques d’influence trompeuses utilisées dans le monde physique – et à ce qui pourrait être une version virtuelle encore plus intense de ces techniques.
Les métavers ouvriront la voie à une nouvelle ère de personnalisation massive de l’influence et de la manipulation. Il fournira un ensemble d’outils puissants pour nous manipuler de manière efficace et efficiente. Plus remarquable encore sera la capacité de combiner la personnalisation individuelle et la manipulation de masse d’une manière qui n’a jamais été possible auparavant.
Les expériences virtuelles d’un utilisateur en tant qu’avatar devraient se fondre de manière transparente dans ses expériences, ses souvenirs et sa compréhension du monde physique. Cela changera presque certainement la façon dont une personne voit le monde, le comprend et s’y comporte.
Nous ne devons pas attendre que ces technologies soient pleinement réalisées pour envisager des garde-fous appropriés. Nous pouvons récolter les avantages des métavers tout en minimisant leur potentiel de nuisance.
La première étape vers la conception de ces garde-fous est de faire une étude et une évaluation complètes de la vaste littérature psychologique existante sur les utilisations et les effets de la RV, et de considérer comment elle pourrait être utilisée à des fins malveillantes et manipulatrices. Cette étude devrait décrire les types de techniques de manipulation émotionnelle qui sont possibles aujourd’hui, mais aussi examiner les techniques qui sont susceptibles d’être possibles dans des versions plus sophistiquées du métavers. Cela n’a pas été fait. Nous ne pouvons pas nous prémunir contre quelque chose que nous ne comprenons pas entièrement.
La deuxième étape consiste à développer la technologie permettant de détecter l’application de ces techniques. Par exemple, nous pourrions construire une sorte de canari émotionnel dans une mine de charbon – un personnage artificiel qui pourrait circuler dans des environnements de réalité virtuelle, détecter un large éventail de tentatives de manipulation émotionnelle et envoyer un avertissement lorsque l’une d’elles est déployée.
La société n’a commencé à s’intéresser sérieusement aux médias sociaux classiques – c’est-à-dire Facebook, Twitter et autres – que lorsque les choses sont devenues complètement hors de contrôle. Ne commettons pas la même erreur alors que les médias sociaux s’épanouissent dans les métavers.
