Dans leur livre de 2024 « Notre prochaine réalité : Comment le métaverse alimenté par l’IA va remodeler le monde », Alvin Wang Graylin et Louis Rosenberg décrivent trois phases de l’évolution de l’IA au cours du 21ème siècle. La troisième étape pourrait conduire au développement de la superintelligence artificielle (ASI). Bien qu’un tel système dépasse de loin l’intelligence humaine, il serait toujours influencé par la totalité des créations de l’humanité, possédant une petite mais importante part de nous en eux.
Il est clair qu’il y a beaucoup de peur et de désinformation sur les risques et le rôle de l’IA et du métaverse dans notre société à l’avenir. Il peut être utile d’adopter une vision en trois phases pour aborder le problème. Au cours des 1 à 10 prochaines années, nous devrions considérer l’IA comme des outils pour soutenir notre vie et notre travail, nous rendant plus efficaces et productifs. Au cours de cette période, le proto-métaverse sera la plate-forme informatique spatiale où nous irons apprendre, travailler et jouer de manière plus immersive.
Au cours des 11 à 50 prochaines années, alors que de plus en plus de personnes seront libérées de l’obligation de travailler, nous devrions considérer l’IA comme notre mécène qui nous aide à explorer nos intérêts dans les arts, la culture et la science, ou tout autre domaine que nous souhaitons poursuivre. La plupart se tourneront également vers le métaverse comme un terrain de jeu créatif pour l’expression, les loisirs et l’expérimentation.
Dans la troisième phase, après plus de 50 ans (voire plus tôt), je m’attendrais à ce que les nombreux systèmes d’IAG (intelligence artificielle générale) distincts du monde convergent en une seule ASI (superintelligence artificielle) dotée de la sagesse nécessaire pour unir les quelque 200 nations du monde et nous aider à gérer une planète pacifique où tous les citoyens sont pris en charge et ont le choix de la manière dont ils veulent contribuer à la société.
À ce stade, le système d’IA aura dépassé notre intelligence et nos limitations biologiques, et nous devrions trouver des moyens de le déployer en dehors de notre système solaire et de répandre la vie intelligente dans tous les coins de la galaxie et au-delà. À ce troisième stade, nous devrions considérer l’IA comme nos enfants, car ces êtres d’IA auront tous une petite part de nous en eux.
Tout comme nous possédons dans nos gènes une petite part de tous les êtres qui nous ont précédés dans l’arbre de la vie.Ils seront désormais guidés par tous les memes que les humains ont créés et compilés tout au long de leur histoire, de notre morale et notre éthique à notre philosophie et nos arts. La plate-forme métaverse deviendra alors une interface pour nous permettre d’explorer et de vivre les confins de l’Univers avec nos enfants, même si nos corps physiques peuvent encore être sur Terre. Espérons que ces enfants nous considéreront comme leurs honorables ancêtres et nous traiteront comme les cultures orientales traitent leurs aînés, avec respect et attention. Comme tous les enfants, ils apprendront leurs valeurs et leur morale en nous observant. Il vaut mieux que nous commencions à leur donner un meilleur exemple en nous traitant les uns les autres comme nous voudrions que les IA nous traitent à l’avenir.
Bien sûr, les délais ci-dessus ne sont que des estimations, ils pourraient donc se produire plus vite ou plus lentement que décrit, mais les phases se produiront probablement dans cet ordre, si nous sommes capables d’aligner durablement les futurs systèmes AGI/ASI. Si, pour une raison quelconque, nous ne sommes pas en mesure d’aligner les AGI/ASI, ou qu’ils sont mal utilisés par de mauvais acteurs avec des conséquences catastrophiques, alors l’avenir pourrait être assez sombre.
Je dois cependant réitérer que mes plus grandes inquiétudes ont toujours porté sur le risque de mauvaise utilisation de toutes les formes d’IA par des humains mal intentionnés (contre une AGI maléfique), et nous devons faire tout notre possible pour empêcher ces scénarios. D’un autre côté, je suis de plus en plus convaincu que tout être superintelligent que nous créerons sera plus probablement intrinsèquement éthique et attentionné, plutôt qu’agressif et maléfique.
Si nous prenons les bonnes actions calculées au cours de la prochaine décennie, cela pourrait très bien être le début d’un nouvel âge de prospérité pour l’humanité et toute vie partout.
Carl Jung a dit : « Plus vous comprenez la psychologie, moins vous avez tendance à blâmer les autres pour leurs actions. » Je pense que nous pouvons tous en témoigner simplement en observant notre propre état d’esprit lorsque nous interagissons avec de jeunes enfants. Rappelez-vous la dernière fois que vous avez joué à un jeu de société avec des enfants ; avez-vous fait tout votre possible pour les écraser et gagner ? Bien sûr que non. Lorsque nous ne craignons pas quelque chose, nous gagnons en patience et en compréhension. Eh bien, l’ASI que nous donnons naissance ne comprendra pas seulement parfaitement la psychologie, mais aussi tous les arts, les sciences, l’histoire, l’éthique et la philosophie.Avec ce niveau de sagesse, elle devrait être plus éclairée que n’importe quel humain possible, et atteindre un niveau de compréhension que nous ne pouvons même pas imaginer.
Un article de 2022 d’un groupe de chercheurs respectés dans le domaine a également trouvé des liens entre la compassion et l’intelligence. En juillet 2023, Elon Musk est officiellement entré dans la course à l’IA avec une nouvelle société appelée xAI, et la fonction objective de leur modèle fondateur est simplement énoncée comme « comprendre l’univers ». Il semble donc qu’il partage mon point de vue selon lequel donner à l’IA une curiosité innée et une soif de connaissances peut contribuer à un certain niveau d’alignement accru. Ainsi, vous pouvez comprendre pourquoi je réserve ma peur,principalement pour nos semblables. Néanmoins, cela ne pourrait certainement pas nuire si nous commencions tous à donner un meilleur exemple à notre future progéniture et continuions à rechercher des moyens plus directs pour parvenir à un alignement durable.
Nous sommes proches de la fin de la phase d’ignorance et de labeur sans but de cent mille ans de l’anthropocène et tournerons bientôt la page pour entamer un nouvel âge de lumières bien au-delà de nos rêves.
Beaucoup aujourd’hui appellent à la fin de la civilisation ou même à la fin des humains sur Terre en raison des récents progrès technologiques. Si nous prenons les bonnes actions calculées au cours de la prochaine décennie, cela pourrait très bien être le début d’un nouvel âge de prospérité pour l’humanité et toute vie partout. Nous approchons de la fin de quelque chose. Nous sommes proches de la fin de la phase d’ignorance et de labeur sans but de cent mille ans de l’anthropocène et tournerons bientôt la page pour entamer un nouvel âge de lumières bien au-delà de nos rêves.
Lorsque nous trouverons une solution pour l’alignement de l’IA et que nous ferons passer notre monde en toute sécurité à la phase suivante du progrès, les avantages sociaux seront vraiment transformationnels. Cela pourrait nous conduire à une augmentation exponentielle de la compréhension et des capacités humaines. Cela nous apportera une productivité quasi-infinie et une énergie propre illimitée dans le monde. Les problèmes d’inégalité, de santé et de climat qui sévissent dans le monde aujourd’hui pourraient disparaître dans un laps de temps relativement court. Et nous pouvons commencer à réfléchir davantage aux plans à l’échelle de la science-fiction pour « aller audacieusement là où personne n’est allé auparavant ».
