L’engouement pour l’IA générative est alimenté par la conviction que l’industrie technologique est sur la voie d’une intelligence surhumaine, semblable à celle d’un dieu.
La mission déclarée de l’OpenAI est de créer cette intelligence générale artificielle (AGI). Demis Hassabis, qui dirige les efforts de Google en matière d’IA, poursuit le même objectif.
Aujourd’hui, Mark Zuckerberg, PDG de Meta, entre dans la course. Bien qu’il ne dispose pas d’un calendrier pour la réalisation de l’AGI, ni même d’une définition exacte de celle-ci, il veut la construire. Dans le même temps, il bouleverse les choses en déplaçant le groupe de recherche en IA de Meta, FAIR, dans la même partie de l’entreprise que l’équipe chargée de créer des produits d’IA générative dans les applications de Meta. L’objectif est que les percées de Meta en matière d’IA atteignent plus directement ses milliards d’utilisateurs.
« Nous sommes arrivés à la conclusion que, pour construire les produits que nous voulons construire, nous devons construire pour l’intelligence générale », me dit Zuckerberg dans une interview exclusive. « Je pense qu’il est important de le faire savoir parce que beaucoup des meilleurs chercheurs veulent travailler sur des problèmes plus ambitieux.
Ici, Zuckerberg dit la partie silencieuse à haute voix. La bataille pour les talents de l’IA n’a jamais été aussi féroce, toutes les entreprises du secteur se disputant un bassin extrêmement restreint de chercheurs et d’ingénieurs. Ceux qui possèdent l’expertise nécessaire peuvent obtenir des rémunérations mirobolantes, de l’ordre de plus d’un million de dollars par an. Des PDG comme Mark Zuckerberg sont régulièrement sollicités pour tenter de convaincre une recrue clé ou d’empêcher un chercheur de partir chez un concurrent.
« Nous sommes habitués à des guerres de talents très intenses », explique-t-il. « Mais la dynamique est différente ici, avec plusieurs entreprises qui recherchent le même profil, [et] beaucoup de sociétés de capital-risque et de personnes qui injectent de l’argent dans différents projets, ce qui permet aux gens de se lancer facilement dans des projets différents en dehors de l’entreprise.
Après le talent, la ressource la plus rare dans le domaine de l’IA est la puissance de calcul nécessaire pour former et faire fonctionner de grands modèles. À ce sujet, Mark Zuckerberg est prêt à faire preuve de souplesse. Il m’a dit que, d’ici à la fin de l’année, Meta possédera plus de 340 000 GPU H100 de Nvidia – la puce de choix de l’industrie pour construire l’IA générative.
Des recherches externes ont évalué les livraisons de H100 de Meta pour 2023 à 150 000, un chiffre qui n’est égalé que par les livraisons de Microsoft et qui est au moins trois fois plus important que celui de tous les autres. Si l’on tient compte des Nvidia A100 et des autres puces d’IA, Meta disposera d’un stock de près de 600 000 GPU d’ici à la fin 2024, selon Zuckerberg.
« Nous avons développé la capacité de le faire à une échelle qui pourrait être plus grande que n’importe quelle autre entreprise individuelle », dit-il. « Je pense que beaucoup de gens n’en sont pas conscients.
La prise de conscience
Aucune personne travaillant sur l’IA, y compris Zuckerberg, ne semble avoir une définition claire de l’AGI ou une idée de la date à laquelle elle arrivera.
« Je n’ai pas de définition lapidaire en une phrase », me dit-il. « On peut discuter pour savoir si l’intelligence générale s’apparente à une intelligence de niveau humain, ou si elle s’apparente à une intelligence de niveau humain-plus, ou encore à une superintelligence d’un futur lointain. Mais pour moi, l’important, c’est l’ampleur de la chose, c’est-à-dire que l’intelligence comporte toutes ces capacités différentes, où il faut être capable de raisonner et d’avoir de l’intuition. »
Il considère que son arrivée éventuelle est un processus graduel, plutôt qu’un moment unique. « Je ne suis pas vraiment sûr qu’un seuil spécifique sera aussi profond ».
Comme l’explique Zuckerberg, la nouvelle orientation plus large de Meta vers l’AGI a été influencée par la sortie de Llama 2, son dernier grand modèle de langage, l’année dernière. L’entreprise ne pensait pas que la capacité de ce modèle à générer du code correspondait à la manière dont les utilisateurs se serviraient d’un LLM dans les applications de Meta. Mais il s’agit d’une compétence importante à développer pour construire une IA plus intelligente, et Meta l’a donc tout de même créée.
« L’une des hypothèses était que le codage n’était pas si important, car il n’y a pas beaucoup de gens qui vont poser des questions sur le codage dans WhatsApp », explique-t-il. « Il s’avère que le codage est en fait très important d’un point de vue structurel pour que les LLM puissent comprendre la rigueur et la structure hiérarchique de la connaissance, et qu’ils aient en général un sens plus intuitif de la logique.
Meta forme actuellement le Llama 3, qui sera capable de générer des codes. À l’instar du nouveau modèle Gemini de Google, l’accent est également mis sur des capacités de raisonnement et de planification plus avancées.
« Le Llama 2 n’était pas un modèle de pointe, mais c’était le meilleur modèle à code source ouvert », explique-t-il. « Avec Llama 3 et les suivants, notre ambition est de construire des objets qui soient à la pointe de la technologie et, à terme, les meilleurs modèles de l’industrie.
Ouvert ou fermé ?
La question de savoir qui contrôlera l’AGI est très controversée, comme l’a montré récemment la quasi-implosion d’OpenAI.
Zuckerberg exerce un pouvoir total au sein de Meta grâce à son droit de vote sur les actions de l’entreprise. Cela le place dans une position de force unique qui pourrait être dangereusement amplifiée si l’AGI était un jour réalisée. La réponse de Meta réside dans le manuel de jeu qu’elle a suivi jusqu’à présent pour Llama, qui peut – au moins pour la plupart des cas d’utilisation – être considéré comme une source ouverte.
« J’ai tendance à penser que l’un des plus grands défis sera que si vous construisez quelque chose qui a vraiment de la valeur, cela finira par devenir très concentré », explique Zuckerberg. « En revanche, si vous le rendez plus ouvert, cela résoudra un grand nombre de problèmes liés à l’inégalité d’accès aux opportunités et à la valeur. C’est donc une grande partie de la vision de l’open-source ».
Sans citer de noms, il compare l’approche de Meta à celle d’OpenAI, qui a commencé avec l’intention d’ouvrir ses modèles, mais qui est devenue de moins en moins transparente. « Il y avait toutes ces entreprises qui étaient ouvertes, qui publiaient tout leur travail et qui parlaient de la façon dont elles allaient ouvrir tout leur travail. Je pense que l’on assiste à une dynamique où les gens se rendent compte qu’il s’agit d’une chose très précieuse et qu’il ne faut pas la partager.
Alors que Sam Altman et d’autres soulignent les avantages d’une approche plus fermée du développement de l’IA en termes de sécurité, Zuckerberg y voit un jeu commercial astucieux. En attendant, les modèles qui ont été déployés jusqu’à présent n’ont pas encore causé de dommages catastrophiques, affirme-t-il.
« Les plus grandes entreprises qui ont démarré avec les meilleures idées sont aussi, dans de nombreux cas, celles qui appellent le plus à mettre en place tous ces garde-fous sur la façon dont les autres construisent l’IA », me dit-il. « Je suis sûr que certaines d’entre elles sont légitimement préoccupées par la sécurité, mais le degré d’adéquation avec la stratégie est un véritable défi. »
Zuckerberg a ses propres motivations, bien sûr. Le résultat final de sa vision ouverte de l’IA est toujours une concentration du pouvoir, mais sous une forme différente. Meta compte déjà plus d’utilisateurs que n’importe quelle autre entreprise sur terre et possède une activité de médias sociaux extrêmement rentable. Les fonctionnalités de l’IA peuvent sans doute rendre ses plates-formes encore plus attrayantes et plus utiles. Et si Meta peut effectivement normaliser le développement de l’IA en publiant ses modèles, son influence sur l’écosystème ne fera que croître.
Il y a un autre problème : si Meta parvient à développer l’IA, la décision de l’ouvrir ou non au public reviendra en fin de compte à Zuckerberg. Il n’est pas prêt à s’engager dans un sens ou dans l’autre.
« Tant que cela a un sens et que c’est la chose sûre et responsable à faire, je pense que nous voudrons généralement pencher vers l’open source », dit-il. « Il est évident que vous ne voulez pas être obligé de faire quelque chose parce que vous avez dit que vous le feriez.
N’appelez pas cela un pivot
Dans le contexte plus large de Meta, le moment choisi par Zuckerberg pour promouvoir l’AGI est un peu bizarre.
Cela fait seulement deux ans qu’il a changé le nom de l’entreprise pour se concentrer sur les métavers. Les dernières lunettes intelligentes de Meta, en collaboration avec Ray-Ban, commencent à faire leurs preuves, mais les lunettes AR à part entière semblent de plus en plus lointaines. Apple, quant à elle, a récemment validé son pari sur les casques avec le lancement de la Vision Pro, même si la RV reste une industrie de niche.
Zuckerberg, bien sûr, n’est pas d’accord avec la caractérisation de son orientation vers l’IA comme un pivot.
« Je ne sais pas comment affirmer plus clairement que nous continuons à nous concentrer sur Reality Labs et le métavers », me dit-il, soulignant le fait que Métavers dépense toujours plus de 15 milliards de dollars par an pour cette initiative. Ses lunettes intelligentes Ray-Ban ont récemment été dotées d’un assistant visuel d’IA capable d’identifier des objets et de traduire des langues. Il pense que l’IA générative jouera un rôle plus important dans les efforts de Meta en matière de matériel à l’avenir.
Il entrevoit un avenir dans lequel les mondes virtuels seront générés par l’IA et remplis de personnages d’IA qui accompagneront des personnes réelles. Il affirme qu’une nouvelle plateforme sera mise en place cette année pour permettre à chacun de créer ses propres personnages d’IA et de les distribuer dans les applications sociales de Meta. Peut-être, suggère-t-il, ces IA seront-elles même capables de publier leur propre contenu sur les fils d’actualité de Facebook, Instagram et Threads.
Meta est toujours une entreprise de métavers. C’est la plus grande entreprise de médias sociaux au monde. Elle essaie maintenant de construire l’AGI. Zuckerberg articule tout cela autour d’une mission primordiale : « construire l’avenir de la connexion ».
Jusqu’à présent, cette connexion s’est faite essentiellement par l’interaction entre les humains. En discutant avec Zuckerberg, il est clair qu’à l’avenir, il s’agira de plus en plus d’humains qui parleront aussi à des IA. Il est évident qu’il considère cet avenir comme inévitable et passionnant, que nous soyons prêts ou non.
