L’intelligence artificielle générative (GenAI) fait figure d’innovation révolutionnaire. Pourtant, à l’heure où les organisations explorent les vastes potentialités des modèles de langage dit « large language models » (LLM) et autres outils GenAI, une prise de conscience s’opère : ces technologies requièrent une utilisation prudente et experte pour éviter des conséquences néfastes.
En dépit de l’enthousiasme initial, il est clair que la GenAI ne représente qu’un élément de l’avenir. Livrée à elle-même,elle risque de créer une dystopie « enshittifiée » (terme désignant la dégradation progressive des plateformes numériques) plutôt que l’idyllique paradis humain tant espéré.
En effet, la principale contribution des LLM actuels réside dans la création facile et massive de contenu générique et peu original. Ces modèles excellent à reproduire un style humain en recombinant du contenu existant. Pire encore, ils peuvent répliquer des productions d’autres LLM, aboutissant à un cauchemar cyclique de contenus plausiblement sonnants mais de plus en plus déconnectés de la réalité à chaque nouvelle génération.
Pourtant, des études révèlent une meilleure performance des consultants utilisant la GenAI pour la génération d’idées sur divers sujets. Il convient toutefois de rester vigilant : un recours excessif à l’IA peut conduire les travailleurs à « somnoler au volant », omettant des aspects cruciaux du résultat généré qu’une attention plus soutenue aurait pu leur permettre de repérer.
Au-delà de ces limites, la GenAI ne brille pas nécessairement dans tous les domaines. Elle présente d’importantes lacunes en mathématiques et n’est certainement pas adaptée à l’analyse agrégée de données, terrain de prédilection des statistiques traditionnelles. De plus, les hallucinations sont fréquentes chez les LLM, qui inventent des informations en conservant leur style habituellement sûr et convaincant. Comment déceler le faux du vrai ? Sauf vérification minutieuse (toujours indispensable), c’est impossible.
Le capital-risque a tendance à s’enflammer pour les technologies en vogue comme la GenAI, créant des bulles où des entreprises sans produit fini et sans chiffre d’affaires se voient attribuer des millions de dollars. Évidemment, nombre d’entre elles, voire la quasi-totalité, échoueront. Dans ce secteur bouillonnant, les investisseurs commencent à se lasser des valorisations exorbitantes.
La solution consiste à ne pas voir la GenAI comme un marteau et chaque problème comme un clou. Quels sont vos objectifs concrets ? La GenAI peut-elle y contribuer ? Commencez par définir clairement vos besoins avant de vouloir « génAI-fier » tout et n’importe quoi. La plupart des cabinets de conseil utilisent la GenAI comme générateur d’idées, une application judicieuse et évidente.
Son potentiel ne s’arrête pas là. Vous pouvez par exemple lui fournir un corpus de textes (documents, pages web, etc.) et lui poser des questions sur ce matériel. Il est même possible de lui confier une échelle d’évaluation afin de noter des informations et ainsi transformer des données qualitatives en données quantitatives. Or, 20 % seulement des informations mondiales sont chiffrées ou structurées. La GenAI permettrait d’étudier les 80 % restants (données non structurées) de manière objective et scientifique, ouvrant ainsi une voie royale vers une compréhension plus objective de notre monde.
Les actualités révèlent régulièrement de nouvelles vulnérabilités liées aux LLM, notamment des biais et des possibilités de manipulation. Cela suscite naturellement des hésitations quant à leur utilisation à grande échelle dans les applications commerciales. Cette situation n’est pas temporaire : ces modèles plus sophistiqués, de plus en plus difficiles à appréhender, continueront à présenter des points faibles. Il incombera aux chercheurs de continuer à identifier et documenter ces vulnérabilités afin que les ingénieurs puissent les réduire ou les atténuer.
Face à cette réalité, les entreprises doivent être capables d’utiliser ces outils en dépit des risques. Pour plus de simplicité,privilégiez la surveillance des résultats. Ne vous focalisez pas sur le « comment » mais sur le « quoi ». Le seul moyen sûr d’exploiter des outils complexes que nous ne comprenons pas parfaitement est de surveiller en permanence leur fonctionnement. Cette surveillance diffère de l’audit, qui n’offre qu’une évaluation à un instant T. Il s’agit ici d’un processus continu permettant de détecter à tout moment les éventuels dérapages d’une solution algorithmique.
Prendre conscience du caractère puissant mais limité de la GenAI est essentiel. Mettre en place des processus de surveillance ne sera pas facultatif si vous souhaitez employer ces outils et d’autres technologies avancées pour améliorer votre organisation et le monde qui nous entoure.
