GEAB 179

Mihai Nadin, professeur émérite de l’université Ashbel Smith, université du Texas à Dallas. Sa carrière s’étend de l’ingénierie, aux mathématiques, en passant par la technologie numérique, la philosophie, la sémiotique, la théorie de l’esprit et les systèmes d’anticipation. Il est titulaire de diplômes d’études supérieures en génie électrique et en informatique, ainsi que d’un diplôme postdoctoral en philosophie, logique et théorie des sciences. Son prochain ouvrage s’intitule Disrupt Science : The Future Matters (Springer, 12 décembre 2023).

Dans cet article, il met en perspective les réalisations spectaculaires des modèles d’IA et la consommation de ressources nécessaire pour y parvenir. Ce qui l’amène à formuler la définition suivante : les entités artificielles pourraient légitimement prétendre à l’intelligence si, en exécutant une tâche, elles consommaient autant d’énergie ou moins, et autant de données ou moins, qu’une entité vivante effectuant la même tâche.

Étant donné que, depuis peu, vous pouvez parler à votre Chat GPT (ce qui signifie une interface plus intuitive avec la technologie GPT) – ce que l’on appelle l’IA générative – certains se demanderont si c’est prometteur ou dangereux. Ce qui manque, c’est la question plus large : quelles sont les conséquences pour notre civilisation ? C’est en fait la question que je me suis posée depuis mon propre engagement dans l’IA, qui remonte à sa première vague de succès (et à la traversée des périodes creuses qui ont suivies). Je ne revendique pas de contribution spécifique, mais étant donné mon implication dans l’informatique et la sémiotique, je peux affirmer que ma perspective plus large de l’intelligence des machines et de l’apprentissage est ma contribution. Permettez-moi de la replacer dans son contexte.

Extinction ou paradis ?

L’engouement actuel pour l’intelligence artificielle est révélateur du niveau de compétence de ceux qui se trouvent dans les phares d’un objet volant qui se déplace rapidement et qui n’est pas encore identifié. Les titres vont de « Atténuer le risque d’extinction par l’IA[1]  » à la promesse d’un monde sans maladie (cancer[2], en particulier) et d’une prospérité illimitée. Plus besoin d’avocats (Dieu merci !), plus besoin de médecins, sans parler des chauffeurs routiers et des scénaristes d’Hollywood. L’IA est partout, la plupart du temps en mode furtif, et très performante dans toutes les formes de surveillance (il y en a tant).

Le MIT Sloan Executive Education déclare sans hésitation : « Le battage médiatique autour des technologies innovantes d’IA est là pour durer. Assurez-vous d’être en mesure d’en tirer parti[3]. » Comparez cette déclaration à la suivante : « Des produits bizarres générés par l’IA sont dans les magasins. Voici comment les éviter »[4]. Il existe déjà des experts en IA générative, ainsi qu’en deep fakes. Mais copier une œuvre d’art originale ou plagier un livre n’est pas la même chose que se faire passer pour quelqu’un d’autre, voire se prendre pour Dieu.

Capitaliser sur quelque chose qui pourrait éteindre l’humanité – 67% des personnes actives dans le domaine de l’IA le pensent[5] – ou qui pourrait conduire à l’expérience du paradis sur Terre – comme prétendent les démagogues en tant qu’experts de l’IA – va au-delà de la petite délinquance. Les nouvelles entreprises d’IA capitalisent des milliers de milliards de dollars, ce qui est sans précédent à tous égards. Et ce, malgré le fait que cette merveille soit la réactualisation à grande échelle des « habits neufs de l’empereur ». Les « tisseurs » du costume censés rendre le roi invisible aux yeux des stupides ou des ignorants sont des informaticiens astucieux qui surfent sur la vague du traitement des données à grande, très grande, extrêmement grande, hyper-grande échelle. Leur vision de l’intelligence, qu’ils sont censés délivrer sous forme artificielle, est dépourvue de connaissances, mais noyée dans les données. En effet, la science a été remplacée par l’action de traiter sans comprendre les données qu’elle génère.

La chimère de l’AGI

L’accent est mis sur la quantification, c’est-à-dire sur le fait d’associer des chiffres à tout. C’est l’obsession des données, au détriment de la compréhension du sens de ce qui est mesuré. L’absence de fondements scientifiques explique pourquoi l’objectif des geeks de l’IA est ce que l’on appelle l' »intelligence générale artificielle » (AGI – Artificial General Intelligence). L’illusion séduisante d’une intelligence capable de tout faire : décrire le repliement des protéines, guérir les ongles incarnés, spéculer en bourse, remplacer, conseiller les gouvernements, pratiquer la chirurgie et, surtout, sauver l’humanité, explique le financement illimité dont bénéficie ce domaine. Avec l’AGI magique – « nous en sommes si proches », affirme-t-on – plus besoin de se contenter d’instructions pour gagner aux échecs ou au jeu de Go, pour interpréter des radiographies, pour conduire ou piloter de manière autonome, pour écrire de la poésie ou pour résoudre des problèmes de mathématiques. L’humanité sauvée au prix de l’extinction de la vie sur la planète Terre? On pense au marché faustien.

En 1983, il y a tout juste 40 ans, Howard Gardner documentait une variété de types d' »intelligence » dans son ouvrage Frames of Mind : La théorie des intelligences multiples. Il y a de fortes chances que son livre ait été « aspiré » comme données d’entraînement pour le GPT ou certaines variations du modèle du transformateur. L’intelligence d’un joueur de football, d’un chanteur ou d’un violoniste, d’un peintre, d’un investisseur, d’un cordonnier (ou de quiconque fabrique des chaussures aujourd’hui en employant des robots) est différente de celle d’un programmeur. Yann LeCun, responsable scientifique de l’IA chez Meta, a fait remarquer que « les humains n’ont pas besoin d’apprendre à partir de mille milliards de mots pour atteindre l’intelligence[6]. Si rien d’autre ne vous vient à l’esprit, pensez aux bébés et aux enfants. En fait, la science, dont nous devrions déplorer l’absence dans l’IA au lieu de vouloir la réglementer, est en grande partie disponible. En bref : deux mathématiciens, Hilbert et Ackermann, ont formulé le problème dit Entscheidunsproblem : existe-t-il une machine capable de décider si une preuve mathématique particulière est juste ou fausse ? Deux des génies scientifiques de notre époque ont apporté des réponses. Turing a démontré l’impossibilité de construire une telle machine : Aucune procédure mécanique ne peut valider une preuve mathématique. En soi, cela devrait informer ceux qui se concentrent sur l’intelligence GÉNÉRALE – l’objectif de l’AGI – qu’il s’agit, par nature, d’une chimère. Si une application – décider d’une preuve mathématique – n’est pas réalisable, oubliez l’objectif de tout faire intelligemment. Mais il y a aussi Gödel : Il existe des entités indécidables. Cela signifie que nous ne pouvons pas les décrire de manière complète et cohérente (c’est-à-dire sans contradictions). Une intelligence générale devrait être décidable. C’est aussi impossible que la quadrature du cercle, que la trisection d’un angle ou le doublement d’un cube, ou que la représentation de la racine carrée de 2 sous la forme d’une fraction rationnelle a/b, quelles que soient les nouvelles technologies développées.

L’apprentissage automatique est condamné à consommer de plus en plus d’énergie

Des applications partielles de l’intelligence artificielle sont-elles possibles ? Bien sûr, et certaines sont convaincantes. Nous vivons avec elles. Elon Musk a annoncé un essai de Neuralink pour traiter les personnes atteintes de tétraplégie (comme le regretté Stephen Hawking). Plus encore : sa réponse Grok-in à la frénésie GPT – formée sur les données de ce qui était Twitter (aujourd’hui X) – introduit le style du Hitchhiker’s Guide to the Galaxy.  Mais même dans le succès populaire, il y a de quoi s’inquiéter. Dans le modèle de calcul algorithmique par force brute par lequel l’IA est réalisée, des quantités de données de plus en plus importantes sont traitées. Il faut non seulement beaucoup de données, mais aussi beaucoup d’énergie pour y parvenir. Jusqu’à présent, les fabricants de moteurs de calcul les plus puissants, tels que Nvidia, sont ceux qui capitalisent le plus sur l’IA.

Les performances technologiques impressionnantes de l’apprentissage automatique sont, en l’absence de connaissances, condamnées à consommer de plus en plus d’énergie. Gagner une partie d’échecs au prix de l’énergie qu’une petite ville consomme en une semaine n’est pas soutenable. Une requête Chat GPT – ou, d’ailleurs, le Bard de Google ou le Bing de Microsoft – nécessite des quantités ridiculement élevées de ressources, comme l’a récemment calculé Sajjad Moazeni de l’université de Washington[7]. Aucun être vivant, du plus petit au plus grand animal, ne consomme plus d’énergie qu’il n’en faut pour obtenir ce dont il a besoin pour survivre. L’énergie consommée par la minuscule barge à queue barrée pendant la migration est acquise par le métabolisme⁸. L’intelligence, sous forme d’action anticipative, guide le vivant dans toutes ses formes d’existence connues, en acquérant ce qu’il faut pour prospérer. L’être humain va au-delà de la survie : son but est de prospérer. Malheureusement, parfois aux dépens d’autrui. Ou en empruntant à l’avenir.

Figure 1 – Comparaison de la consommation d’énergie des modèles d’IA. Source : Towards Data Science

En gardant tout cela à l’esprit, j’ai formulé un critère précis pour définir l’intelligence : Les entités artificielles pourraient légitimement prétendre à l’intelligence si, en exécutant une tâche, elles utilisaient autant d’énergie ou moins, et autant de données ou moins, qu’une entité vivante exécutant la même tâche.

Aussi spectaculaires que soient les réalisations qualifiées de l’IA, aucune ne peut être considérée intelligente, mais plutôt capable de traitement de données à haute performance – parfois appelé calcul brut. Une start-up qui ne cherche pas à traiter encore plus de données, quel qu’en soit le prix, mais plutôt à définir le minimum de données nécessaires pour atteindre l’objectif souhaité, témoignera d’une prise de conscience de la durabilité. Cette prise de conscience fait cruellement défaut dans le battage médiatique actuel.

Retrouvez la GEAB Community sur LinkedIn pour en parler !

_______________

[1]     Source : Comme exprimé par Ursula von der Leyen dans son discours sur l’état de l’Union. Commission européenne, 13/09/2023

[2]     Source : ABC News, 21/07/2023

[3]     Source : Central Nebraska Today, 02/10/2023

[4]     Source : Washington Post, 18/09/2023

[5]     Source : Central Nebraska Today, 02/10/2023

[6]     Source : Twitter – Yann Le Cunn, 28/03/2023

[7]    Source : Université de Washington, 27/07/2023

8     Sources : Gould JL, Grant Gould C (2012) Nature’s Compass : The Mystery of Animal Navigation. Princeton NJ : Princeton University Press.