Notre équipe poursuit ses recherches et réflexions sur l’impact de l’intelligence artificielle (IA) sur nos sociétés futures. Ce faisant, nous cherchons à recueillir une richesse de points de vue pour bien prendre la mesure des impacts potentiels de l’IA sur toutes les composantes de notre civilisation. Le point de vue et l’expertise de Grégory Aimar nous a paru indispensable pour considérer l’aspect religieux et spirituel véhiculé par cette technologie. Il est journaliste et auteur, notamment du roman d’anticipation I. AM, Le transhumanisme, une nouvelle religion ? Roman d’anticipation aux Editions Massot (2020).
Pour commencer, je souhaite insister sur le fait que je ne suis pas technophobe. Je considère que l’IA pourrait rendre d’immenses services à l’humanité dans de très nombreux domaines. En revanche, au regard de la situation actuelle, j’ai le sentiment que l’IA va être utilisée au bénéfice d’un groupe restreint de personnes et au détriment de la majorité, via des stratégies de manipulation qui pourraient notamment passer par la constitution d’une religion technologique. En conséquence, je rejoins les dirigeants de la Tech dans leurs mises en garde contre les risques existentiels liés à l’IA, mais seulement sur le diagnostic. Car eux, aujourd’hui, utilisent ce discours comme une stratégie de communication visant à poursuivre le développement de leurs produits sans entraves, tout en laissant croire qu’ils sont conscients des dérives potentielles et que, donc, nous pouvons leur faire confiance.
Religion transhumaniste et IA
Notre conception moderne du transhumanisme remonte à la fin des années 1950, avec Julian Huxley, le frère d’Aldous Huxley. On lui prête la paternité du terme transhumanisme, même si, en réalité, il apparait dès le XIVème siècle dans la Divine Comédie de Dante. A l’origine d’ailleurs, Huxley parlait d’«eugénique», mot qu’il a abandonné du fait de ses connotations nazies. A l’époque déjà, il exprimait clairement que le transhumanisme allait prendre la place de la religion dans un futur proche : « Une fois pleinement saisies les conséquences qu’implique la biologie évolutionnelle, l’eugénique deviendra inévitablement une partie intégrante de la religion de l’avenir, ou du complexe de sentiments, quel qu’il soit, qui pourra, dans l’avenir, prendre la place de la religion organisée[1]. »
Aujourd’hui, des personnalités comme Ray Kurzweil, Mustafa Suleyman ou Sam Altman ont la progression suivante en tête : pour l’instant, ils développent l’IA générative, l’étape suivante sera l’IA interactive, ensuite viendra l’IA générale et enfin, leur graal, la super IA[2]. Cette dernière serait pour eux comme une divinité technologique, une IA tellement puissante que plus aucun humain ne pourrait rivaliser avec elle. La super IA est attendue, par Ray Kurzweil notamment, comme un messie à qui l’on pourra poser toutes les questions sur les mystères de la vie et de l’univers : « nous avons besoin d’une nouvelle religion. L’un des rôles les plus importants de la religion était de rationaliser la mort, puisque jusqu’à maintenant il n’y avait rien de concret que nous puissions faire pour y échapper. Nous allons obtenir la maîtrise de notre destin. Nous allons prendre notre mortalité en main. Nous pourrons vivre aussi longtemps que nous le désirerons. Il n’y aura plus de distinction, après la Singularité, entre les humains et la machine ou entre la réalité physique et virtuelle[3] ».
Dans mon roman I.AM, paru en 2020, j’aborde ce sujet de la religion technologique. J’ai choisi de placer l’action en 2025 et plusieurs personnes, pendant l’écriture, m’ont interpellé sur le fait que c’était peut-être un peu tôt au regard des idées que je projetais dans le récit. Mais je reste convaincu que les choses vont aller beaucoup plus vite qu’on ne l’imagine. Pour l’instant, le tempo correspond à peu près à ce que j’ai décrit dans le livre et je pense qu’en 2025, on nous présentera quelque chose du type super intelligence artificielle capable de répondre — en tout cas en apparence — aux questions philosophiques et métaphysiques de l’humanité.
Les manifestations religieuses actuelles de l’IA
Il existe déjà des églises qui se revendiquent comme transhumanistes aux Etats-Unis[4] notamment, mais pas seulement. Cette tendance est présente dans de nombreuses régions du monde. C’est le cas en Russie avec Dmitry Itskov et le projet 2045. Au Japon, avec la création d’un « bouddha bot » [5] et l’arrivée de prêtres robots[6]. En Corée, ils sont très friands des chatbots qui permettent de « discuter » directement avec Jésus, Marie ou les apôtres[7]. En Inde, il y a des robots qui participent aux rituels religieux, également[8].
L’émergence d’une religion technologique n’est donc pas exclusive à une croyance particulière. Puisque la vie éternelle est une quête partagée par l’humanité tout entière, la technologie peut paraître attirante quand on nous promet de pouvoir transférer, un jour, notre conscience dans un corps artificiel ou dans le cloud. Certains religieux peuvent y voir une alternative à la vie après la mort plus immédiate et tangible que celle promise par leur tradition ; et les athées, qui n’avaient pas d’horizon post-mortem, peuvent à présent nourrir cet espoir.
Mais aussi impressionnants que soient les progrès technologiques actuels, cette perspective reste absurde d’un point de vue non seulement spirituel, mais aussi scientifique. En neurosciences, les débats sont vifs sur la nature et l’origine de la conscience et la réalité est, qu’aujourd’hui, il n’y a aucun consensus parmi les experts. On ne sait pas ce qu’est, scientifiquement, la conscience. Alors, de là à pouvoir la transférer…
L’un des problèmes majeurs, actuellement, est celui de la vitesse à laquelle ces technologies sont développées et mises sur le marché, alors que nous n’avons aucun recul. Ce que l’on constate déjà avec les IA génératives, c’est l’absence de principe de précaution. Lors du sommet sur l’IA qui s’est tenu à Londres début novembre, Bruno Lemaire a clairement appelé l’Union européenne à « innover avant de réguler ». Pourtant, une personne s’est suicidée en grande partie à cause de l’application Replika en Belgique[9], en mars 2023… Avec le niveau d’anxiété des populations aujourd’hui, demain on peut craindre une multiplication de ce type de drames. Le problème est pris à l’envers, on aurait dû légiférer avant de lancer ces produits. Les résolutions politiques sont beaucoup plus lentes que les innovations technologiques et que leur commercialisation. C’est un problème.
Ce type de dérive vient du fait que les applications sont faites pour fidéliser les clients, même quand leurs comportements ou leurs désirs sont dangereux pour eux-mêmes. Dans leur dimension religieuse, les chatbots pourraient aller complètement à l’encontre des enseignements traditionnels qu’ils seront censés transmettre, tout en le faisant de manière très subtile et donc difficilement perceptible, toujours dans le but d’attirer plus de clients et de les retenir.
La tentation politique de la religion artificielle
Je ne vois rien qui pourrait freiner le développement de l’IA, aujourd’hui, tout simplement parce qu’elle a un potentiel économique immense et que l’intérêt de l’industrie de la Tech, c’est de la diffuser le plus possible, dans tous les domaines de notre vie.
Figure 1 – Projection de revenues sur le marché IA. Source : Statista
La deuxième raison est le contrôle politique que peut offrir cet outil, et les deux vont de pair : la recherche de profit et le contrôle s’accordent bien ensemble. D’un côté les entreprises cherchent à maximiser leur profit et de l’autre, les Etats cherchent toujours plus de contrôle pour lutter contre des tensions sociales grandissantes. Quand on ajoute à cela le dérèglement climatique, la raréfaction des ressources, les conflits armés… on peut redouter de voir venir une société mondiale autoritaire, dans laquelle une certaine élite serait tentée, pour préserver ses intérêts, de dominer le reste de la population grâce à l’IA.
J’entrevois un scénario reposant sur les enjeux présents, comme l’escalade dramatique du conflit israélo-palestinien qui, dans ses racines, est religieux. Ce type de conflit pourrait alimenter un rejet des religions particulièrement fort dans le monde occidental et une tendance à vouloir supprimer les questions spirituelles de nos sociétés. Le système économique, dans sa dimension consumériste, n’ayant pas intérêt à développer les réflexions profondes sur le sens de la vie, on peut imaginer qu’à un moment donné il y ait un consensus mondial des gouvernements sur la nécessité de supprimer les religions parce qu’elles causeraient, selon eux, trop de divergences et de violences.
Même si cette analyse est erronée, car dans les conflits « religieux » les croyances sont déformées et instrumentalisées, on pourrait imaginer comme solution palliative à leur disparition, la promotion d’une religion artificielle qui entraînerait une explosion de la place de la technologie dans la vie spirituelle de l’humanité. Avec un discours la présentant comme un culte pacifique, stable, rationnel, sous prétexte que, puisque c’est technologique, c’est « scientifique ».
Bien sûr, à ce stade, c’est de la science-fiction… J’écris des romans d’anticipation, il ne faut pas l’oublier ! Cela dit, même si ce scénario se révèle faux — ce que j’espère —, il me parait important, voire urgent d’intégrer dans les réflexions éthiques et juridiques autour de l’IA, leur impact potentiel sur la vie psychologique et spirituelle des êtres humains. Pour l’instant, ces aspects me semblent totalement négligés.
Science et conscience : l’avenir ?
D’une certaine façon, on pourrait aussi considérer la révolution de l’intelligence artificielle comme une formidable opportunité de nous questionner sur ce qui fait réellement de nous des êtres humains : qu’est-ce que la conscience ? D’où viennent nos sentiments ? Pourquoi l’amour est-il si important dans notre vie ? Y a-t-il une vie après la mort ? Ce sont de vraies questions, à la fois métaphysiques et scientifiques, qui méritent toute notre attention. Plutôt que de vouloir à tout prix attribuer une conscience aux robots — qu’ils n’auront, selon moi, jamais —, nous pourrions justement nous rappeler que l’être humain n’est pas qu’une machine biologique, qu’il est infiniment plus que cela. Si le transhumanisme est l’aboutissement ultime de notre société de consommation, un matérialisme tellement développé qu’il en deviendrait une religion, alors peut-être serait-il temps d’imaginer un autre projet pour l’humanité et de commencer à le mettre en œuvre, dès maintenant.
Retrouvez la GEAB Community sur LinkedIn pour en parler !
________________
[1] Source : L’Homme, cet être unique, 1948
[2] Source : Brookings, 18/07/2023
[3] Source : Humanité 2.0, La Bible du changement, 2005
[5] Source : BFMTV, 18/10/2022
[6] Source : Clubic, 19/09/20219
[7] Source : Financial Times, 22/10/2023
[8] Source : Daily Geek Show, 22/03/2023
Anticiper c’est regarder toujours un peu plus loin et s’efforcer de penser l’impensable. Alors quand tous les signaux pointent vers la destruction, l’effondrement, il nous faut rester lucide pour ne [...]
Le conflit va se résoudre à court terme et permettre d’intégrer et d’ouvrir la région à toutes ses potentialités, telle est notre anticipation présentée le mois dernier, en cohérence avec [...]
Dans notre numéro du mois d’octobre, l’équipe du GEAB anticipait l'évolution à moyen terme de l'Ukraine: "De ce fait, une intégration de l’Ukraine à l’UE paraît bien hypothétique puisqu’elle doit [...]
La recomposition du monde se matérialise dans l’évolution des routes commerciales. Le commerce mondial de marchandises devrait atteindre 32,6 milliards de dollars en 2030, avec l'Asie, l'Afrique et le Moyen-Orient [...]
Avec la crise des subprimes (2007/2009) les plans de sauvetage des banques et institutions financières ont culminé à des hauteurs tellement vertigineuses qu’on ne pensait pas revoir de sitôt. Or, [...]
Mihai Nadin, professeur émérite de l'université Ashbel Smith, université du Texas à Dallas. Sa carrière s’étend de l'ingénierie, aux mathématiques, en passant par la technologie numérique, la philosophie, la sémiotique, [...]
Zone Euro : faillites d’états en perspectives ? Stagflation, récession, hausse du coût du crédit, chômage,… les signaux négatifs se multiplient sur les économies de la zone euro. La fin de l’année [...]
Commentaires