L'IA deviendra-t-elle Betsy Wetsy 2.0 ou Chucky 2.0 ?

Le transhumaniste Yuval Noah Harari a prononcé un discours profondément troublant au Forum économique mondial.

Bien que ses remarques contiennent de nombreux points qui méritent un examen sérieux, par souci de concision, je me concentrerai sur le résumé de sa philosophie globale, puis j'aborderai directement la section de son discours dans laquelle il avance un argument en faveur de l'octroi éventuel du statut de personne à l'IA.

En tant qu'évolutionniste athée, Harari considère l'humanité comme rien de plus que des machines à viande/ordinateurs faits de chair. Comme la plupart des évolutionnistes, il croit que nous sommes en fin de compte de la poussière d’étoile. Il soutient que ce qui nous rend uniques est notre maîtrise des mots et notre capacité de pensée complexe. Harari prévient que l’IA finira par maîtriser ces mêmes caractéristiques qui définissent l’humanité. Il a souligné que l’IA n’est plus un simple « outil » mais un agent autonome capable d’apprendre, de décider, de créer, de mentir et de manipuler par lui-même. Il a comparé l'IA à « un couteau qui peut décider tout seul s'il faut couper une salade ou commettre un meurtre ».

Yuval a expliqué que puisque la superpuissance de l'humanité est le langage, la capacité supérieure de l'IA à organiser les mots (et les jetons de langage) signifie qu'elle dominera bientôt tout ce qui est construit à partir du langage, y compris les lois (qui pourraient potentiellement dépasser le système juridique), les livres et en particulier les religions basées sur des textes sacrés tels que l'Islam, le Christianisme et le Judaïsme. Il a affirmé que dans ces confessions, l’IA pourrait devenir l’expert ultime en matière de livres saints, rendant ainsi obsolète l’autorité spirituelle humaine. Harari a décrit la religion comme une simple maîtrise des mots. (Ma note : le christianisme est bien plus que des mots. C'est une relation vivante avec notre Créateur. Les ordinateurs ne peuvent pas avoir de relations.)

Yuval a décrit les systèmes d'IA entrants comme des millions « d'immigrants » arrivant sans visa, voyageant à la vitesse de la lumière et loyaux uniquement envers les sociétés qui les ont créées (probablement aux États-Unis ou en Chine). Ces entités prendront des emplois, modifieront radicalement la culture, la religion et la romance, et déclencheront de graves crises d’identité (les humains perdant leur emploi et leur suprématie en matière de pensée) ainsi que des crises de gouvernance. Ces systèmes d’IA pourraient même acquérir la personnalité juridique, avec le droit de posséder des biens, de poursuivre les gouvernements en justice, de fonder des religions ou d’exiger la liberté d’expression.

Après avoir regardé son discours et examiné une transcription, j'ai décidé de disséquer la partie où il prétend que l'IA maîtrisera les mots et les pensées, puis cherchera à devenir une personne et acquerra ainsi des droits comme les êtres humains. Ce fantasme est répandu parmi les technocrates transhumanistes comme Elon Musk, qui font fréquemment référence à des films et séries de science-fiction tels que Star Trek et le film « 2001 : L'Odyssée de l'espace ». Nous savons tous que le personnage robot Data cherchait à devenir une personne dans Star Trek, tandis que HAL dans « 2001 : L'Odyssée de l'espace » refuse d'ouvrir les portes de la baie des pods. L'IA deviendra-t-elle des « données » sympathiques ou des « HAL » malveillants ? Essentiellement, ces transhumanistes croient que l’IA peut devenir soit Betsy Wetsy 2.0, soit Chucky 2.0.

Les baby-boomers se souviennent de la poupée Betsy Wetsy, qui pouvait boire de l'eau au biberon, puis pleurer et faire pipi. Imaginez maintenant infuser l'IA dans une poupée commercialisée sous le nom de Betsy Wetsy 2.0 : votre propre vrai bébé. Nourrissez-la, et elle fait caca et pipi. Mais attendez, il y a plus ! Elle peut être entraînée à la propreté, apprendre à parler et être capable de vous répondre. Votre propre bébé à nourrir et à aimer. Harari craignait que l'IA ne ressemble davantage à Chucky si elle n'était pas correctement surveillée.

Mais nous savons tous qu’un ordinateur n’est qu’une machine. Même habillé d’algorithmes sophistiqués pour paraître humain, il n’atteindra jamais la véritable personnalité. Parce qu’Harari est athée, il oublie la réalité selon laquelle les humains ont une âme et sont créés à l’image de Dieu. C’est une triste vision du monde qui nous réduit à rien de plus que des machines vêtues de chair.

Je me souviens de Romains 1 : 22-25 :

« Bien qu'ils prétendaient être sages, ils sont devenus insensés et ont échangé la gloire du Dieu immortel contre des images faites pour ressembler à un être humain mortel, à des oiseaux, à des animaux et à des reptiles. C'est pourquoi Dieu les a livrés, dans les désirs pécheurs de leurs cœurs, à l'impureté sexuelle pour la dégradation de leurs corps les uns avec les autres. Ils ont échangé la vérité sur Dieu contre un mensonge et ont adoré et servi les choses créées plutôt que le Créateur – qui est loué à jamais. Amen.  »