L'historien Yuval Harari prévient que l'IA prendra le contrôle de la religion, du droit et de l'emploi

Cela pourrait se produire dans les deux prochaines années ou dans la prochaine décennie, mais le célèbre historien Yuval Noah Harari estime que l’intelligence artificielle est déjà si avancée et si profondément ancrée dans la société que tout ce qui est fait de mots, comme les religions comme le christianisme et le judaïsme, sera pris en charge par l’IA.

Dans un sévère avertissement adressé aux dirigeants du monde entier lors du Forum économique mondial de Davos, en Suisse, mardi, Harari a déclaré que l'IA ne devait pas être confondue avec un outil mais plutôt comme un agent de réflexion capable de créer de nouvelles choses et de prendre des décisions qui laisseraient probablement l'humanité dans une crise d'identité dans les années à venir.

« Nous pensons toujours que nous pouvons simplement utiliser ces choses comme des outils. Mais s'ils peuvent penser, ils sont des agents », prévient Harari, chercheur distingué à l'Université de Cambridge au Centre pour l'étude du risque existentiel. Il est également maître de conférences au département d’histoire de l’Université hébraïque de Jérusalem et co-fondateur de Sapienship.

« Auparavant, tous les mots, toutes nos pensées verbales provenaient d'un esprit humain. Soit mon esprit, je pensais cela, soit je l'ai appris d'un autre humain. Bientôt, la plupart des mots dans notre esprit proviendront d'une machine », a-t-il déclaré. « Je viens d'entendre aujourd'hui parler d'un nouveau mot que les IA ont inventé elles-mêmes pour décrire nous, les humains. Ils nous appellent les observateurs. … Les IA seront bientôt à l'origine peut-être de la plupart des mots dans notre esprit. Les IA produiront en masse des pensées en assemblant des mots, des symboles, des images et d'autres jetons linguistiques dans de nouvelles combinaisons. »

Lors d'une session du forum intitulée « Une conversation honnête sur l'IA et l'humanité », Harari a déclaré dans une brève présentation et discussion modérée par la neuroscientifique britannique et vice-chancelière de l'Université d'Oxford, Irene Tracey, qu'en raison de la capacité exponentielle de l'IA à traiter, créer et manipuler des mots, la survie de l'identité humaine sera probablement déterminée par la valeur que la société accorde aux sentiments non verbaux et à la sagesse.

« La question de savoir si les humains auront encore une place dans ce monde dépend de la place que nous accordons à nos sentiments non verbaux et à notre capacité à incarner une sagesse qui ne peut être exprimée par des mots. Si nous continuons à nous définir par notre capacité à penser avec des mots, notre identité s'effondrera », a déclaré Harari.

Au début de sa présentation, Harari a expliqué pourquoi l'IA ne devrait pas être traitée comme un outil.

« Il y a une question à laquelle chaque dirigeant doit répondre aujourd'hui à propos de l'IA. Mais pour comprendre cette question, nous devons d'abord clarifier quelques points sur ce qu'est l'IA et ce que l'IA peut faire. La chose la plus importante à savoir sur l'IA est qu'elle n'est pas simplement un outil parmi d'autres. C'est un agent », a-t-il déclaré.

« Elle peut apprendre et changer par elle-même et prendre des décisions par elle-même. Un couteau est un outil. Vous pouvez utiliser un couteau pour couper une salade ou assassiner quelqu'un, mais c'est à vous de décider quoi faire avec le couteau. L'IA est un couteau qui peut décider par elle-même de couper la salade ou de commettre un meurtre. »

Harari a déclaré que l’IA peut également mentir, manipuler et penser, si la définition de la pensée « signifie mettre de l’ordre dans les mots et autres éléments du langage ».

« Si penser signifie réellement mettre de l'ordre dans les mots et d'autres éléments du langage, alors l'IA peut déjà penser bien mieux que de nombreux humains. L'IA peut certainement proposer une phrase comme l'IA pense, donc l'IA suis », a-t-il expliqué, reliant comment la capacité de l'IA à penser en utilisant des mots la conduira à prendre le contrôle de certaines religions et de certains systèmes juridiques.

« Si les lois sont faites de mots, alors l'IA prendra le contrôle du système juridique. Si les livres ne sont que des combinaisons de mots, alors l'IA prendra le contrôle des livres. Si la religion est construite à partir de mots, alors l'IA prendra le contrôle de la religion. Cela est particulièrement vrai des religions basées sur des livres comme l'Islam, le Christianisme ou le Judaïsme », a-t-il déclaré.

« Le judaïsme s'est appelé la religion du livre et il accorde l'autorité ultime non pas aux humains mais aux mots dans les livres. Les humains ont de l'autorité dans le judaïsme non pas à cause de leurs expériences mais seulement parce que nous apprenons des mots dans les livres. Désormais, aucun humain ne peut lire et se souvenir de tous les mots de tous les livres juifs. Mais l'IA peut facilement le faire. Qu'arrive-t-il à une religion du livre lorsque le plus grand expert du livre saint est une IA ?  » il a demandé.

Harari déclare que, alors que le monde est aux prises avec d’importantes discussions sur l’immigration, les pays « seront bientôt confrontés à une grave crise d’identité ainsi qu’à une crise d’immigration » en raison des progrès de l’IA.

« Cette fois, les immigrants ne seront pas des êtres humains arrivant dans des bateaux fragiles sans visa ou essayant de traverser une frontière au milieu de la nuit. Les immigrants seront des millions d'IA qui peuvent écrire des poèmes d'amour mieux que nous, qui peuvent mentir mieux que nous et qui peuvent voyager à la vitesse de la lumière sans avoir besoin de visa », a soutenu Harari.

« Comme les immigrants humains, ces immigrants IA apporteront divers avantages. Nous aurons des médecins IA pour nous aider dans nos systèmes de santé, des professeurs IA pour aider dans nos systèmes éducatifs, et même des gardes-frontières IA pour arrêter les immigrants humains illégaux. Mais les immigrants IA apporteront également avec eux des problèmes », a-t-il poursuivi.

Il a expliqué que les citoyens de nombreux pays craignent souvent que les immigrants puissent prendre un emploi, changer de culture ou se montrer politiquement déloyaux.

« Je ne suis pas sûr que ce soit vrai pour tous les immigrants humains, mais ce sera certainement vrai pour les immigrants IA. Les immigrants IA occuperont de nombreux emplois humains. Les immigrants IA changeront complètement la culture de chaque pays. Ils changeront de religion et même de romance », a-t-il déclaré.

Selon lui, dans toutes les juridictions mondiales, les sociétés, les rivières et même les dieux ont été reconnus comme des personnes morales. Il s’est demandé si cela se produirait également avec le temps.

« Voulons-nous autoriser cela ? Votre pays reconnaîtra-t-il les IA en tant que personnes morales ? Et si d'autres pays le faisaient ? Supposons que votre pays ne veuille pas reconnaître les IA en tant que personnes. Mais les États-Unis, au nom de la déréglementation de l'IA et de la déréglementation des marchés, accordent une reconnaissance juridique, une personnalité juridique à des millions d'IA qui commencent à diriger des millions de nouvelles entreprises », a-t-il déclaré.

« Supposons que certaines personnes IA créent une nouvelle religion, qui gagne la foi de millions de personnes ? Cela ne devrait pas paraître trop exagéré car, après tout, presque toutes les religions précédentes de l'histoire ont affirmé qu'elles avaient été créées par une intelligence non humaine », a-t-il poursuivi. « Maintenant, votre pays va-t-il étendre la liberté de religion à la nouvelle secte AI et à ses prêtres et missionnaires IA ?

Harari affirme que les IA fonctionnent comme des personnes fonctionnelles depuis une décennie et suggère que le moment est venu pour les pays d'agir pour réglementer l'influence de l'IA.

« Votre pays permettra-t-il aux personnes IA d'ouvrir des comptes sur les réseaux sociaux, de jouir de la liberté d'expression, sur Facebook, sur TikTok et d'être amicales avec les enfants ? Bien sûr, cette question aurait dû être posée il y a 10 ans. Sur les réseaux sociaux, les robots IA fonctionnent comme des personnes fonctionnelles depuis au moins une décennie. Si vous pensez que les IA ne devraient pas être traitées comme des personnes sur les réseaux sociaux, vous auriez dû agir il y a 10 ans », a-t-il déclaré.

« Dans dix ans, il sera trop tard pour que vous décidiez si les IA doivent fonctionner en tant que personnes sur les marchés financiers, dans les tribunaux, dans les églises. Quelqu'un d'autre l'aura déjà décidé à votre place. Si vous voulez influencer la direction que prend l'humanité, vous devez prendre une décision maintenant. »