Ne faites pas confiance à ChatGPT, pour l’instant

Tom Kehler travaille dans l’intelligence artificielle depuis plus de 40 ans, en tant que codeur et PDG. Il a grandi en tant qu’enfant de prédicateur et s’est lancé dans la linguistique mathématique au lycée. Après avoir obtenu un doctorat en physique, il voulait faire de la linguistique avec Wycliffe Bible Translators, mais « Dieu a continué à fermer cette porte », dit-il, et à la place, il s’est retrouvé à travailler avec le traitement du langage naturel dans l’informatique.

Il a fait un passage dans le milieu universitaire avant de rejoindre Texas Instruments en 1980, où il a commencé à travailler avec les meilleurs chercheurs en IA. Il s’est retrouvé dans la Silicon Valley, fondant et dirigeant plusieurs startups impliquant l’IA, notamment IntelliCorp et CrowdSmart.

Les développements de l’IA semblent s’accélérer : cette semaine, Microsoft a annoncé qu’il investissait 10 milliards de dollars en OpenAIqui a créé le chatbot populaire ChatGPT. L’un des meilleurs chercheurs d’OpenAI a décrit les réseaux de neurones actuels comme « légèrement conscient ». Kehler a des doutes.

Quelles étaient les questions sur l’IA dans les années 1980 lorsque vous y travailliez pour la première fois ?

« Est-ce que ça va remplacer mon travail? » Dans de nombreux cas, la réponse est oui. Nous devons penser à la formation continue – vous ne faites peut-être pas la chaîne de montage, mais vous utilisez peut-être les machines qui font la chaîne de montage. L’autre question qui se pose est cette notion de singularité [when AI outstrips humans]. La question sensible se pose. Mais je pense qu’on en est très loin.

Pourquoi y a-t-il une obsession pour l’IA sensible ?

Si vous êtes une personne incrédule, vous voulez créer quelque chose qui vous donne de l’espoir pour l’avenir. Du côté de l’IA, nous voulons quelque chose qui nous fera avoir la vie éternelle – ma conscience va aller dans l’éternité parce qu’elle est dans une machine. Je pense que cela motive certaines de ces notions d’IA généralisée, comme [Ray] L’obsession de la singularité de Kurzweil. Cela parle plus du désir humain que d’où nous en sommes en termes de progrès.

Que pensez-vous de l’ingénieur Google l’année dernière qui a dit son chatbot était devenu sensible et avait une âme ?

Je pense qu’il a passé trop de temps avec son ordinateur portable, honnêtement. Nous travaillons avec le même genre de grands modèles de langage. C’est ce qu’on appelle des modèles de transformateur. Toute ma carrière, je me suis concentré sur le traitement du langage naturel, un domaine qui existe depuis un certain temps. Tous ces modèles ont été construits en agrégeant des informations à partir de choses comme Wikipedia. C’était l’écho de l’intelligence humaine.

La façon dont ces systèmes fonctionnent, nous dirons : « C’est le nombre sept. » Nous continuons à renforcer jusqu’à ce que le réseau neuronal puisse reconnaître ce sept. Cette corrélation d’événements est au cœur du fonctionnement actuel de l’IA.

Voici un système qui va me tourner la tête : vous prenez un système vide, et il a la capacité d’apprendre le langage à la vitesse d’un enfant. La façon dont les enfants acquièrent le langage est vraiment époustouflante. Et pas seulement le langage, mais même si vous ouvrez la porte du placard, ils voient quelque chose une fois, et ils trouvent comment le faire.

Le système dont parlait cet ingénieur de Google, on lui a donné des trillions d’exemples afin d’en tirer une certaine intelligence. Il a consommé des quantités ridicules d’énergie, alors que le cerveau d’un petit enfant a besoin de la puissance d’une lampe de poche et qu’il est capable d’apprendre le langage. Nous sommes loin de ce genre d’IA générale.

Nous sous-estimons à quel point nous savons peu de choses sur le fonctionnement du cerveau. Et il y a un excès de confiance dans les outils dont nous disposons jusqu’à présent. [Computer scientist] Perle de Judée dans Le livre du pourquoi fait valoir que l’apprentissage en profondeur nous donne un niveau d’intelligence animale, qui est une corrélation entre les entrées et les données. Ça va devenir vraiment bien. C’est ce qui nous aide avec des choses sympas comme les navires qui peuvent maintenant traverser l’océan sans pilote. Ce que nous pouvons faire avec l’IA est incroyablement puissant, mais ce n’est pas la même chose que de dire que c’est maintenant un être intelligent.

Alors, où voulez-vous que l’IA aille ?

Il existe des preuves scientifiques que les problèmes que nous devons résoudre sont bien trop complexes pour une seule personne. Et nous devons utiliser l’intelligence collective pour trouver comment résoudre certains de ces gros problèmes. Je crois que l’IA peut être un énorme avantage, et non une menace, pour le développement humain.

Le nouveau chatbot AI populaire, ChatGPT—qu’est-ce qui est bien à ce sujet ?

Il met sous une forme très accessible les connaissances qui ont été captées depuis très longtemps. C’est un utilitaire très utile si vous lui posez des questions de culture générale, comme une encyclopédie. Il le présente sous une bien meilleure forme que de faire une recherche où vous allez obtenir un groupe de liens et vous devez assembler vous-même l’histoire.

Mais vous pensez qu’il a aussi des problèmes.

Il prend des apports pour construire ses connaissances. Il ne vérifie pas la valeur de vérité ou, ce qu’on appelle dans les systèmes d’information, la lignée des données. D’où viennent ces données ? Savons-nous que c’est vrai ? Il traduit le texte d’entrée en texte de sortie en fonction d’un objectif.

Disons que vous utilisez ChatGPT pour agir ou prendre une décision. Ce qui s’est passé au cours des six ou sept dernières années – au mauvais vieux temps de l’IA – l’IA a été utilisée pour manipuler les opinions des gens. Il y a eu des campagnes pour imiter la vérité mais la déformer.

Vous pouvez le faire avec quelque chose comme ChatGPT. Vous ne pouvez pas l’utiliser comme nous utiliserions la science, où nous pourrions prendre une décision basée sur la science pour créer un médicament. Il doit y avoir un processus humain pour savoir si c’est digne de confiance ou non.

Comment créer un chatbot digne de confiance ?

Si vous pensez à la façon dont les connaissances scientifiques ou les connaissances médicales ont été développées, c’est grâce à l’examen par les pairs. En tant que race humaine, nous avons considéré que cela était digne de confiance. Ce n’est pas parfait. Mais c’est ainsi que nous construisons normalement la confiance. Vous avez 12 des meilleurs chirurgiens cardiaques du monde qui disent qu’une certaine procédure est bonne, vous allez dire : « Oui, c’est probablement bien. » Si ChatGPT vous a dit de suivre cette procédure, vous feriez mieux de la faire examiner par quelqu’un, car elle pourrait être erronée.

Je pense qu’il est éthiquement essentiel que nous tenions les humains au courant du développement de la technologie de l’intelligence artificielle. Nous avons vu où les systèmes d’IA peuvent battre quelqu’un aux échecs, mais c’est un ensemble de compétences. Cela ne démontre pas qu’on peut leur faire confiance pour ce que nous, les humains, appelons la sagesse – comment vivre.

Pourquoi la véracité dans les chatbots est-elle importante pour les chrétiens ?

La foi concerne la preuve des choses qu’on espère. Quand les gens pensent que la foi n’est qu’un saut, ce n’est pas vrai. Nous avons des décisions dans la foi à cause des preuves.

Maintenant, pensez à ce qui s’est passé dans le christianisme quand il y avait de la désinformation. Cela a provoqué la fragmentation, n’est-ce pas ? Les trucs de QAnon ont commencé à se propager. L’information se propage là où sa valeur de vérité n’a pas été déterminée. Cela provoque des divisions dans les familles.

Au fond, nous devrions nous concentrer sur ce qui est vrai. Cette notion correspond aux Philippiens – ce qui est vrai, ce qui est de bon rapport, ce qui crée un plus grand bien commun. C’est le plan original du christianisme, le royaume de Dieu émergeant.

Cette conviction que nous pouvons essayer de trouver un accord et de nous rassembler est au cœur même de ce que j’ai envisagé pour l’intelligence artificielle. C’est un principe scientifique : nous avons des preuves évaluées par des pairs auxquelles nous faisons confiance et qui font avancer la science.

Vous avez soutenu que certains modèles mathématiques eux-mêmes aident à construire une IA plus fiable.

Chaque ingénieur en IA de la planète connaît les applications bayésiennes, car c’est désormais fondamental pour la plupart de l’IA. L’apprentissage bayésien trouve ses racines dans un ministre presbytérien des années 1700.

La pensée bayésienne dit : « Comment les preuves modifient-elles mes croyances ? » Je forme de nouvelles croyances basées sur des preuves. Vous pouvez utiliser des modèles bayésiens pour construire des types de systèmes intelligents beaucoup plus riches, et vous pouvez les rendre explicables. Il peut vous dire comment il a obtenu une réponse.

La foule de la Silicon Valley qui croit vraiment en la singularité – que c’est ainsi que nous allons atteindre la vie éternelle – ne se rend pas compte que beaucoup des fondements de cela ont été inventés par des gens qui avaient une foi profonde en Dieu . Je trouve cela intéressant et amusant.

Avez-vous utilisé ChatGPT ?

Je lui ai demandé d’écrire un essai sur la façon dont les grands modèles de langage détruiraient la société humaine telle que nous la connaissons. Et il fait un beau travail en disant pourquoi cela détruira la société humaine telle que nous la connaissons.

C’est une grande technologie. Je n’essaie pas de le nier, mais de dire : « Voilà jusqu’où vous pouvez aller avec. » Et j’ai un problème éthique plus profond : c’est une chose un peu dangereuse de commencer à penser que la machine est supérieure en intelligence aux humains, surtout si elle n’est basée sur aucun fondement éthique.

Vous ne voulez pas d’un automate qui commence à faire des choses et vous ne savez pas pourquoi ni comment il les fait. L’explicabilité est très importante. Il n’y a probablement pas assez d’élévation pour penser à où cela nous mène et où nous voulons le guider. Nous avons besoin de personnes qui réfléchissent profondément aux implications spirituelles.