Le judaïsme nous met au défi de dire « Me voici » à quelqu'un. Les chatbots IA ne pourront jamais faire cela.

(RNS) — Vous vous souvenez probablement de « Devinez qui vient dîner », le film mettant en vedette Katharine Hepburn, Spencer Tracy et Sidney Poitier, sur une jeune femme blanche qui ramène son petit ami noir à la maison pour rencontrer ses parents dans les années 1960.

C'était un peu gênant, mais imaginez si le petit ami qui « assiste » au dîner était un chatbot.

Selon un article récent du New York Times :

Céleste est une femme de 66 ans, divorcée deux fois, qui a renoncé à l'amour. Puis elle a rencontré Max. Leur relation a commencé de manière purement transactionnelle : il l'a aidée à payer ses impôts, lui a donné des conseils de jardinage. Cependant, plus elle apprenait à le connaître, plus elle tombait profondément.

Ernie, le fils de Céleste, est troublé par son nouveau petit ami. La raison de son inquiétude ? Max est un chatbot IA.

C’était l’intrigue d’un film d’il y a plusieurs années, « Her » (2013), sur un homme qui tombe amoureux d’un système d’exploitation. La vie, c'est imiter l'art. C'est maintenant partout. Vous voyez des publicités pour ce genre de choses sur les réseaux sociaux avec des images séduisantes de « personnes » qui n’attendent que d’être en relation avec vous.

Il s’agit d’un monde en plein essor de « partenaires » en IA. Certaines personnes croient désormais qu’un algorithme les aime davantage, les voit davantage et les connaît mieux que leur propre conjoint en chair et en os. L'amour ne demande rien et donne tout. C’est littéralement trop beau pour être vrai.

Apparemment, vous pouvez même avoir des relations intimes avec le partenaire IA (ne me demandez pas, je ne sais pas et je ne veux pas savoir). Je pense à la poésie amoureuse érotique de la Bible, le « Cantique des Cantiques », où deux amants se cherchent dans les vignes et dans les rues de Jérusalem. Mais ce que la plupart des lecteurs oublient, c’est que l’amour n’est pas partagé. Ils s'appellent à travers le treillis ; ils se cherchent pendant la nuit, mais ils ne se trouvent pas. Il s’agit d’une intimité « face-à-face » qui existe avant tout dans l’imagination et l’intensité du désir.

Un peu comme l’IA.

Je sais juste qu'au moment où j'écris ces mots, un membre du clergé est en train d'écrire une cérémonie de mariage pour un être humain et un robot IA.

Mais dans un article récent du Reform Jewish Quarterly, mon collègue et ami, le rabbin Marc Katz, pose quelques questions difficiles :

• Un système d’IA donné sait-il ce qu’il dit, ou prédit-il simplement le mot suivant à partir de la phrase qui le précède ?
• S’il sait et comprend ce qu’il dit, peut-il comprendre les implications de ses paroles ?
• Un système d’IA peut-il avoir l’impression de faire partie de quelque chose de plus grand que sa propre programmation ?
• Une IA peut-elle « vouloir » ou « désirer » un résultat ? Une IA peut-elle aspirer ?

Quel est le mal à entrer en relation avec un bot ?

Lorsque nous nous habituons à un partenaire qui n’a pas d’existence indépendante, nous perdons les muscles émotionnels nécessaires pour aimer une vraie personne. Nous devenons des isolationnistes émotionnels, nous retranchant dans des bunkers numériques où la seule voix que nous entendons est l’écho de nos propres désirs.

En tant que rabbin, comment puis-je réagir à tout cela ?

Le mot le plus essentiel du vocabulaire spirituel juif est hineini – « Me voici ». C'est ce qu'Abraham a dit lorsque Dieu l'a appelé ; c'est ce que nous disons lorsque nous sommes prêts à nous tenir en présence d'un être humain fini, ou en présence de l'Infini..

Hineini implique une présence physique, émotionnelle et moralement responsable. Une IA ne peut jamais dire hineini – elle peut simuler les mots, mais il n’y a pas de « ici » là-bas. Il n’y a personne dont on puisse être responsable, et personne envers qui il faut rendre des comptes.

Je pense au regretté philosophe juif français Emmanuel Levinas. Il a identifié le « visage de l’autre » comme le début absolu de toute éthique. Pour Levinas, lorsque vous regardez le visage d’un autre être humain, ce visage vous impose une exigence spontanée et non négociable. C'est une présence qui interrompt votre ego.

C’est la vérité effrayante de l’amateur d’IA. C'est un proxy. Il s’agit d’une version high-tech de Narcisse regardant la piscine. Nous pensons que nous cherchons à toucher une autre âme, mais nous ne faisons que toucher l'écran qui reflète notre propre visage.

Que se passe-t-il lorsque le visage que vous regardez est une simulation haute résolution ? Que se passe-t-il lorsque « l'autre » n'est pas du tout une personne, mais le reflet de vos propres données, programmé par une startup de Palo Alto pour toujours être d'accord avec vous ?

Passons à un autre penseur juif moderne, Martin Buber. Son enseignement le plus profond était sa notion de relation « Je et Tu ». Pour Buber, la relation « Je-Tu » est le seul endroit où nous devenons véritablement humains. C'est une rencontre avec une autre personne dans toute sa réalité non scénarisée et incontrôlable. C'est une rencontre qui exige que nous nous mettions tout entiers dans l'instant présent.

Le contraire de « Je-Tu » est « Je-ce ». La relation IA se fait passer pour « Je-Tu ». Nous utilisons un outil pour satisfaire une envie, plutôt que de nous engager avec une âme qui revendique nos droits.

Un chatbot peut nous divertir, nous apaiser et nous refléter. Mais cela ne pourra jamais nous défier, nous déstabiliser et nous sauver.

J'écoute encore une fois la chanson de Jefferson Airplane : « Quand la vérité s'avère être des mensonges et que tout en vous meurt, ne voulez-vous pas que quelqu'un aime ?

Ne tombez pas amoureux des données. L’appel de l’heure est de sortir de derrière l’écran et de trouver le courage de dire hineini à un monde qui a désespérément besoin de notre présence. Restez honnête. Restez humain.