Ils ressemblent à des professeurs de religion. Mais ce sont des IA

(RNS) — Alors que Saahera Ashraf parcourait Instagram, elle s’est arrêtée sur un vieux moine d’Asie de l’Est vêtu d’une robe safran. Yang Mun était assis devant la caméra, le crâne rasé et une expression douce, offrant à ses partisans une leçon sur le pardon.

Ils devaient pardonner à quatre groupes de personnes, leur dit-il : leurs parents, leurs anciens partenaires, les personnes qui leur avaient fait du mal et, enfin, eux-mêmes. Achraf a écouté. Des centaines de vidéos similaires ont été publiées sur la page de Mun, offrant des conseils sur les relations, l’anxiété, les habitudes alimentaires et apaisant un esprit hyperactif, souvent depuis un temple faiblement éclairé ou à côté de statues du Bouddha.

Pour Ashraf, 32 ans, qui vit à Toronto, Mun ressemblait à ce qu’il prétendait être : un enseignant âgé transmettant les leçons apprises au cours de sa vie. « J’ai enregistré quelques-uns de ses messages », a-t-elle déclaré.

Mun compte plus de 2,5 millions de followers sur Instagram, où ses vidéos attirent des millions de vues et de commentaires de personnes le remerciant pour ses conseils. Son site Internet le décrit comme un professeur de sagesse orientale traditionnelle.

Mais le moine n’existe pas. Mun a été généré grâce à l’intelligence artificielle. Aucune vie passée à étudier le bouddhisme ne se cache derrière le visage âgé à l’écran, même si son site Web et ses comptes de réseaux sociaux vendent des livres et un programme de guérison guidée construit autour de ses enseignements.

Yang Mun n’est pas seul. Le rabbin Goldman, un rabbin orthodoxe généré par l’IA et qui s’est mêlé aux théories du complot, a rassemblé plus de 1,5 million de followers sur Instagram avant la suppression de son compte. Le père Justin, créé en tant que prêtre catholique d’AI, a répondu aux questions sur la foi, tandis que Vedguru et Shaykh AI offrent respectivement des conseils religieux aux hindous et aux musulmans. Certains s’identifient ouvertement comme étant une intelligence artificielle, tandis que d’autres sont plus difficiles à distinguer des figures religieuses qu’ils imitent. Mais ensemble, ils poussent l’IA dans des pratiques religieuses définies par les relations et les expériences humaines et les remplacent par des missions qui incluent la vente de produits, la promotion de complots et le partage de leçons spirituelles sans véritable chef spirituel derrière elles.

Voir cette publication sur Instagram

Un post partagé par Yang Mun (@yangmunus)

« Je ressens un sentiment viscéral de presque tromper les gens, en pensant qu’ils reçoivent des enseignements d’un être humain », a déclaré Nikki Mirghafori, enseignante bouddhiste et scientifique en IA basée dans la région de la baie de San Francisco. Alors qu’elle parcourait la page Instagram de Mun lors d’une interview, elle n’a pas pu trouver où le compte disait à ses millions d’abonnés que le moine était artificiel.

Ensuite, elle a ouvert une vidéo. Mun disait à ses adeptes souffrant de douleurs au dos et à la hanche de mélanger de l’eau de coco, de l’huile d’olive et du jus de citron vert et de le boire pendant trois jours. «Oh mon Dieu», dit-elle. « Ce n’est pas du tout bouddhiste. »

Les robes safran la dérangeaient autant que les conseils. Les gens associent les moines à « l’authenticité, la gentillesse, la sagesse et l’amour », a-t-elle déclaré, et Mun empruntait cette confiance en dirigeant ses adeptes vers des produits. « Il vend essentiellement de l’huile de serpent », a-t-elle déclaré. « Vous ne pouvez pas simplement enfiler une robe et commencer à enseigner. »

Le rabbin Mois Navon, un rabbin orthodoxe et ingénieur basé en Israël, a vu un problème différent chez le rabbin Goldman, un personnage généré par l’IA qui est apparu en ligne avec une longue barbe grise, un chapeau et un manteau noirs. Dans des vidéos regardées par des millions de personnes, Goldman se fait passer pour un rabbin tout en promettant d’expliquer pourquoi les Juifs sont riches ou ce que les Juifs sont censés savoir sur l’argent que les autres ne connaissent pas – reconditionnant un stéréotype antisémite vieux de plusieurs siècles liant les Juifs à l’argent et au pouvoir financier, et utilisant l’apparence d’un rabbin orthodoxe pour le transmettre, a déclaré Navon.

« Le rabbin Goldman était un imposteur en matière d’antisémitisme », a déclaré Navon. « C’est manipulateur et trompeur, et c’est très mauvais. »

Le personnage a rassemblé plus de 1,5 million de followers sur Instagram avant que la plateforme ne supprime son compte. Ses vidéos dirigeaient également les téléspectateurs vers un guide à 9 dollars intitulé « Comment gagner et investir de l’argent comme les Juifs ».

Navon a déclaré qu’il n’était pas totalement opposé à l’idée d’enseignements de l’IA sur le judaïsme. Un outil ouvertement identifié et formé sur des textes juifs pourrait aider les gens à comprendre la loi juive ou à trouver du matériel religieux, a-t-il déclaré. Mais ce qui comptait, c’était que le spectateur sache que l’autorité de l’autre côté de l’écran était artificielle, a-t-il déclaré.

Swami Sarvapriyananda, moine hindou et ministre résident de la Vedanta Society de New York à Manhattan, a vécu une expérience différente, mais liée : il y a environ deux ans, il a rencontré une version IA de lui-même. Un projet informatique de l’Université du Texas avait entraîné un système sur plus de 1 000 heures de ses cours et conférences enregistrés. Les chercheurs l’ont invité à le tester.

« Je dois admettre que l’IA a très bien fonctionné », a déclaré Sarvapriyananda. Le système pourrait même le diriger vers une vidéo et un horodatage où il avait déjà dit quelque chose qu’il lui attribuait. « Il est très difficile de contester cela », a-t-il ajouté.

Sarvapriyananda utilise lui-même l’IA et pense qu’elle peut aider les chercheurs à parcourir d’énormes collections de textes religieux. Mais lorsqu’il a appris que les plateformes commercialisaient des « gourous de l’IA », il a hésité. « L’enseignant incarne l’enseignement », a déclaré Sarvapriyananda. Un gourou, a-t-il expliqué, n’est pas simplement quelqu’un qui peut retrouver le bon passage ou fournir la bonne réponse. L’enseignant est censé avoir vécu les enseignements spirituels et moraux transmis.

Tous les guides religieux artificiels ne cachent pas ce dont il s’agit. Shaykh AI, un chatbot basé sur les enseignements de Shaykh Nurjan Mirahmadi, professeur musulman soufi basé à Vancouver, s’identifie immédiatement. Lorsqu’on lui a demandé de qui il s’agissait et qui l’exploitait, le chatbot s’est décrit comme un « guide soufi compatissant », avant d’ajouter : « Je ne suis pas moi-même un être humain ni une autorité spirituelle. » Il a déclaré que ses réponses s’inspirent uniquement des enseignements approuvés et des ressources officielles de Mirahmadi.

Les chrétiens ont également vu avec quelle rapidité les frontières peuvent s’estomper. En avril 2024, le site Web Catholic Answers a présenté le père Justin, un personnage d’IA 3D conçu pour ressembler et parler comme un prêtre catholique. Dans au moins une interaction, le chatbot a entendu la confession d’un utilisateur et a répondu par ce qui ressemblait à une absolution sacramentelle – le pardon des péchés qui, dans l’enseignement catholique, ne peut être administré que par un prêtre.

Après avoir été critiqué pour avoir présenté l’IA comme un prêtre, Catholic Answers a abandonné le titre de « Père ». L’organisation a reconnu qu’elle n’avait pas prévu que les utilisateurs demandent l’absolution sacramentelle auprès d’un chatbot.

Kushal Pereira, pasteur et vice-président du ministère du Prophète Jérôme Fernando basé au Sri Lanka, a déclaré que de tels épisodes montrent le danger de donner à une machine l’apparence d’une autorité religieuse. « C’est une chose très dangereuse parce que vous pouvez paraître réel et donner de fausses informations », a déclaré Pereira. Quelqu’un pouvait entendre quelque chose « totalement en dehors de la Bible », a-t-il dit, « et les gens pourraient encore y croire ».

Pereira utilise l’IA pour trouver des versets bibliques, mais affirme que le pastorat implique des relations construites à travers des mariages, des décès, des problèmes familiaux et des crises de foi. « Une relation prospère toujours avec une âme », a-t-il déclaré. L’IA peut imiter certaines parties de cette relation, « mais ce n’est pas réel ».

Aucun des chefs religieux interrogés n’a catégoriquement rejeté l’IA : Navon y voyait une utilité pour naviguer dans la loi juive ; Pereira l’utilise pour trouver les Écritures ; et Sarvapriyananda regardait volontiers une IA entraînée sur ses propres enseignements reproduire ses réponses avec une précision surprenante. Pour Sarvapriyananda, cependant, une IA connaissant les enseignements et étant un enseignant spirituel restent deux choses différentes.

Il a décrit la différence avec l’analogie d’une diya, une petite lampe à huile utilisée dans les traditions hindoues. Une diya allumée peut en allumer une autre, dit-il, tout comme un enseignant transmet quelque chose à un élève.

« L’IA peut peut-être aider en termes d’information, de formation et de perspicacité », a déclaré Sarvapriyananda, « mais elle ne peut pas réellement transmettre la spiritualité. »