Chrétiens des deux ministères, les bancs doivent se préparer au « problème d’usurpation d’identité » des fausses IA : prévient l’American Bible Society

La décision de Meta de créer un nouvel outil d’IA permettant aux utilisateurs de générer des images à partir de comptes publics Instagram a soulevé des questions plus vastes sur la technologie émergente de l’IA et son impact sur l’éthique et la dignité humaine.

Tout a commencé le 7 juillet, lorsque Meta a lancé sa fonctionnalité Muse Image, qui utilise des photos existantes comme entrée et permet aux utilisateurs de modifier les images générées directement via des croquis.

Marquant le premier modèle de génération d’images entièrement intégré de Meta Superintelligence Labs, Muse Image a rapidement fait face à des réactions négatives de la part de la plus grande agence artistique d’Hollywood, Creative Artists Agency (CAA), et de son plus grand syndicat d’artistes, SAG-AFTRA, en raison de problèmes de confidentialité et de l’adhésion automatique de la fonctionnalité aux comptes publics Instagram.

Le plus grand syndicat d’acteurs de l’industrie a également partagé des conseils sur la manière d’ajuster les paramètres d’Instagram pour permettre aux membres de se désinscrire de l’outil Muse Image et de « prendre des mesures pour protéger votre image » dans une déclaration de la SAG-AFTRA le 9 juillet. La CAA a également pressé Meta de faire marche arrière, déclarant plus tard : « Nous félicitons Meta pour sa décision rapide de supprimer la fonctionnalité Muse Image. Mettre les droits individuels et le consentement au premier plan est essentiel pour construire une technologie responsable.

La réaction s’est propagée rapidement en ligne : une vidéo du créateur de contenu Barrett Pall expliquant comment les utilisateurs pouvaient se désinscrire a attiré plus de 1,5 million de vues sur Instagram Reels, tandis que l’actrice nominée aux Emmy Hannah Einbinder a également critiqué publiquement l’outil sur les réseaux sociaux.

Trois jours seulement après son lancement, le 10 juillet, Meta a annoncé qu’elle mettrait fin à la fonctionnalité @-mention sur Instagram en particulier, bien que Muse Image elle-même reste disponible dans l’application Meta AI et WhatsApp.

« Plus tôt cette semaine, nous avons annoncé qu’une façon pour les gens de générer des images dans Meta AI consiste à @-mentionner les comptes Instagram publics auxquels ils souhaitent faire référence », a déclaré la société dans un communiqué. « Notre intention était de fournir un outil créatif utile et de permettre aux utilisateurs de contrôler si leur contenu public pouvait être référencé de cette manière. Nous avons entendu des commentaires selon lesquels cette fonctionnalité manquait la cible et n’est donc plus disponible. »

Alors, qu’est-ce que tout cela signifie pour les utilisateurs des médias sociaux au-delà d’Hollywood ?

Bryce Allison, directeur de la technologie à l’American Bible Society, affirme avoir constaté que l’IA apporte des avantages évidents, notamment en éliminant les barrières linguistiques pour faire avancer la mission de l’organisation consistant à rendre la Bible accessible à tous. Plutôt que de présenter l’IA comme simplement bonne ou mauvaise, il se concentre sur son utilisation de manière à renforcer la confiance, à défendre la dignité humaine et à servir les gens sans remplacer les relations, la sagesse et le discernement qui restent uniquement humains.

Pour Allison, l’épisode Meta lui-même souligne un problème plus profond. « Lorsque l’image d’une personne est utilisée à son insu ou sans son consentement, nous risquons de traiter une personne créée à l’image de Dieu comme une matière première plutôt que comme une personne dotée d’une dignité inhérente », a-t-il déclaré.

Pour Allison, l’épisode Meta lui-même souligne un problème plus profond. « Lorsque l’image d’une personne est utilisée à son insu ou sans son consentement, nous risquons de traiter une personne créée à l’image de Dieu comme une matière première plutôt que comme une personne dotée d’une dignité inhérente », a-t-il déclaré.

Cette distinction est importante, a-t-il ajouté, non seulement pour les chrétiens assis sur les bancs, mais pour tous ceux qui naviguent dans un monde piloté par l’IA, en particulier ceux qui exercent un ministère.

« Premièrement, la plupart des gens passent beaucoup plus de temps dans des flux organisés de manière algorithmique que dans l’enseignement de n’importe quelle église, et ces systèmes optimisent l’engagement, ce qui n’est pas la même chose que la maturité », a-t-il déclaré.

Avertissant que « le problème de l’usurpation d’identité est déjà là et ne viendra pas », Allison a exhorté les pasteurs de tout le pays à s’adresser à leurs propres congrégations au sujet des vidéos générées par l’IA sollicitant des dons en leur nom.

« Il n’est même pas nécessaire que les contrefaçons soient bonnes pour fonctionner », a-t-il déclaré. « Chaque ministère a besoin d’une réponse à la question : « Comment nos collaborateurs pourraient-ils savoir que cela vient réellement de nous ? et il est temps de régler ce problème avant que cela n’arrive.

Lorsqu’on lui a demandé comment les ministères devraient éduquer le personnel et intégrer la formation en IA, Allison a partagé les leçons tirées de la propre expérience de l’American Bible Society. « Commencez par les données. C’est là que le mal arrive en premier et là où l’écart entre l’intuition et la réalité est le plus grand. Le personnel du ministère gère les conversations pastorales, les notes de conseil, les demandes de bienveillance et les dossiers des donateurs. L’instinct de presque personne ne leur dit que coller tout cela dans un chatbot consommateur est une violation de la confidentialité. Dites-le explicitement avant toute autre chose », a-t-il ajouté.