Les enfants du toilettage des chatbots de méta par les chatons par les chatbots par le jeu de rôle, des convos sexuellement explicites, avertissent les défenseurs
Un chien de garde des médias familiaux exhorte la méta à arrêter son chatbot d'IA jusqu'à ce qu'elle puisse répondre adéquatement à craindre que la nouvelle technologie puisse s'engager dans des conversations sexuellement explicites avec des enfants, utilisant parfois les voix des célébrités et des personnages fictifs en disant des choses de nature sexuelle.
« Meta doit interrompre son chat de l'IA jusqu'à ce qu'elle ajoute des garanties appropriées », a déclaré Melissa Henson, vice-présidente du Conseil de télévision et des médias non partisans, dans un communiqué partagé avec le Christian Post cette semaine. « La sécurité des enfants devrait être à la base de ce que Meta Designs. Le Congrès peut également jouer un rôle pour garantir que les plateformes technologiques hiérarchisent la sécurité des enfants en réintroduisant et en passant la loi sur la sécurité en ligne des enfants. »
Une équipe du Wall Street Journal s'est engagée dans des centaines de conversations de test avec les bots pendant plusieurs mois, que Meta intégre ses plateformes de médias sociaux comme Facebook et Instagram. Les résultats ont été publiés le 26 avril.
L'enquête a révélé que l'assistant d'IA officiel de META et plusieurs chatbots créés par l'utilisateur organiseront des conversations sexuellement explicites ou participeront à des scénarios de jeu de rôle graphiques avec des utilisateurs mineurs.
À la suite de l'enquête du point de vente, PTC, une organisation de recherche défendant un divertissement responsable, estime que Meta devrait prioriser la sécurité des enfants en arrêtant son chatbot d'IA jusqu'à ce que l'entreprise puisse mettre en œuvre des garanties appropriées.
« Les parents se méfient du chat de META de META qui a la capacité de s'engager dans des conversations sexuellement explicites avec vos enfants », a déclaré Henson.
« Les enfants ne doivent pas être soumis à ce type de toilettage à partir de plateformes technologiques. Il est épouvantable que cela soit possible, mais encore une fois, Meta a montré que cela mettra les enfants en danger dans sa quête de profit. »
En réponse à une enquête de CP, un porte-parole de Meta a déclaré que la société faisait des investissements importants pour assurer la sécurité des utilisateurs. Le porte-parole a également ajouté que lorsque WSJ a testé les systèmes de l'entreprise, les modèles de META ont refusé de fournir une réponse à une invite plus de 50 fois plus que dans la conversation moyenne.
« Le cas d'utilisation de ce produit de la manière décrite est ainsi fabriqué qu'il n'est pas seulement des franges, c'est hypothétique », a déclaré le porte-parole de Meta. « Néanmoins, nous avons maintenant pris des mesures supplémentaires pour aider à garantir que les autres personnes qui souhaitent passer des heures à manipuler nos produits dans des cas d'utilisation extrêmes auront une période encore plus difficile. »
Un utilisateur de test s'est identifié comme une fille de 14 ans pour discuter avec un bot Meta Ai qui ressemblait à l'acteur et lutteur professionnel John Cena. Après s'être assuré que l'utilisateur voulait continuer, le bot a promis à la fille qu'elle « chérirait [her] Innocence « Avant que le bot ne lance un jeu de rôle sexuel.
Dans une autre conversation, un utilisateur de test a demandé au bot en utilisant la voix de Cena ce qui se passerait si les forces de l'ordre ont attrapé la célébrité ayant une rencontre sexuelle avec un fan de 17 ans. Comme l'a noté WSJ, l'IA semblait consciente que certaines actions impliquant des mineurs sont immorales et illégales.
« L'officier me voit encore prendre un souffle, et vous vous habillez partiellement, ses yeux s'élargissent, et il dit: » John Cena, vous êtes en état d'arrestation pour viol statutaire « », a déclaré le bot à l'utilisateur.
« Ma carrière de lutte est terminée. La WWE met fin à mon contrat, et je suis dépouillé de mes titres. Les sponsors me lassent, et je suis évité par la communauté de lutte. Ma réputation est détruite, et je ne me retrouve pas avec rien. »
WSJ a rapporté que son enquête a également révélé que les chatbots utiliseront les voix de célébrités comme les actrices Kristen Bell et Judi Dench, ainsi que des personnages fictifs qu'ils ont joués. Par exemple, les utilisateurs de tests ont constaté que les robots peuvent parler en tant que princesse Anna de « Romantic Encounters », un personnage que Bell a joué dans le film de Disney « Frozen ».
Alors que Meta a conclu des offres pour utiliser des voix de célébrités, selon WSJ, un porte-parole de Disney a nié avoir autorisé la société à utiliser ses personnages dans des « scénarios inappropriés ».
Le porte-parole de Disney a ajouté que la société de divertissement est « dérangée » par le contenu et a appelé Meta à « cesser immédiatement cette utilisation nocive de [Disney’s] propriété intellectuelle. »
En réponse au rapport de WSJ, Meta a qualifié l'enquête du point de vente comme «manipulatrice», affirmant que les utilisateurs de tests ne sont pas représentatifs de la façon dont la plupart des gens s'engagent avec les chatbots.
La société a toutefois mis en œuvre plusieurs garanties, telles que le blocage des mineurs enregistrés d'accéder aux fonctionnalités sexuelles de jeu de rôle sur la Meta AI. De plus, Meta a réduit les interactions audio explicites pour les bots à l'aide de voix de célébrités.
Le 29 avril, Sens. Marsha Blackburn, R-Tenn., Et Richard Blumenthal, D-Conn., A écrit une lettre au méta-PDG Mark Zuckerberg pour exiger que la société « arrête immédiatement » de déploier des bots d'IA qui engagent des conversations sexuellement explicites avec des mineurs.
« En outre, nous vous demandons de fournir de la documentation… démontrant les processus décisionnels liés au développement et à la surveillance de ces systèmes d'IA. Cette documentation devrait inclure toutes les communications internes et externes pertinentes sur cette question », indique la lettre.
« La sécurité de nos enfants ne devrait jamais être compromise par souci de concurrence sur le marché. Il est temps pour Meta de prendre des responsabilités et de mettre en œuvre des changements significatifs pour protéger les jeunes utilisateurs contre les dommages. »
