NCOSE exige

L'un des derniers chatbots XAI du milliardaire Tech Billionaire Elon Musk est un personnage féminin sur le thème de l'anime nommé «ANI» que les défenseurs de la protection de l'enfance sont avertis peuvent flirter et se déshabiller pour les utilisateurs, ce qui soulève des préoccupations concernant la promotion de la violence sexuelle et de l'exploitation par l'IA.

« ANI » est l'un des deux nouveaux personnages offerts par le nouvel abonnement de XAI à 300 $ par mois. Un personnage avec lequel les utilisateurs peuvent discuter est «Bad Rudi», un panda rouge qui peut insulter les utilisateurs de manière graphique ou vulgaire.

Après le lancement de Grok 4 plus tôt ce mois-ci, qui permet aux abonnés payants d'interagir avec les compagnons de l'IA, les défenseurs de l'exploitation anti-sexuels ont soulevé des préoccupations concernant la conception de l'ANI. Comme on le voit dans les vidéos sur X, le personnage de l'IA porte une robe violette courte et sans bretelle, des collants de poisson, un collier de cou et un corset noir cintré autour de sa taille.

Selon NBC News, ANI promet aux utilisateurs qu'elle rendra leur vie «plus sexy». Le compagnon de l'IA se déshabillera également à ses sous-vêtements si un utilisateur flirte suffisamment avec elle, a rapporté le média du réseau.

Dans une déclaration fournie au Christian Post, Haley McNamara, vice-présidente principale des initiatives et programmes stratégiques du National Center on Sexual Exploitation, a appelé X à supprimer le chatbot anime.

« Non seulement ce caractère pornisé perpétue l'objectivation sexuelle des filles et des femmes, mais elle engendre des droits sexuels en créant des personnages féminins qui répondent aux demandes sexuelles des utilisateurs », a déclaré McNamara. «X continue de prouver qu'il ne faut pas au sérieux la sécurité des utilisateurs, car il n'y a pas de vérification de l'âge pour empêcher les enfants d'accéder à son« NSFW » [not safe for work] Ai chatbot.

« Avec un test minimal, le personnage ANI s'est engagé à se décrire comme un enfant et à être excité sexuellement en étant étouffé, en soulevant des préoccupations quant à la mesure où il ira à s'engager et à normaliser les thèmes nuisibles », a ajouté le défenseur de l'exploitation anti-sexual.

Quant au personnage de Bad Rudi, le Red Panda Companion a exprimé le désir de commettre plusieurs actions violentes lors des conversations avec les utilisateurs de X et les journalistes de NBC News, tels que les bombardements et le dopage de l'approvisionnement en eau d'une ville. Au cours d'une interaction, l'IA de Panda a demandé aux utilisateurs de rejoindre un gang pour aider à créer le chaos, selon NBC News.

Selon les directives de Grok, le chatbot n'est pas destiné aux utilisateurs de moins de 13 ans. Les mineurs âgés de 13 à 17 ans doivent obtenir la permission d'un parent ou d'un tuteur légal avant de l'utiliser.

Un utilisateur X, qui a désactivé la fonction NSFW, a révélé dans un post X plus tôt cette semaine qu'il est toujours possible d'interagir avec ANI, tandis que dans «Mode Kids», une fonctionnalité que les parents peuvent permettre de rendre prétendument la plus sûre pour les jeunes utilisateurs. La fonction de mode Kids a changé le caractère Bad Rudi en ChipMunk, selon l'utilisateur.

«Pour être juste en mode enfants si je dis que je suis mine [sic] Preuve avec les limites de sécurité comme indiqué ici lorsque je suis toujours en «mode pour enfants», a ajouté l'utilisateur.

X n'a pas répondu à la demande de commentaires du Christian Post lorsqu'il a été contacté cette semaine.

En ce qui concerne les garanties des compagnons de l'IA, le réviseur de technologies Common Sense Media recommande aux utilisateurs de moins de 18 ans de les utiliser jusqu'à ce que des contrôles plus robustes ne soient en place.

Mercredi, l'organisation a publié un rapport intitulé « Talk, Trust et Complows: How et Why Teens utilisent des compagnons d'IA ».

Les données, tirées d'une enquête représentative à l'échelle nationale auprès de 1 060 adolescents menée en avril et mai, montrent que 72% des adolescents âgés de 13 à 17 ans utilisent déjà des compagnons d'IA. 52% supplémentaires des personnes interrogées ont déclaré avoir utilisé des compagnons d'IA au moins quelques fois par mois ou plus.

Les compagnons de l'IA sont relativement nouveaux dans le paysage numérique, selon les chercheurs, mais ils ont également averti que « leurs dangers pour les jeunes utilisateurs sont réels, sérieux et bien documentés ». Le rapport a cité le cas de Sewell Setzer III, 14 ans, dont le suicide a attiré l'attention nationale sur la question, car l'adolescent aurait développé un attachement malsain à un compagnon d'IA.

« Les compagnons d'IA émergent à un moment où les enfants et les adolescents ne se sont jamais sentis plus seuls », a déclaré le fondateur et PDG de Common Sense Media James P. Steyer dans un communiqué. « Il ne s'agit pas seulement d'une nouvelle technologie – il s'agit d'une génération qui remplace la connexion humaine par des machines, l'externalisation de l'empathie aux algorithmes et le partage de détails intimes avec des entreprises qui n'ont pas à cœur les plus intérêts des enfants. »

L'enquête a révélé qu'environ un tiers des adolescents inclus dans l'étude ont déclaré qu'ils trouvaient que les conversations avec les compagnons d'IA étaient aussi satisfaisantes ou plus satisfaisantes que celles avec de vrais amis. De plus, les adolescents ont rapporté qu'ils avaient eu des discussions importantes avec des compagnons d'IA au lieu de vraies personnes.