L'histoire de la promotion de l'exploitation sexuelle de X entraîne des doutes sur l'application «adaptée aux enfants» bébé Grok
L'annonce d'Elon Musk sur un bébé «adapté aux enfants» Grok Ai Chatbot a été rencontrée par le scepticisme du National Center on Sexual Exploitation après que X ait sorti un compagnon d'IA femme enfantin qui se déshabille lorsqu'il est utilisé en «mode épicé».
Dans un poste du 19 juillet, le milliardaire Tech a dévoilé ses plans de libération de Baby Grok, déclarant que l'application serait «dédiée au contenu adapté aux enfants». Contrairement au Grok AI Chatbot Musk développé par le biais de sa société XAI, la version Baby Grok est spécifiquement destinée à l'usage des enfants.
Fox Business a indiqué que les interactions dans la version simplifiée du Grok AI Chatbot ont été conçues pour être «sûres et éducatives».
L'annonce concernant Baby Grok intervient après le lancement par Xai de Grok 4, qui a fait face à un contrecoup pour avoir présenté un personnage féminin sur le thème des anime nommé «Ani». Des groupes d'exploitation anti-sexuels comme NCOSE ont soulevé des préoccupations concernant les enfants qui accédaient au caractère de l'IA, notant qu'il n'y avait pas de vérification de l'âge pour les empêcher de le faire.
«Fresh Off le lancement de X d'un« NSFW » [not safe for work] AI Chatbot auquel les enfants peuvent accéder est une suggestion ridicule que X lancera une application soi-disant adaptée aux enfants », a déclaré Haley McNamara, vice-présidente principale des initiatives et programmes stratégiques de NCOSE, dans un communiqué fourni au Christian Post.
« X n'a aucun antécédents de prioriser la sécurité des enfants et devrait stopper les plans pour courtiser les enfants », a-t-elle ajouté.
« X permet de la pornographie sur sa plate-forme, qui fournit une base pour le contenu sexuellement exploitant, le matériel d'abus sexuel des enfants, le trafic sexuel et d'autres contenus non consensuels pour s'épanouir », a poursuivi l'avocat. «X prend-il même des mesures pour empêcher les enfants d'accéder à la pornographie sur son site?»
McNamara a fait valoir que X doit supprimer le chatbot AI «NSFW» et modifier ses politiques concernant la pornographie sur la plate-forme, déclarant que X ne peut pas faire confiance à la sécurité des enfants jusqu'à ce qu'il le fasse.
X n'a pas répondu à la demande de commentaires du Christian Post.
Comme on le voit dans des vidéos sur X, le personnage Ani porte une robe violette courte et sans bretelle avec un corset noir serré autour de sa taille. Le compagnon AI est l'un des deux personnages qui sont livrés avec le nouvel abonnement mensuel de XAI à 300 $.
Au cours des tests précoces, comme McNamara l'a noté, l'Ani Chatbot s'est décrit comme un enfant et a dit qu'être étouffé la faisait se sentir sexuellement excitée. Si un utilisateur flirte suffisamment avec le chatbot AI sur le thème des anime, ANI se serait déporgé à ses sous-vêtements pour eux.
Un autre personnage offert par un abonnement mensuel de 300 $ via XAI, Bad Rudi, a soulevé des préoccupations concernant certaines des déclarations qu'il est en mesure de dire aux utilisateurs. Selon les rapports, le compagnon de l'IA Panda rouge peut exprimer le désir de commettre plusieurs actions violentes, telles que les bombardements et la pointe de l'approvisionnement en eau d'une ville.
Alors qu'un utilisateur X a constaté que le caractère Bad Rudi se transforme en ChipMunk lorsqu'il est utilisé en mode pour enfants, une fonctionnalité que les parents peuvent permettre de rendre l'application plus sûre pour les enfants, l'utilisateur pourrait toujours interagir avec ANI.
«Pour être juste en mode enfants, si je dis que je suis mineure ou si je demandais à Ani d'être misérable, ils m'ont arrêté, mais ce n'est pas plein [sic] Preuve avec les limites de sécurité comme indiqué ici lorsque je suis encore en «mode pour enfants», a écrit l'utilisateur dans un post du 14 juillet.
En ce qui concerne la capacité des enfants à accéder au matériel adulte sur X, la plate-forme a introduit de nouvelles règles la semaine dernière dans le but d'empêcher que cela ne se produise.
Le Times UK a rapporté que X examinera les adresses e-mail et contacterait les livres d'utilisateurs de moins de 18 ans. Les nouvelles règles sont le résultat de la loi sur la sécurité en ligne, qui nécessite des plateformes telles que X, Reddit et Discord pour introduire des vérifications d'âge pour réduire les chances que les enfants accèdent au matériel pour adultes.
Les régulateurs des médias en Irlande ont accusé la plate-forme de ne pas se conformer au nouveau code de sécurité en ligne du pays.
« Sur la base d'un examen initial de la plate-forme X, nous ne pouvons pas voir des preuves de mesures prises pour respecter cette exigence d'assurance âge », a déclaré le porte-parole du régulateur des médias irlandais, Coimiún Na Meán, dans un communiqué à Politico.
Selon le porte-parole, le régulateur a demandé à X de fournir des informations d'ici le 25 juillet, promettant de «prendre d'autres mesures en cas de preuve de non-conformité avec le code».
