Les trafiquants d'êtres humains utilisent l'IA pour attirer et exploiter les enfants en ligne, prévient un expert
NEW YORK — L'intelligence artificielle générative, un type d'IA capable de créer de nouveaux contenus tels que du texte, des images, de l'audio et des vidéos, est désormais utilisée par les trafiquants d'êtres humains pour attirer et exploiter les enfants, a déclaré un responsable du Centre national pour les enfants disparus et exploités. averti.
S'exprimant lors du lancement national de l'organisation mondiale de lutte contre la traite des êtres humains A21, « Can You See Me ? » Campagne de sensibilisation lundi, Staca Shehan, vice-président du Centre national pour les enfants disparus et exploités, a déclaré que l'année dernière seulement, près de 5 000 instances d'IA générative ont été utilisées ou tentées d'être utilisées pour exploiter un enfant.
L'utilisation de la technologie pour exploiter les enfants est l'une des raisons pour lesquelles l'organisation nationale à but non lucratif, qui vise à aider à retrouver les enfants disparus, à réduire l'exploitation sexuelle des enfants et à prévenir la victimisation des enfants, a publié l'année dernière son outil Take It Down, qui aide à lutter contre l'exploitation sexuelle des enfants en permettre aux jeunes de supprimer d'Internet les images sexuellement explicites d'eux-mêmes, selon le Bureau de la justice pour mineurs et de la prévention de la délinquance.
« À mesure que la technologie change et évolue, nous voulons l'utiliser à bon escient, pour combler les lacunes, et c'est ce que nous essayons de faire avec la campagne Take It Down : aider à redonner un certain contrôle aux enfants en faisant supprimer le contenu de Internet. Mais en même temps, nous essayons de tirer parti des technologies nouvelles et en évolution », a déclaré Shehan lors d'une conférence de presse tenue à l'hôtel Omni Berkshire Place à Midtown.
« Ceux qui cherchent à cibler les enfants font de même, et nous le constatons, notamment avec l'IA générative, où l'année dernière, nous avons reçu près de 5 000 rapports faisant état de cas où l'IA générative a été utilisée ou tentée d'être utilisée pour exploiter un enfant. .»
Sheehan a ensuite partagé des exemples effrayants de la manière dont les prédateurs ont exploité la technologie pour exploiter les enfants.
« Ainsi, avec les modèles de chat disponibles, nous voyons des cas où un délinquant saisit un texte puis demande de l'aide, en le répétant comme s'il était un enfant, afin qu'il puisse communiquer en ligne avec d'autres enfants et semblent avoir le même âge et ont l’intention de les exploiter », a déclaré Shehan.
« Nous voyons également des délinquants poser des questions demandant des guides ou des tutoriels sur la façon de préparer ou de recruter des enfants et de le faire plus efficacement. Nous voyons des cas où des images de matériel d'abus sexuel sur des enfants sont ajoutées à l'IA générative et il est demandé de créer des images plus similaires ou de les modifier d'une manière ou d'une autre, ou même une image inoffensive qui n'inclut aucune nudité d'un enfant et qui enlève les vêtements. de cet enfant et créer du matériel d’abus sexuel sur des enfants », a-t-elle expliqué.
« Nous voyons des délinquants utiliser ces outils de manière à cibler des enfants, et lorsque ces outils sont créés sans respecter les principes de sécurité dès la conception, nous constatons à quel point ils deviennent plus risqués en termes de capacité à exploiter les enfants. »
« Pouvez-vous me voir ? » de A21 campagne de sensibilisation, réalisée en collaboration avec le Federal Bureau of Investigation, Homeland Security Investigations New York, le National Center for Missing & Exploited Children, les sociétés de publicité LAMAR et Outfront Media, Amtrak et Omni Hotels, vise à aider le grand public à reconnaître les indicateurs de l'impact humain trafic et signaler les scénarios suspects avant la haute saison des voyages de vacances. La campagne comportera des publicités vives sur les panneaux d'affichage de Times Square, les centres de transport et les plateformes numériques, exhortant les citoyens à agir via les lignes d'assistance téléphonique nationales.
