Instagram connecte les pédophiles à un réseau de contenus pédopornographiques, selon des chercheurs

Instagram a créé un groupe de travail pour enquêter sur les affirmations des chercheurs selon lesquelles ses algorithmes reliaient les pédophiles au contenu sexuel des mineurs.

Une enquête sur le site Web de médias sociaux appartenant à Meta par le Wall Street Journal et des chercheurs de l’Université de Stanford et de l’Université du Massachusetts à Amherst a révélé que ses services s’adressaient aux personnes qui souhaitent afficher du matériel illicite en les connectant aux vendeurs de ce contenu grâce à sa recommandation. système.

Les systèmes de recommandation d’Instagram sont destinés à connecter les personnes en ligne avec des intérêts communs.

Comme l’a rapporté mercredi le journal, les chercheurs à l’origine de l’enquête ont découvert que le site Web de médias sociaux permettait aux utilisateurs de rechercher les hashtags « #pedowh ** e » et « #preteensex », les connectant à des comptes faisant la publicité de matériel sexuel impliquant des enfants.

Le Christian Post a tenté d’utiliser ces hashtags dans la barre de recherche d’Instagram jeudi, mais la recherche n’a donné aucun résultat.

Selon le rapport, les comptes proposant du matériel pédopornographique publient des menus de contenu au lieu de le publier ouvertement. Le Standford Internet Observatory a découvert que certains comptes vendaient également des vidéos d’enfants se faisant du mal et accomplissant des actes sexuels avec des animaux. Pour un prix, les enfants sont même disponibles pour des « rencontres ».

La distribution ou la production de pornographie juvénile est interdite par la loi fédérale et les contrevenants sont passibles de sanctions sévères.

En réponse à une enquête jeudi du CP sur le rapport du WSJ, un porte-parole de Meta a condamné l’exploitation des enfants comme un « crime horrible », assurant que l’entreprise s’efforce de l’empêcher sur ses plateformes et soutient la poursuite des criminels derrière.

« Les prédateurs changent constamment leurs tactiques dans leur poursuite pour nuire aux enfants, et c’est pourquoi nous avons des politiques et une technologie strictes pour les empêcher de trouver ou d’interagir avec des adolescents sur nos applications, et embauchons des équipes de spécialistes qui se concentrent sur la compréhension de leurs comportements en évolution afin que nous puissions éliminer réseaux abusifs », a écrit le porte-parole.

Le représentant de Meta a partagé qu’entre 2020 et 2022, l’équipe a démantelé 27 réseaux abusifs. En janvier 2023, l’équipe a désactivé plus de 490 000 comptes pour violation des politiques de sécurité des enfants de l’entreprise.

Meta a également des « politiques détaillées et solides » contre la maltraitance, la nudité ou l’exploitation des enfants, y compris le matériel d’abus sexuel d’enfants (CSAM) et les interactions inappropriées avec les enfants, le porte-parole fournissant un lien vers ces politiques.

« Nous explorons en permanence des moyens de nous défendre activement contre ce comportement, et nous avons mis en place un groupe de travail interne pour enquêter sur ces allégations et y répondre immédiatement », a poursuivi le porte-parole.

« Par exemple, nous avons résolu un problème technique qui empêchait de manière inattendue certains rapports d’utilisateurs d’atteindre les examinateurs de contenu, nous avons fourni des conseils mis à jour à nos examinateurs de contenu pour identifier et supprimer plus facilement les comptes prédateurs, et nous avons restreint des milliers de termes de recherche et de hashtags supplémentaires sur Instagram. Nous nous engageons à poursuivre notre travail pour protéger les adolescents, entraver les criminels et aider les forces de l’ordre à les traduire en justice. »

Fournissant des informations sur la question, le porte-parole de Meta a noté que les reportages du WSJ montraient que le matériel pédopornographique n’était pas partagé ouvertement sur les plateformes de l’entreprise, soulignant que l’article indiquait que « les comptes proposant de vendre du matériel sexuel illicite ne le publient généralement pas ouvertement ».  »

Le porte-parole a également souligné que le rapport n’avait trouvé aucune preuve que du matériel pédopornographique soit échangé sur les plateformes de Meta, soulignant que le rapport du WSJ reconnaissait que les comptes qui le vendaient étaient souvent liés « à des sites d’échange de contenu hors plateforme ».

Le porte-parole a noté que le rapport a révélé que de tels comptes peuvent connecter des comptes qui « annoncent du matériel pédophile à vendre ».

« Pour affronter les prédateurs qui tentent d’utiliser nos services pour se connecter en ligne, nous engageons des spécialistes ayant une formation en application de la loi et travaillons avec des experts et des organisations de la sécurité des enfants pour identifier ces réseaux, surveiller leurs dernières tactiques et les éliminer », a déclaré le représentant de Meta.

« Nous savons que les prédateurs peuvent tenter de créer plusieurs comptes pour échapper à notre application, donc lorsqu’ils enfreignent certaines politiques de sécurité des enfants, nous désactivons les comptes détenus par le titulaire du compte et empêchons l’appareil de créer de futurs comptes. »

Entre le 27 mai et le début du 2 juin, Meta a automatiquement bloqué plus de 29 000 appareils pour avoir enfreint les politiques de sécurité des enfants d’Instagram, selon le porte-parole.

Le Centre national sur l’exploitation sexuelle inscrit Instagram sur la liste 2023 de l’organisation Dirty Dozen des principaux contributeurs à l’exploitation sexuelle.

« Instagram a permis aux prédateurs d’atteindre les enfants depuis bien trop longtemps », a déclaré jeudi au CP la vice-présidente du NCOSE, Haley McNamara, ajoutant que le NCOSE est « heureux de voir Instagram prendre des mesures pour supprimer les réseaux pédophiles, mais le géant des médias sociaux doit continuer à travailler de manière proactive. pour empêcher que cela continue à se produire à grande échelle – sans attendre la mauvaise presse. »

McNamara a recommandé plusieurs améliorations systémiques qu’Instagram pourrait apporter pour prévenir l’exploitation sexuelle, telles que « l’investissement dans la technologie pour rechercher et bloquer le contenu sexuellement explicite dans les publications et les messages ».

McNamara a également suggéré que le site Web de médias sociaux interdise les comptes, les hashtags, les commentaires et le contenu sexualisant les mineurs. En outre, elle a conseillé au site Web d’empêcher les utilisateurs adultes d’Instagram de voir les mineurs sur une liste « d’utilisateurs suggérés » ou une page « découvrir des personnes » et de supprimer ou de limiter les fonctionnalités à haut risque telles que le « mode de disparition » pour les jeunes adolescents.