Découvrir l’antisémitisme codé en ligne nécessite à la fois l’expertise humaine et l’automatisation de l’IA

(La conversation) – Cet article comprend des exemples de discours de haine antisémite.

Les hommes accusés d’avoir perpétré des attaques antisémites très médiatisées aux États-Unis ces dernières années partageaient une caractéristique importante : ils avaient préalablement publié des discours de haine sur leurs comptes de réseaux sociaux.

Le FBI a déclaré que l’homme qui a conduit son camion dans une synagogue à l’extérieur de Détroit en mars 2026 a publié sur Facebook qu’« Israël est une tumeur cancéreuse/maligne » et qu’« Israël est un mal pur ». L’empreinte en ligne du tireur accusé d’avoir tiré et tué deux membres du personnel de l’ambassade israélienne au Musée juif de la capitale en mai 2025 contenait des commentaires anti-israéliens. Le tireur condamné à mort pour avoir tué 11 fidèles à la synagogue Tree of Life à Pittsburgh en octobre 2018 a fréquemment utilisé des discours de haine antisémite sur ses réseaux sociaux.

Le discours de haine fait appel à des sentiments, des émotions et des attitudes qui cherchent à déshumaniser des individus ou des groupes. Parfois, l’animosité est évidente. Mais cela peut aussi prendre une forme plus cachée, en utilisant des mots codés ou des termes compris uniquement par des personnes partageant les mêmes idées. Les discours de haine codés peuvent échapper aux censeurs de contenu en ligne et recruter des personnes qui pourraient hésiter face à des discours plus clairement discriminatoires.

Il existe environ 5,7 milliards de comptes de réseaux sociaux dans le monde. Même lorsque le discours de haine est explicite, les modérateurs de contenu ont du mal à gérer le volume et à décider dans quelle mesure ils doivent surveiller le discours des utilisateurs. Il existe également des sites alternatifs – certains considèrent comme extrémistes – qui limitent la modération du contenu, notamment 4chan, BitChute, Gab, GETTR, Parler, Rumble et Truth Social.

Nous sommes un groupe de chercheurs interdisciplinaires de l’American University qui étudient les stratégies rhétoriques derrière les discours de haine manifestes et codés sur les réseaux sociaux. Notre projet Unmasking Antisemitism utilise l’intelligence artificielle, l’analyse qualitative et des expériences d’enquête pour développer des études et des outils permettant de détecter les deux types de termes. Cet article présente des exemples de discours de haine antisémite qui sont troublants mais illustrent des types de termes et la manière de contrer cette influence dangereuse.

Deux types de discours de haine

Pour comprendre la différence entre un discours de haine direct et codé, considérons le langage du tireur Robert Bowers avant le massacre de Tree of Life. À propos de Gab, il a utilisé des insultes antisémites plus anciennes et virulentes telles que « kike », un « terme très offensant utilisé pour insulter et dénigrer les personnes de foi ou d’origine juive et qui est largement considéré comme une forme de discours de haine », selon l’American Jewish Committee.

D’autres termes extrémistes sont tout aussi offensants mais moins évidents, comme « four dodgeger », que Bowers a également utilisé à propos de Gab : une référence à la façon dont les nazis allemands ont systématiquement exterminé les Juifs pendant l’Holocauste. Tout comme les expressions explicites, les termes codés s’appuient souvent sur des tropes antisémites plus anciens et bien documentés, tels que « Les Juifs ont trop de pouvoir », en les reconditionnant dans de nouveaux mots et expressions.

Ils peuvent également avoir un double sens, ce qui rend les discours de haine plus difficiles à modérer. La définition originale de « mondialiste » fait référence à une personne qui croit que les politiques devraient être planifiées en gardant à l'esprit les intérêts du monde entier plutôt que ceux d'un seul pays. Mais mondialiste a aussi une connotation antisémite.

Comme le dit le glossaire « Translate Hate » de l’American Jewish Committee, les antisémites utilisent souvent le terme « mondialiste » pour dénigrer les Juifs, promouvant une théorie du complot selon laquelle « les Juifs n’ont pas allégeance à leur pays d’origine, comme les États-Unis, mais à un ordre mondial – comme une économie mondiale ou un système politique international – qui renforcera leur contrôle sur les banques, les gouvernements et les médias du monde. » Cela reconditionne la propagande nazie et soviétique de longue date sur les Juifs en se basant sur des tropes antisémites historiques.

Comment les termes évoluent

Aux débuts des médias sociaux, les entreprises ont répondu aux critiques concernant les contenus les plus haineux sur leurs plateformes en utilisant une combinaison d’IA et d’analyse humaine pour modérer le contenu. Les outils automatisés utilisent le traitement du langage naturel pour analyser le contexte, détecter les insultes et signaler le contenu. Les travailleurs humains analysent un langage plus complexe, comme l'ironie et l'argot.

Mais il est difficile de suivre le volume de messages, en particulier lorsqu’il s’agit de discours de haine plus subtils. Les objectifs de notre équipe sont d'identifier les termes antisémites codés, de comprendre comment ils se développent et de créer une technologie pour les suivre.

La clé est de comprendre que les termes haineux ont un cycle de vie. Certains s’orientent vers une utilisation plus publique, tandis que d’autres disparaissent.

Les nouveaux termes ont tendance à émerger d’un petit groupe de personnes considérées comme des leaders ou des influenceurs dans les cercles antisémites en ligne. Dans certains cas, leurs communautés adoptent le terme et le normalisent ; d’autres fois, il n’est plus utilisé.

Le terme « marxisme culturel », qui trouve son origine dans la croyance antisémite selon laquelle les intellectuels juifs cherchent à subvertir la culture occidentale, a été adopté et largement utilisé. Le « coup aux juifs », en revanche – une théorie du complot de la suprématie blanche affirmant que les vaccins contre le COVID-19 étaient un complot juif visant à nuire aux gens – a rapidement disparu.

Traquer la haine

Dans notre projet pilote initial, nous avons commencé avec 46 termes antisémites, manifestes et codés, tirés du glossaire de l'American Jewish Committee. Nous avons saisi les termes dans Pyrra, désormais appelé Alert Media, une société de logiciels privée qui permet aux utilisateurs de supprimer les publications d'un ensemble de sites de médias sociaux.

Des chercheurs formés aux définitions de l’antisémitisme, aux tropes antisémites historiques et à la détection des discours de haine ont identifié 24 termes supplémentaires. Les suprémacistes blancs utilisent par exemple le symbole « 1488 » pour s’identifier. La première partie, « 14 », fait référence au slogan en « 14 mots » du leader suprémaciste blanc David Lane. Le « 88 » signifie « Heil Hitler », basé sur le « h » étant la huitième lettre de l’alphabet. D’autres termes codés sont moins connus, comme « DOTR » ou « Day of the Rope », une référence au livre de 1978 « The Turner Diaries », écrit sous un pseudonyme du néo-nazi William Pierce.

Pour déterminer quels termes codés se sont répandus dans le grand public, nous avons examiné le contenu des médias grand public et mené des enquêtes pour voir si les gens les reconnaissaient. Nous avons également développé un outil logiciel d’IA conçu pour suivre automatiquement l’évolution du langage codé. L'application est formée sur les données de Pyrra et apprend à identifier de nouveaux termes antisémites en fonction du contexte dans lequel ils apparaissent.

Premièrement, l’application identifie les termes distinctifs en fonction de leur fréquence d’apparition dans chaque publication, par rapport à leur rareté sur la plateforme en général. Pour savoir si ces termes ont une connotation antisémite, nous encodons leur contexte, comme d'autres mots dans le message, et calculons s'il est proche du contexte d'une terminologie antisémite déjà connue. Certains des termes identifiés par notre application sont explicites, tandis que d'autres sont codés.

Cette approche peut également être appliquée aux discours de haine visant d’autres groupes, tels que les Latinos, les personnes LGBTQ+ et les femmes. Notre objectif est de créer une boîte à outils pouvant être distribuée aux groupes à but non lucratif, aux groupes de réflexion et aux décideurs politiques qui envisagent des efforts législatifs pour lutter contre les discours de haine.

Humains et machines

Compte tenu du nombre massif de publications quotidiennes sur les réseaux sociaux, nos travaux illustrent à quel point la détection de nouveaux discours de haine nécessite un groupe interdisciplinaire de chercheurs travaillant avec des machines.

Une discipline universitaire travaillant de manière indépendante est trop cloisonnée et les humains seuls ne peuvent pas gérer cette échelle. Mais les machines ne peuvent pas, à elles seules, comprendre le langage humain sophistiqué, l’argot ou le contexte.

L’histoire montre qu’à chaque moment de profond changement technologique dans nos systèmes de communication, les incidents visant les Juifs ou d’autres groupes minoritaires augmentent de façon spectaculaire. L’innovation technique de cette époque est sans précédent – ​​mais malheureusement, les discours de haine se propagent désormais presque instantanément à travers le monde. La technologie fait peut-être partie du problème, mais son immense pouvoir peut être exploité pour créer une solution.

(Wendy Melillo, professeur agrégé de journalisme, American University School of Communication. Jeff Gill, professeur de mathématiques et de statistiques, American University. Nathalie Japkowicz, professeur d'informatique, American University. Les opinions exprimées dans ce commentaire ne reflètent pas nécessairement celles de Religion News Service.)