KORA: l'IA qui lit toute la haine visant les Maghrébins

Le projet Tajmaat présente KORA, présentée comme la première intelligence artificielle dédiée à la lutte contre le racisme et l'islamophobie en ligne. Elle surveille les réseaux, repère les appels à la violence et note leur gravité. OMROS classe les preuves, NEXUS cartographie les réseaux de comptes. Pour la semaine du 28 septembre, 1 773 messages haineux ont été documentés. Une application d'aide aux victimes est annoncée.

Chaque jour, plus de deux cents messages de haine visent les Maghrébins sur les réseaux sociaux. Ainsi, une équipe a décidé de tous les lire. Son outil s'appelle KORA.

Présentée comme la première intelligence artificielle
dédiée à la lutte contre le racisme
et l'islamophobie en ligne, elle appartient au projet Tajmaat. Par ailleurs, une application d'aide aux victimes est annoncée.

KORA, une intelligence artificielle contre le racisme en ligne

KORA est l'agent du projet Tajmaat. Elle surveille les réseaux selon un cycle fixe. Ensuite, elle repère les messages qui appellent à la violence.

Enfin, elle attribue à chacun un niveau de gravité. La vidéo de présentation en montre un exemple : "critique, 92/100". Ce score permet donc de trier l'urgent de l'ordinaire.

Le principe est simple à dire. En revanche, il est lourd à regarder. Une machine lit chaque jour ce que personne n'a le courage de lire en entier.

OMROS: des dossiers de preuves en quelques secondes

Derrière KORA, un outil nommé OMROS recoupe et classe les dossiers de preuves. Il le fait en quelques secondes. Ce travail demandait auparavant des heures de captures d'écran et de tri.

De plus, un dossier bien classé sert à plusieurs usages. Les associations peuvent l'utiliser pour alerter. Les victimes peuvent s'en servir pour porter plainte.

NEXUS: cartographier les réseaux de comptes

Un autre outil, NEXUS, cartographie les réseaux de comptes. Ces comptes se répondent, se relaient et s'encouragent. En effet, la haine en ligne ne vient presque jamais de voix isolées.

Cette cartographie change la lecture du phénomène. Elle montre des groupes coordonnés, pas seulement des internautes en colère. C'est pourquoi elle intéresse autant les associations que les chercheurs.

1 773 messages haineux documentés en sept jours

Le bilan de la semaine du 28 septembre est lourd. Tajmaat a documenté 1 773 messages haineux en sept jours. Cela représente environ 250 messages par jour.

Jusqu'ici, ces messages disparaissaient sans laisser de trace. Les victimes n'avaient ni le temps ni le courage de les signaler. Cependant, un message non signalé reste invisible pour la justice.

Documenter change donc l'échelle du problème. Un chiffre précis pèse plus qu'un sentiment diffus. De plus, il oblige les plateformes à répondre sur des cas concrets.

La haine s'organise, la réponse aussi

En avril 2023, BFMTV révélait qu'un policier avait été suspendu. Il avait participé à un groupe de discussion raciste sur Telegram. Ce jour-là, on a su ce que beaucoup savaient déjà : la haine s'organise.

Tajmaat veut donc organiser la réponse. Le projet ne se limite pas à la technologie. Il vise à relier les victimes, les preuves et les associations.

Une application est annoncée. Elle doit permettre de signaler un message et d'être accompagné. Elle doit aussi aider à trouver une association près de chez soi.

Le calendrier de lancement n'a pas été précisé dans la présentation. En attendant, KORA, OMROS et NEXUS constituent la partie déjà visible du dispositif.