Creep : l’intelligence artificielle qui aide à lutter contre le cyber harcèlement

A Nice, deux chercheuses, Elena Cabrio et Serena Villata, planchent sur une intelligence artificielle spécialement destinée à la lutte contre le harcèlement en ligne, en particulier sur les réseaux sociaux. Développée en secret dans le laboratoire Sophia Antipolis (I3S), l’IA a été baptisée Creep. Elle est capable de détecter automatiquement les échanges et les messages malveillants, signes de cyber harcèlement, sur Facebook, Twitter ou encore Instagram.

Creep : l’intelligence artificielle qui aide à lutter contre le cyber harcèlement

Comment fonctionne Creep ?

Pour détecter les harcèlements sur les réseaux sociaux, Creep ne se base pas seulement sur le repérage de mots-clés. L’IA repère également la récurrence des messages malveillants envoyés à l’encontre d’une personne en particulier.

Pour ce faire, le programme est actuellement en train d’apprendre « le langage spécifique des réseaux sociaux » qui, comme l’explique Elena Cabrio « n’est pas la langue écrite académique et […] est différente du langage parlé ».

Creep « parle » anglais et italien, et fonctionnera bientôt français et en espagnol. La version démo est actuellement en phase test dans des écoles dans la province de Trente en Italie.

Quelques chiffres clé sur le cyber harcèlement

Selon les derniers chiffres communiqués par l’UNESCO, près de 12 % d’enfants âgés entre 9 à 16 ans sont victimes d’harcèlement sur Internet. Ils ne sont que 10 % à en parler avec leur parent ou une grande personne.

Chez les jeunes adultes âgés de 20-24 ans, une enquête menée par 20 minutes et Opinion Way révèle qu’ils sont 63 % à avoir été la cible de harcèlement sur les réseaux sociaux.