Creep : l’intelligence artificielle qui aide à lutter contre le cyber harcèlement

  • Creep est une intelligence artificielle développée pour lutter contre le cyber harcèlement en ligne sur les réseaux sociaux.
  • Creep repère automatiquement les messages malveillants et la récurrence des attaques envers une personne spécifique.
  • L'IA apprend le langage spécifique des réseaux sociaux et est actuellement testée dans des écoles en Italie.
  • Selon l'UNESCO, 12 % des enfants de 9 à 16 ans sont victimes de harcèlement en ligne, tandis que 63 % des jeunes adultes de 20-24 ans ont été ciblés sur les réseaux sociaux.

A Nice, deux chercheuses, Elena Cabrio et Serena Villata, planchent sur une intelligence artificielle spécialement destinée à la lutte contre le harcèlement en ligne, en particulier sur les réseaux sociaux. Développée en secret dans le laboratoire Sophia Antipolis (I3S), l’IA a été baptisée Creep. Elle est capable de détecter automatiquement les échanges et les messages malveillants, signes de cyber harcèlement, sur Facebook, Twitter ou encore Instagram.

Creep : l’intelligence artificielle qui aide à lutter contre le cyber harcèlement

  • L’intelligence artificielle expliquée – Des concepts de base aux applications avancées de l’IA
  • L’intelligence artificielle pour les Nuls, Nouvelle édition: Découvrir les bases de l’intelligence artificielle, Appréhender les enjeux de cette révolution technologique, connaître les limites de l’IA

Comment fonctionne Creep ?

Pour détecter les harcèlements sur les réseaux sociaux, Creep ne se base pas seulement sur le repérage de mots-clés. L’IA repère également la récurrence des messages malveillants envoyés à l’encontre d’une personne en particulier.

Pour ce faire, le programme est actuellement en train d’apprendre « le langage spécifique des réseaux sociaux » qui, comme l’explique Elena Cabrio « n’est pas la langue écrite académique et […] est différente du langage parlé ».

Creep « parle » anglais et italien, et fonctionnera bientôt français et en espagnol. La version démo est actuellement en phase test dans des écoles dans la province de Trente en Italie.

Quelques chiffres clé sur le cyber harcèlement

Selon les derniers chiffres communiqués par l’UNESCO, près de 12 % d’enfants âgés entre 9 à 16 ans sont victimes d’harcèlement sur Internet. Ils ne sont que 10 % à en parler avec leur parent ou une grande personne.

Chez les jeunes adultes âgés de 20-24 ans, une enquête menée par 20 minutes et Opinion Way révèle qu’ils sont 63 % à avoir été la cible de harcèlement sur les réseaux sociaux.

  • Intelligences artificielles : de la théorie à la pratique: Modèles, applications et enjeux des IA
  • INTELLIGENCE ARTIFICIELLE 3 en 1: Comprendre, maîtriser et utiliser cette nouvelle technologie intelligente. Découvrez comment machine learning , deep … artificielle changent le monde.
S’abonner
Notifier de
guest
Commentaires
Inline Feedbacks
View all comments