Instagram va masquer les gros mots pour lutter contre le harcèlement

Instagram (Facebook) permet depuis mercredi à ses utilisateurs de filtrer les messages reçus sur la plateforme pour les expurger des expressions injurieuses, un nouveau pas pour le réseau social qui veut donner des gages dans la lutte contre le harcèlement en ligne.

« Dans la mesure où les messages directs sont des conversations privées, nous n’y recherchons pas de manière proactive des signes de discours haineux ou de harcèlement comme nous le faisons ailleurs sur Instagram », explique la populaire application de partage d’images dans un communiqué.

Les utilisateurs de sept pays (Royaume-Uni, France, Irlande, Allemagne, Australie, Nouvelle-Zélande, Canada) peuvent activer une option permettant de masquer automatiquement les «demandes de messages directs» (invitations à discuter) contenant des mots, expressions ou emojis offensants.

« C’est dans ces pays qu’il y a eu des personnalités publiques, notamment des footballeurs, qui ont été victimes d’abus et de termes offensants dans les messages direct s», a précisé à l’AFP Clotilde Briend, responsable des politiques publiques chez Instagram.

Selon elle, « la majeure partie des discours de haine émanent de ces demandes de messages directs. On va donner la possibilité à chacun de nous signaler ou non ces messages » qui resteront accessibles dans une boite de réception séparée.

En français, «quelques dizaines» d’expressions sont bloquées, définies avec l’association Génération numérique qui sensibilise les plus jeunes à l’usage des réseaux sociaux, et les utilisateurs auront la possibilité d’ajouter leurs propres termes, comme cela est déjà le cas pour la modération des commentaires.

Le filtrage s’effectue directement sur le terminal de l’usager, et selon Mme Brient, il pourrait ensuite être étendu aux autres messageries populaires du groupe Facebook : Messenger et Whatsapp.

Instagram, qui compte plus d’un milliard d’utilisateurs, tente depuis des années de lutter contre le harcèlement, les discours haineux et la désinformation qui pullule sur les réseaux sociaux.

En 2019, l’entreprise lançait une intelligence artificielle pour avertir proactivement les personnes souhaitant publier des messages injurieux et, plus récemment, elle annonçait qu’elle utiliserait l’apprentissage automatique pour deviner l’âge réel des utilisateurs.