Pourquoi les fournisseurs de services de modération des commentaires doivent aller plus loin pour protéger leurs partenaires

Les entreprises de médias, comme toutes les marques, cherchent à renforcer la reconnaissance et la confiance en publiant du contenu généré par les utilisateurs. Cependant, la publication de ce contenu n’est pas sans risque : les organisations doivent s’assurer que les utilisateurs ne publient pas de messages offensants ou menaçants sur leurs sites Web ou leurs applications. C’est là que la modération du contenu entre en jeu.

Dans l’environnement moderne actuel, les organisations font tout leur possible pour garantir la civilité sur leurs propriétés numériques tout en encourageant la liberté d’expression et les conversations d’opinion. Nombre d’entre eux ont mis en place des solutions de modération qui font appel à des modérateurs en direct ou utilisent des algorithmes automatisés pour résoudre ce problème.

La population générale a également pris conscience de la modération. – en particulier ce qu’il fait et pourquoi il est utilisé. Que se passe-t-il donc lorsque votre partenaire de modération devient plus qu’un simple fournisseur de technologie ?

Récemment, un client de Viafoura et l’un des plus grands éditeurs du Royaume-Uni a découvert pourquoi l’équipe de modération de Viafoura est bien plus qu’un partenaire.

L’éditeur utilise à la fois les solutions d’IA (Intelligence Artificielle) et de modération en direct de Viafoura. Comme la solution d’IA apprend et applique les directives de la communauté définies par l’éditeur, 85 % à 90 % des commentaires sont facilement modérés par son moteur d’IA. Les autres “commentaires douteux” sont envoyés à un modérateur en direct pour qu’il prenne une décision.

Au début de cette année, l’un de ces commentaires a été envoyé à un modérateur en direct à Viafoura. A Un utilisateur a menacé une crèche dans la section des commentaires, ce qui a bien sûr été signalé et envoyé dans la file d’attente de modération.

Au lieu de simplement bloquer le commentaire et de bannir l’utilisateur, l’employé de modération de Viafoura a contacté l’équipe de l’éditeur pour expliquer la situation. Les employés de la grande maison d’édition ont immédiatement abordé la situation avec les forces de l’ordre locales.

Moins d’une demi-heure après la publication du commentaire, la police est intervenue.

Grâce à la rapidité d’esprit de Viafoura et des employés de l’éditeur, qui ont fait un effort supplémentaire. qui ont fait un effort supplémentaire, une situation potentiellement terrible a été entièrement évitée.

“La modération est bien plus qu’un simple jugement consistant à s’assurer que le contenu généré par l’utilisateur respecte les directives et les règles propres à la plateforme afin de déterminer si le contenu peut être publié”, explique Leigh Adams, directrice des services de modération chez Viafoura. “Oui, il s’agit de maintenir les normes de nos clients, mais il s’agit aussi de reconnaître quand un commentaire doit être transmis. Nous sommes fiers de disposer d’un personnel qui sait quoi faire quand… – et faire un effort supplémentaire pour atteindre nos clients. – parce que nous avons la relation pour le faire facilement.”