Perché i fornitori di moderazione dei commenti devono andare oltre per proteggere i loro partner

Le aziende del settore dei media, come tutti i marchi, cercano di costruire riconoscimento e fiducia pubblicando contenuti generati dagli utenti. Tuttavia, la pubblicazione di questi contenuti non è priva di rischi: le organizzazioni devono assicurarsi che gli utenti non pubblichino post offensivi o minacciosi sui loro siti web o sulle loro app. È qui che entra in gioco la moderazione dei contenuti.

Nell’ambiente moderno, le organizzazioni stanno facendo tutto il possibile per garantire la civiltà sulle loro proprietà digitali e, allo stesso tempo, promuovere la libertà di parola e le conversazioni di opinione. Molti di loro hanno implementato soluzioni di moderazione che utilizzano moderatori in carne e ossa o algoritmi automatizzati per risolvere questa sfida.

Anche la popolazione in generale è diventata consapevole della moderazione – In particolare, cosa fa e perché viene utilizzato. Cosa succede quando il vostro partner di moderazione diventa qualcosa di più di un semplice fornitore di tecnologia?

Recentemente, un cliente di Viafoura e uno dei maggiori editori del Regno Unito ha scoperto perché il team di moderazione Viafoura è molto più di un partner.

L’editore utilizza sia le soluzioni di AI (Intelligenza Artificiale) che di Live Moderation di Viafoura. Poiché la soluzione AI apprende e applica le linee guida della community stabilite dall’editore, l’85-90% di tutti i commenti viene facilmente moderato dal suo motore AI. I restanti “commenti discutibili” vengono inviati a un moderatore in diretta per un giudizio.

All’inizio di quest’anno, uno di questi commenti è stato inviato a un moderatore in diretta a Viafoura. A un utente ha minacciato un vivaio nella sezione dei commenti, che ovviamente è stato segnalato e inviato alla coda di moderazione.

Invece di bloccare il commento e bannare l’utente, il responsabile della moderazione di Viafoura ha contattato il team dell’editore per spiegare la situazione. I dipendenti della grande casa editrice hanno immediatamente affrontato la situazione con le forze dell’ordine locali.

In meno di mezz’ora dalla pubblicazione del commento, la polizia è entrata in azione.

Grazie alla prontezza di riflessi di Viafoura e dei dipendenti dell’editore, che hanno fatto il possibile per evitare una situazione potenzialmente terribile. Viafoura e dei dipendenti della casa editrice, che hanno fatto il possibile per evitare una situazione potenzialmente terribile.

“La moderazione è molto più di un giudizio per garantire che i contenuti generati dagli utenti rispettino le linee guida e le regole specifiche della piattaforma per stabilire l’idoneità dei contenuti alla pubblicazione”, afferma Leigh Adams, direttore dei servizi di moderazione di Viafoura. “Sì, ci teniamo a mantenere gli standard dei nostri clienti, ma si tratta anche di capire quando un commento deve essere intensificato. Siamo orgogliosi di avere un personale che sa cosa fare quando – e fare il passo più lungo della gamba per raggiungere i nostri clienti – perché abbiamo le relazioni per farlo facilmente”.