Gestire le risposte in tempo reale
Con l’endpoint per nascondere le risposte, puoi creare un flusso di lavoro che aiuti i tuoi utenti a nascondere le risposte con un’elevata probabilità di essere irrilevanti. Le App utili spesso combinano più tecnologie per offrire valore ai propri utenti. Questa pagina mostra come nascondere le risposte utilizzando la Perspective API. Questa API è un sistema di intelligenza artificiale addestrato da Jigsaw, un’unità di Google, per rilevare commenti tossici. La logica dell’applicazione funzionerà nel modo seguente:- Chiede il permesso all’utente di leggere i suoi Post e di nascondere o ripristinare le sue risposte.
- Utilizza la Account Activity API per rilevare le risposte in arrivo.
- Richiede alla Perspective API di fornire un “punteggio” (un numero tra 0 e 1) che indica il livello di confidenza dell’algoritmo nel ritenere che un commento sia simile a commenti tossici osservati in passato. (Perspective non memorizza il testo inviato al servizio).
- Chiama l’operazione di nascondere le risposte se il punteggio dell’algoritmo è molto alto.
Puntare alla trasparenza
Poiché Perspective non è addestrato su Post reali, alcune sfumature linguistiche potrebbero portare l’app a nascondere una risposta che un utente desidera mantenere visibile. Indipendentemente dalla tecnologia o dall’approccio utilizzato nella progettazione della tua App, fai sempre il massimo per garantire che gli utenti comprendano cosa la tua App ha nascosto e possano intervenire.- L’opzione migliore è fidarsi sempre dell’utente e dargli il pieno controllo delle sue decisioni. Ciò significa che l’esperienza utente dovrebbe includere controlli per annullare qualsiasi azione intrapresa dalla tua App per conto dell’utente.
- Quando utilizzi un’intelligenza artificiale, la tua App dovrebbe adottare una soglia di confidenza molto elevata per rilevare e nascondere i Post.
- Non tutti usano le stesse parole e la tua App dovrebbe essere progettata per evitare qualsiasi bias. Presta attenzione ai termini riappropriati e allo slang che possono generare falsi positivi.
- Se stai addestrando un’intelligenza artificiale, valuta l’adozione di un modello che rispecchi da vicino il linguaggio usato di frequente su X.