Passer au contenu principal

​
Gérer les réponses en temps réel

Avec l’endpoint de masquage des réponses, vous pouvez créer un flux de travail qui aide vos utilisateurs à masquer les réponses ayant une très forte probabilité d’être non pertinentes. Les apps utiles combinent souvent des technologies afin d’apporter de la valeur à leurs utilisateurs. Cette page montre comment masquer des réponses en utilisant l’API Perspective. Cette API est un système d’intelligence artificielle entraîné par Jigsaw, une unité de Google, pour détecter les commentaires toxiques. La logique de l’application fonctionnera de la manière suivante :
  1. Elle demande l’autorisation de l’utilisateur pour lire ses Posts et masquer ou réafficher ses réponses.
  2. Elle utilise l’Account Activity API pour détecter les réponses entrantes.
  3. Elle demande à l’API Perspective de fournir un « score » (un nombre entre 0 et 1) indiquant avec quel niveau de confiance son algorithme estime qu’un commentaire ressemble à des commentaires toxiques observés par le passé. (Perspective ne stocke pas le texte envoyé au service.)
  4. Elle appelle le masquage des réponses si le score de l’algorithme est très élevé.

​
Visez la transparence

Comme Perspective n’est pas entraîné sur de véritables Posts, certaines nuances de langage peuvent amener cette App à masquer une réponse qu’un utilisateur souhaite laisser visible. Quelle que soit la technologie ou l’approche utilisée pour concevoir votre App, faites toujours tout votre possible pour que vos utilisateurs comprennent ce que votre App a masqué et puissent y apporter des modifications.
  • La meilleure option consiste à toujours faire confiance à l’utilisateur et à lui donner un contrôle total sur ses décisions. Cela signifie que votre expérience utilisateur doit inclure des commandes permettant d’annuler toute action effectuée par votre App au nom de l’utilisateur.
  • Lors de l’utilisation d’une intelligence artificielle, votre App doit appliquer un seuil de confiance très élevé pour détecter et masquer des Posts.
  • Tout le monde n’utilise pas les mêmes mots, et votre App doit être conçue pour éviter tout biais. Soyez attentif aux mots réappropriés et à l’argot susceptibles de générer des faux positifs.
  • Si vous entraînez une intelligence artificielle, envisagez d’adopter un modèle qui reflète fidèlement le langage couramment utilisé sur X.
⌘I