Passer au contenu principal

​
Gérer les réponses en temps réel

Avec l’endpoint de masquage des réponses, vous pouvez créer un workflow qui aide vos utilisateurs à masquer les réponses ayant une probabilité très élevée d’être non pertinentes. Les applications utiles combinent souvent plusieurs technologies afin d’apporter de la valeur à leurs utilisateurs. Cette page montre comment masquer des réponses en utilisant l’API Perspective. Cette API est un modèle d’intelligence artificielle entraîné par Jigsaw, une entité de Google, pour détecter les commentaires toxiques. La logique applicative fonctionnera de la manière suivante :
  1. L’application demande l’autorisation de l’utilisateur pour lire ses Publications et masquer ou réafficher ses réponses.
  2. Elle utilise l’Account Activity API pour détecter les réponses entrantes.
  3. Elle demande à l’API Perspective de fournir un « score » (un nombre compris entre 0 et 1) qui indique le niveau de confiance de l’algorithme dans le fait qu’un commentaire est similaire à des commentaires toxiques qu’il a déjà vus. (Perspective ne stocke pas le texte envoyé au service).
  4. Elle appelle l’endpoint de masquage des réponses si le score de l’algorithme est très élevé.

​
Visez la transparence

Parce que Perspective n’a pas été entraîné sur de véritables Publications, certaines nuances de langage peuvent amener cette application à masquer une réponse qu’un utilisateur souhaite laisser visible. Quelle que soit la technologie ou l’approche que vous utilisez lors de la conception de votre application, faites toujours tout votre possible pour que vos utilisateurs comprennent clairement ce que votre application a masqué et puissent le modifier.
  • La meilleure option est de toujours faire confiance à l’utilisateur et de lui donner le contrôle total sur ses décisions. Cela signifie que votre expérience utilisateur doit inclure des contrôles permettant d’annuler toute action effectuée par votre application au nom de l’utilisateur.
  • Lorsque vous utilisez une intelligence artificielle, votre application doit appliquer un seuil de confiance très élevé pour détecter et masquer les Publications.
  • Tout le monde n’utilise pas les mêmes mots, et votre application doit être conçue pour éviter tout biais. Soyez attentif aux mots réappropriés et à l’argot qui peuvent entraîner des faux positifs.
  • Si vous entraînez une intelligence artificielle, envisagez d’adopter un modèle qui reflète au plus près la langue couramment utilisée sur X.