Saltar al contenido principal

​
Gestionar respuestas en tiempo real

Con el endpoint de ocultar respuestas, puedes crear un flujo de trabajo que ayude a tus usuarios a ocultar respuestas que tengan una probabilidad muy alta de ser irrelevantes. Las apps útiles a menudo combinan tecnologías para que puedan aportar valor a sus usuarios. Esta página muestra cómo ocultar respuestas usando la Perspective API. Esta API es una inteligencia artificial entrenada por Jigsaw, una unidad dentro de Google, para detectar comentarios tóxicos. La lógica de la aplicación funcionará de la siguiente manera:
  1. Pide permiso al usuario para leer sus Publicaciones y ocultar o dejar de ocultar sus respuestas.
  2. Usa la Account Activity API para detectar respuestas entrantes.
  3. Pide a la Perspective API que proporcione una “puntuación” (un número entre 0 y 1) que indique qué tan seguro está su algoritmo de que un comentario es similar a comentarios tóxicos que ha visto en el pasado. (Perspective no almacena el texto enviado al servicio).
  4. Llama al endpoint de ocultar respuestas si la puntuación del algoritmo es muy alta.

​
Procura la transparencia

Dado que Perspective no está entrenado con Publicaciones reales, ciertos matices del lenguaje pueden hacer que esta aplicación oculte una respuesta que la persona usuaria quiere mantener visible. Independientemente de la tecnología o el enfoque que uses al diseñar tu aplicación, haz siempre todo lo posible por asegurarte de que las personas usuarias entienden qué ha ocultado tu aplicación y puedan hacer cambios.
  • La mejor opción es confiar siempre en la persona usuaria y darle control total sobre sus decisiones. Esto significa que tu experiencia de usuario debe incluir controles para deshacer cualquier acción que tu aplicación haya realizado en nombre de la persona usuaria.
  • Cuando uses una inteligencia artificial, tu aplicación debe utilizar un umbral de confianza muy alto para detectar y ocultar Publicaciones.
  • No todo el mundo usa las mismas palabras y tu aplicación debe estar diseñada para evitar cualquier sesgo. Ten en cuenta las palabras resignificadas y la jerga que puedan generar falsos positivos.
  • Si estás entrenando una inteligencia artificial, considera adoptar un modelo que refleje lo más fielmente posible el lenguaje que se usa con frecuencia en X.