Saltar al contenido principal

​
Gestiona las respuestas en tiempo real

Con el endpoint para ocultar respuestas, puedes crear un flujo de trabajo que ayude a tus usuarios a ocultar respuestas con una probabilidad muy alta de ser irrelevantes. Las apps útiles suelen combinar tecnologías para aportar valor a sus usuarios. Esta página muestra cómo ocultar respuestas usando la Perspective API. Esta API es una inteligencia artificial entrenada por Jigsaw, una unidad de Google, para detectar comentarios tóxicos. La lógica de la aplicación funcionará de la siguiente manera:
  1. Solicita permiso al usuario para leer sus Posts y ocultar o volver a mostrar sus respuestas.
  2. Utiliza la Account Activity API para detectar respuestas entrantes.
  3. Solicita a la Perspective API que proporcione una “puntuación” (un número entre 0 y 1) que indique con qué confianza su algoritmo considera que un comentario es similar a otros comentarios tóxicos que ha visto en el pasado. (Perspective no almacena el texto enviado al servicio).
  4. Llama al endpoint de ocultar respuestas si la puntuación del algoritmo es muy alta.

​
Procure la transparencia

Dado que Perspective no está entrenado con Posts reales, ciertas sutilezas del lenguaje pueden hacer que su App oculte una respuesta que un usuario desea mantener visible. Independientemente de la tecnología o el enfoque que use al diseñar su App, haga siempre el mayor esfuerzo posible para garantizar que sus usuarios entiendan qué ha ocultado su App y puedan realizar cambios.
  • La mejor opción es confiar siempre en el usuario y darle control total sobre sus decisiones. Esto significa que su experiencia de usuario debe incluir controles para deshacer cualquier acción que su App realice en nombre del usuario.
  • Al usar inteligencia artificial, su App debe emplear un umbral de confianza muy alto para detectar y ocultar Posts.
  • No todas las personas usan las mismas palabras, y su App debe estar diseñada para evitar sesgos. Tenga en cuenta palabras reapropiadas y la jerga que puedan generar falsos positivos.
  • Si está entrenando inteligencia artificial, considere adoptar un modelo que refleje de cerca el lenguaje que se usa con frecuencia en X.