Saltar al contenido principal

​
Gestiona las respuestas en tiempo real

Con el endpoint de ocultar respuestas, puedes crear un flujo de trabajo que ayude a tus usuarios a ocultar respuestas con una probabilidad muy alta de ser irrelevantes. Las Apps útiles suelen combinar tecnologías para aportar valor a sus usuarios. Esta página muestra cómo ocultar respuestas utilizando la Perspective API. Esta API es un sistema de inteligencia artificial entrenado por Jigsaw, una unidad de Google, para detectar comentarios tóxicos. La lógica de la aplicación funcionará de la siguiente manera:
  1. Solicita el permiso del usuario para leer sus Posts y ocultar o desocultar sus respuestas.
  2. Utiliza la Account Activity API para detectar respuestas entrantes.
  3. Solicita a la Perspective API que proporcione una “puntuación” (un número entre 0 y 1) que indique el nivel de confianza de su algoritmo en que un comentario es similar a otros comentarios tóxicos observados en el pasado. (Perspective no almacena el texto enviado al servicio).
  4. Invoca el endpoint de ocultar respuestas si la puntuación del algoritmo es muy alta.

​
Promueva la transparencia

Dado que Perspective no está entrenado con Posts reales, ciertas sutilezas del lenguaje pueden hacer que esta App oculte una respuesta que un usuario desea mantener visible. Independientemente de la tecnología o el enfoque que use al diseñar su App, haga siempre el mayor esfuerzo posible para garantizar que sus usuarios comprendan qué ha ocultado su App y puedan realizar cambios.
  • La mejor opción es confiar siempre en el usuario y darle control total sobre sus decisiones. Esto implica que su experiencia de usuario debe incluir controles para deshacer cualquier acción realizada por su App en nombre del usuario.
  • Cuando utilice una inteligencia artificial, su App debe emplear un umbral de confianza muy alto para detectar y ocultar Posts.
  • No todas las personas usan las mismas palabras, y su App debe estar diseñada para evitar sesgos. Tenga en cuenta palabras resignificadas y jerga que pueden provocar falsos positivos.
  • Si está entrenando una inteligencia artificial, considere adoptar un modelo que refleje de cerca el lenguaje que se usa con frecuencia en X.
⌘I