Gerencie respostas em tempo real
Com o endpoint de ocultar respostas, você pode criar um fluxo de trabalho para ajudar seus usuários a ocultar respostas com alta probabilidade de serem irrelevantes. Apps úteis frequentemente combinam tecnologias para oferecer mais valor aos seus usuários. Esta página mostra como ocultar respostas usando a Perspective API. Essa API é um sistema de inteligência artificial treinado pela Jigsaw, uma unidade do Google, para detectar comentários tóxicos. A lógica do aplicativo funciona da seguinte maneira:- Solicita a permissão do usuário para ler seus Posts e ocultar ou reexibir suas respostas.
- Usa a Account Activity API para detectar respostas recebidas.
- Solicita à Perspective API que forneça uma “pontuação” (um número entre 0 e 1) que indica o grau de confiança do algoritmo de que um comentário é semelhante a comentários tóxicos que já viu no passado. (A Perspective não armazena o texto enviado ao serviço.)
- Chama o ocultar respostas se a pontuação do algoritmo for muito alta.
Busque a transparência
Como o Perspective não é treinado com Posts reais, certas nuances de linguagem podem fazer com que este App oculte uma resposta que o usuário gostaria de manter visível. Independentemente da tecnologia ou da abordagem usada ao projetar seu App, sempre faça o possível para garantir que seus usuários entendam o que seu App ocultou e possam fazer ajustes.- A melhor opção é sempre confiar no usuário e dar a ele controle total sobre suas decisões. Isso significa que a experiência do usuário deve incluir controles para desfazer qualquer ação realizada pelo seu App em nome do usuário.
- Ao usar inteligência artificial, seu App deve aplicar um limiar de confiança muito alto para detectar e ocultar Posts.
- Nem todo mundo usa as mesmas palavras, e seu App deve ser projetado para evitar qualquer viés. Fique atento a termos ressignificados e gírias que podem gerar falsos positivos.
- Se você estiver treinando uma inteligência artificial, considere adotar um modelo que reflita de perto a linguagem frequentemente usada no X.