메인 콘텐츠로 건너뛰기
hide replies 엔드포인트를 사용하면 사용자가 관련성이 매우 낮은 답글을 숨길 수 있도록 돕는 워크플로를 구축할 수 있습니다.
유용한 앱은 종종 여러 기술을 결합해 사용자에게 가치를 제공합니다. 이 페이지는 Perspective API를 사용해 답글을 숨기는 방법을 설명합니다. 이 API는 Google 산하 조직인 Jigsaw가 유해성 댓글을 감지하도록 학습시킨 인공지능입니다. 애플리케이션 로직은 다음과 같이 동작합니다.
- 사용자의 게시물을 읽고 해당 게시물에 대한 답글을 숨기거나 숨김 해제할 수 있도록 권한을 요청합니다.
- Account Activity API를 사용해 수신되는 답글을 감지합니다.
- Perspective API에 “점수”(0과 1 사이의 숫자)를 요청하여, 댓글이 과거에 관찰된 유해성 댓글과 유사할 가능성에 대한 알고리즘의 신뢰도를 나타내게 합니다. (Perspective는 서비스로 전송된 텍스트를 저장하지 않습니다.)
- 알고리즘의 점수가 매우 높으면 hide replies를 호출합니다.
Perspective는 실제 게시물로 학습되지 않았기 때문에, 특정한 언어적 뉘앙스로 인해 사용자가 숨기지 않기를 원하는 답글이 앱에서 숨겨질 수 있습니다. 앱을 설계할 때 사용하는 기술이나 접근 방식과 무관하게, 사용자가 앱이 무엇을 숨겼는지 이해하고 스스로 변경할 수 있도록 최선을 다해야 합니다.
- 최선은 언제나 사용자를 신뢰하고 그들의 결정에 대한 전적인 통제권을 부여하는 것입니다. 이를 위해 사용자 경험에는 앱이 사용자를 대신해 수행한 모든 작업을 되돌릴 수 있는 제어 기능이 포함되어야 합니다.
- 인공지능을 사용할 때에는, 게시물을 감지하고 숨기기 위해 매우 높은 신뢰도 임계값을 사용해야 합니다.
- 모두가 같은 단어를 사용하는 것은 아니므로, 앱은 어떠한 편향도 피하도록 설계되어야 합니다. 오탐을 유발할 수 있는 되찾아 쓰는 표현(reclaimed words)과 속어에 유의하세요.
- 인공지능을 학습시키는 경우, X에서 흔히 사용되는 언어를 밀접하게 반영하는 모델의 채택을 고려하세요.
