주제별 답글 관리

​

실시간으로 답글 관리하기

hide replies 엔드포인트를 사용하면, 사용자에게 거의 무관할 가능성이 매우 높은 답글을 숨길 수 있도록 도와주는 워크플로를 구축할 수 있습니다.

유용한 App은 여러 기술을 결합해 사용자에게 더 큰 가치를 제공하는 경우가 많습니다. 이 페이지에서는 Perspective API를 사용해 답글을 숨기는 방법을 설명합니다. 이 API는 Google 산하 조직인 Jigsaw가 유해 댓글을 탐지하도록 학습시킨 인공지능입니다. 애플리케이션 로직은 다음과 같이 동작합니다:

1. 사용자의 게시물을 읽고, 해당 게시물에 달린 답글을 숨기거나 다시 표시할 수 있도록 사용자에게 권한을 요청합니다.
2. Account Activity API를 사용해 새로 들어오는 답글을 감지합니다.
3. Perspective API에 0과 1 사이의 숫자인 “점수”를 요청합니다. 이 점수는 댓글이 과거에 본 유해 댓글과 유사하다고 그 알고리즘이 확신하는 정도를 나타냅니다. (Perspective는 서비스로 전송된 텍스트를 저장하지 않습니다.)
4. 알고리즘의 점수가 매우 높은 경우 hide replies를 호출합니다.

​

투명성을 지향하세요

Perspective는 실제 포스트 데이터를 기반으로 학습된 모델이 아니기 때문에, 특정 언어의 뉘앙스로 인해 사용자가 숨기고 싶지 않은 답글이 이 앱에 의해 숨겨질 수 있습니다. 앱을 설계할 때 어떤 기술이나 접근 방식을 사용하더라도, 항상 최선을 다해 사용자가 앱이 무엇을 숨겼는지 이해하고 이를 직접 변경할 수 있도록 해야 합니다.

• 가장 좋은 방식은 항상 사용자를 신뢰하고, 사용자의 결정에 대한 완전한 통제권을 제공하는 것입니다. 이는 사용자 경험에, 앱이 사용자를 대신해 수행한 모든 작업을 되돌릴 수 있는 제어 기능을 포함해야 함을 의미합니다.
• 인공지능을 사용할 경우, 앱은 포스트를 감지하고 숨기기 위해 매우 높은 신뢰도 임계값을 사용해야 합니다.
• 모든 사람이 같은 단어를 사용하지는 않으므로, 앱은 어떠한 편향도 피할 수 있도록 설계되어야 합니다. 재appropriation된(reclaimed) 단어와 속어가 오탐(false positive)을 유발할 수 있다는 점에 유의하세요.
• 인공지능을 학습시키는 경우, X에서 자주 사용되는 언어를 최대한 밀접하게 반영하는 모델을 채택하는 것을 고려하세요.