メインコンテンツへスキップ

​
リアルタイムで返信を管理する

hide replies エンドポイントを使うと、無関係である可能性が非常に高い返信をユーザーが非表示にできるようにするワークフローを構築できます。 役に立つアプリは、多くの場合、複数の技術を組み合わせて、ユーザーにとって価値あるものにしています。このページでは、Perspective API を使って返信を非表示にする方法を紹介します。この API は、Google 内の一部門である Jigsaw によってトレーニングされた人工知能で、有害なコメントを検出します。アプリケーションロジックは次のように動作します。
  1. ユーザーの投稿を読み取り、その返信を非表示または再表示するための許可をユーザーに求めます。
  2. Account Activity API を使用して、受信した返信を検出します。
  3. Perspective API に「スコア」（0〜1 の数値）をリクエストします。これは、あるコメントが過去に見た有害なコメントにどの程度類似しているかについて、そのアルゴリズムの確信度を示す値です（Perspective はサービスに送信されたテキストを保存しません）。
  4. アルゴリズムのスコアが非常に高い場合に、hide replies を呼び出して返信を非表示にします。

​
透明性を心がける

Perspective は実際の投稿データで学習されていないため、言語の微妙なニュアンスによって、ユーザーが本来は非表示にしたくない返信をこの App が非表示にしてしまう場合があります。どのような技術やアプローチで App を設計する場合でも、ユーザーが App によって何が非表示にされているのかを理解し、自分で変更できるようにするために、常に最大限努めてください。
  • 最も望ましいのは、常にユーザーを信頼し、その判断を完全にユーザー自身がコントロールできるようにすることです。つまり、ユーザーエクスペリエンスには、App がユーザーの代わりに行ったあらゆる操作を取り消せるコントロールを含める必要があります。
  • AI（人工知能）を利用する場合、App は投稿を検出して非表示にする際に、非常に高い信頼度のしきい値を使用する必要があります。
  • すべての人が同じ言葉を使うわけではないため、App は偏りを避けるように設計する必要があります。誤検知につながる可能性のある、スラングや、当事者が肯定的な意味で使い直している言葉には注意してください。
  • AI を学習させる場合は、X 上で頻繁に使われる言葉遣いをできるだけ忠実に反映したモデルの採用を検討してください。