メインコンテンツへスキップ
hide replies エンドポイントを使用すると、無関係である可能性が非常に高い返信をユーザーが非表示にできるようにするワークフローを構築できます。
有用なアプリは、ユーザーに価値を提供するために複数の技術を組み合わせることがよくあります。このページでは、Perspective API を使って返信を非表示にする方法を示します。この API は、Google 内の組織である Jigsaw によって訓練された人工知能で、有害なコメントを検出します。アプリケーションのロジックは次のように動作します。
- ユーザーの Post を読み取り、返信を非表示または再表示する許可をユーザーに求めます。
- Account Activity API を使用して受信した返信を検出します。
- Perspective API に「スコア」（0 から 1 の数値）を要求します。これは、過去に見た有害なコメントにそのコメントがどの程度類似しているかについて、アルゴリズムの確信度を示します（Perspective はサービスに送信されたテキストを保存しません）。
- アルゴリズムのスコアが非常に高い場合、返信の非表示を呼び出します。
Perspective は実際の Post で学習されていないため、言語の細かなニュアンスによっては、ユーザーが非表示にしたくない返信をアプリが非表示にしてしまう可能性があります。アプリを設計する際は、採用する技術や手法にかかわらず、アプリが何を非表示にしたのかをユーザーが把握し、必要に応じて変更できるよう、常に最大限配慮してください。
- 最も望ましいのは、常にユーザーを信頼し、意思決定の主導権を全面的に委ねることです。つまり、ユーザー体験には、アプリがユーザーに代わって実行したあらゆる操作を元に戻せるコントロールを必ず用意すべきです。
- 人工知能を用いる場合は、Post を検出して非表示にする際の信頼度のしきい値を非常に高く設定してください。
- すべての人が同じ言葉を使うわけではないため、偏りを避ける設計にしてください。誤検出につながり得るリクレイムドワードやスラングには留意しましょう。
- 人工知能を学習させる場合は、X で頻繁に使われる言語使用をできるだけ忠実に反映するモデルの採用を検討してください。
