Zum Hauptinhalt springen

​
Antworten in Echtzeit verwalten

Mit dem hide replies endpoint können Sie einen Workflow erstellen, der Ihren Nutzern hilft, Antworten auszublenden, die mit sehr hoher Wahrscheinlichkeit irrelevant sind. Nützliche Apps kombinieren häufig verschiedene Technologien, um für ihre Nutzer einen Mehrwert zu bieten. Auf dieser Seite erfahren Sie, wie Sie Antworten mithilfe der Perspective API ausblenden. Diese API ist eine von Jigsaw, einer Einheit innerhalb von Google, trainierte künstliche Intelligenz zur Erkennung toxischer Kommentare. Die Anwendungslogik funktioniert wie folgt:
  1. Sie bittet den Nutzer um Erlaubnis, seine Posts zu lesen und seine Antworten auszublenden oder wieder einzublenden.
  2. Sie verwendet die Account Activity API, um eingehende Antworten zu erkennen.
  3. Sie bittet die Perspective API um einen „Score“ (eine Zahl zwischen 0 und 1), der angibt, wie sicher der Algorithmus ist, dass ein Kommentar toxischen Kommentaren ähnelt, die er in der Vergangenheit gesehen hat. (Perspective speichert den an den Dienst gesendeten Text nicht.)
  4. Sie ruft hide replies auf, wenn der Score des Algorithmus sehr hoch ist.

​
Streben Sie nach Transparenz

Da Perspective nicht auf tatsächlichen Posts trainiert ist, können bestimmte Sprachnuancen dazu führen, dass diese App eine Antwort ausblendet, die ein Nutzer eigentlich sichtbar lassen möchte. Unabhängig von der verwendeten Technologie oder dem Ansatz bei der Gestaltung Ihrer App sollten Sie stets bestmöglich dafür sorgen, dass Ihre Nutzer verstehen, was Ihre App ausgeblendet hat, und dies bei Bedarf ändern können.
  • Am besten ist es, den Nutzern zu vertrauen und ihnen volle Kontrolle über ihre Entscheidungen zu geben. Das bedeutet, dass Ihre User Experience Optionen bieten sollte, um jede von Ihrer App im Namen der Nutzer vorgenommenen Aktion rückgängig zu machen.
  • Beim Einsatz künstlicher Intelligenz sollte Ihre App eine sehr hohe Konfidenzschwelle verwenden, um Posts zu erkennen und auszublenden.
  • Nicht alle benutzen dieselben Wörter, und Ihre App sollte so gestaltet sein, dass sie Verzerrungen vermeidet. Achten Sie auf zurückeroberte Begriffe und Slang, die zu Fehlalarmen führen können.
  • Wenn Sie eine künstliche Intelligenz trainieren, sollten Sie ein Modell in Betracht ziehen, das die auf X häufig verwendete Sprache möglichst genau widerspiegelt.
⌘I