मुख्य सामग्री पर जाएं

​
रीयल टाइम में रिप्लाई को प्रबंधित करें

hide replies endpoint के साथ, आप ऐसा वर्कफ़्लो बना सकते हैं जो आपके उपयोगकर्ताओं को उन रिप्लाई को छिपाने में मदद करे जिनके अप्रासंगिक होने की संभावना बहुत अधिक है। उपयोगी ऐप्स अक्सर कई तकनीकों को साथ मिलाकर इस्तेमाल करते हैं, ताकि वे अपने उपयोगकर्ताओं के लिए अधिक मूल्यवान बन सकें। यह पेज दिखाता है कि Perspective API का उपयोग करके रिप्लाई को कैसे छिपाया जाए। यह API, Google के अंतर्गत आने वाली इकाई Jigsaw द्वारा प्रशिक्षित एक कृत्रिम बुद्धिमत्ता है, जो विषाक्त टिप्पणियों का पता लगाती है। एप्लिकेशन लॉजिक इस तरह काम करेगा:
  1. यह उपयोगकर्ता से उनके पोस्ट्स पढ़ने और उनके रिप्लाई को छिपाने या फिर से दिखाने की अनुमति मांगता है।
  2. यह आने वाले रिप्लाई का पता लगाने के लिए Account Activity API का उपयोग करता है।
  3. यह Perspective API से एक “स्कोर” (0 और 1 के बीच की संख्या) देने के लिए कहता है, जो बताता है कि उसके एल्गोरिदम को कितना भरोसा है कि कोई टिप्पणी उन विषाक्त टिप्पणियों जैसी है जिन्हें उसने पहले देखा है। (Perspective सेवा को भेजे गए टेक्स्ट को संग्रहीत नहीं करता।)
  4. अगर एल्गोरिदम का स्कोर बहुत अधिक हो, तो यह hide replies को कॉल करता है।

​
पारदर्शिता बनाए रखने का प्रयास करें

चूँकि Perspective को वास्तविक पोस्ट्स पर प्रशिक्षित नहीं किया गया है, इसलिए भाषा की कुछ बारीकियाँ इस ऐप से ऐसी किसी रिप्लाई को छिपवा सकती हैं जिसे उपयोगकर्ता छिपा हुआ नहीं रखना चाहता। अपने ऐप को डिज़ाइन करते समय, आप चाहे कोई भी तकनीक या तरीका अपनाएँ, हमेशा यह सुनिश्चित करने की पूरी कोशिश करें कि आपके उपयोगकर्ता समझ सकें कि आपके ऐप ने क्या छिपाया है और वे उसमें बदलाव कर सकें।
  • सबसे अच्छा विकल्प यह है कि हमेशा उपयोगकर्ता पर भरोसा किया जाए और उन्हें अपने फ़ैसलों पर पूरा नियंत्रण दिया जाए। इसका मतलब है कि आपके यूज़र एक्सपीरियंस में ऐसे नियंत्रण होने चाहिए जिनसे उपयोगकर्ता की ओर से आपके ऐप द्वारा की गई किसी भी कार्रवाई को पूर्ववत किया जा सके।
  • कृत्रिम बुद्धिमत्ता का उपयोग करते समय, आपके ऐप को पोस्ट्स का पता लगाने और उन्हें छिपाने के लिए बहुत उच्च कॉन्फिडेंस थ्रेशोल्ड का उपयोग करना चाहिए।
  • हर व्यक्ति एक जैसे शब्दों का इस्तेमाल नहीं करता, और आपके ऐप को इस तरह डिज़ाइन किया जाना चाहिए कि किसी भी तरह के पक्षपात से बचा जा सके। ऐसे शब्दों और स्लैंग के प्रति सावधान रहें जिन्हें कुछ समुदायों ने फिर से अपनाया है, क्योंकि उनसे गलत पॉज़िटिव हो सकते हैं।
  • यदि आप किसी कृत्रिम बुद्धिमत्ता को प्रशिक्षित कर रहे हैं, तो ऐसे मॉडल को अपनाने पर विचार करें जो X पर अक्सर इस्तेमाल की जाने वाली भाषा को क़रीब से दर्शाता हो।