केस स्टडी: कंटेंट मॉडरेशन
जैसे-जैसे सोशल मीडिया का उपयोग बढ़ता जा रहा है, साइबरबुलिंग की समस्या ऑनलाइन सुरक्षित स्थान सुनिश्चित करने के लिए प्रयासरत प्लेटफ़ॉर्म के लिए एक महत्वपूर्ण बाधा के रूप में सामने आई है। चौंका देने वाला 38% व्यक्ति दैनिक आधार पर इस हानिकारक आचरण का सामना करते हैं, जो आविष्कारशील सामग्री मॉडरेशन दृष्टिकोणों की तत्काल मांग पर बल देता है। संगठन आज साइबरबुलिंग की स्थायी समस्या को सक्रिय रूप से संबोधित करने के लिए कृत्रिम बुद्धिमत्ता के उपयोग पर भरोसा करते हैं।
साइबर सुरक्षा:
Facebook की Q4 सामुदायिक मानक प्रवर्तन रिपोर्ट से पता चला - 6.3% की सक्रिय पहचान दर के साथ धमकाने और उत्पीड़न सामग्री के 49.9 मिलियन टुकड़ों पर कार्रवाई
शिक्षा:
A 2021 अध्ययन में पाया गया कि 36.5% तक संयुक्त राज्य अमेरिका में छात्रों का% आयु के बीच 12 और 17 वर्षों से अपनी स्कूली शिक्षा के दौरान किसी न किसी समय साइबरबुलिंग का अनुभव किया है।
2020 की एक रिपोर्ट के अनुसार, वैश्विक सामग्री मॉडरेशन समाधान बाजार का मूल्य 4.07 में 2019 बिलियन अमेरिकी डॉलर था और 11.94% सीएजीआर के साथ 2027 तक 14.7 बिलियन अमेरिकी डॉलर तक पहुंचने की उम्मीद थी।
वास्तविक विश्व समाधान
डेटा जो वैश्विक वार्तालापों को मॉडरेट करता है
ग्राहक अपने क्लाउड पेशकश के लिए एक मजबूत स्वचालित सामग्री मॉडरेशन मशीन लर्निंग मॉडल विकसित कर रहा था, जिसके लिए वे डोमेन-विशिष्ट विक्रेता की तलाश कर रहे थे जो उन्हें सटीक प्रशिक्षण डेटा के साथ सहायता कर सके।
प्राकृतिक भाषा प्रसंस्करण (एनएलपी) में हमारे व्यापक ज्ञान का लाभ उठाते हुए, हमने क्लाइंट को अंग्रेजी और स्पेनिश दोनों में 30,000 से अधिक दस्तावेज़ों को इकट्ठा करने, वर्गीकृत करने और व्याख्या करने में सहायता की ताकि स्वचालित सामग्री मॉडरेशन मशीन लर्निंग मॉडल को विषाक्त, परिपक्व या यौन रूप से स्पष्ट सामग्री में विभाजित किया जा सके। श्रेणियाँ।
मुसीबत
- प्राथमिकता वाले डोमेन से स्पेनिश और अंग्रेजी दोनों में 30,000 दस्तावेजों को वेब स्क्रैप करना
- एकत्रित सामग्री को छोटे, मध्यम और लंबे खंडों में वर्गीकृत करना
- संकलित डेटा को विषाक्त, परिपक्व या यौन रूप से स्पष्ट सामग्री के रूप में लेबल करना
- न्यूनतम 90% सटीकता के साथ उच्च-गुणवत्ता वाले एनोटेशन सुनिश्चित करना।
उपाय
- वेब ने बीएफएसआई, हेल्थकेयर, मैन्युफैक्चरिंग, रिटेल से स्पेनिश और अंग्रेजी के लिए 30,000 दस्तावेजों को खत्म कर दिया। सामग्री को आगे छोटे, मध्यम और लंबे दस्तावेज़ों में विभाजित किया गया था
- सामग्री को विषाक्त, परिपक्व या स्पष्ट यौन सामग्री के रूप में सफलतापूर्वक लेबल करना
- 90% गुणवत्ता प्राप्त करने के लिए, Shaip ने दो स्तरीय गुणवत्ता नियंत्रण प्रक्रिया लागू की:
»स्तर 1: गुणवत्ता आश्वासन जांच: 100% फाइलों को मान्य किया जाना है।
» स्तर 2: महत्वपूर्ण गुणवत्ता विश्लेषण जांच: पूर्वव्यापी नमूनों के 15% -20% का आकलन करने के लिए Shaips की CQA टीम।
परिणाम
प्रशिक्षण डेटा ने स्वचालित सामग्री मॉडरेशन एमएल मॉडल बनाने में मदद की जो सुरक्षित ऑनलाइन वातावरण बनाए रखने के लिए कई लाभकारी परिणाम दे सकता है। कुछ प्रमुख परिणामों में शामिल हैं:
- डेटा की विशाल मात्रा को संसाधित करने की क्षमता
- मॉडरेशन नीतियों के समान प्रवर्तन को सुनिश्चित करने में निरंतरता
- बढ़ते उपयोगकर्ता आधार और सामग्री की मात्रा के अनुकूल होने की मापनीयता
- रीयल-टाइम मॉडरेशन पहचान कर सकता है और
उत्पन्न होने वाली संभावित रूप से हानिकारक सामग्री को हटा दें - मानव मध्यस्थों पर निर्भरता कम करके लागत-प्रभावशीलता
अपने संवादात्मक AI अनुप्रयोग विकास को 100% तक बढ़ाएँ
हमें बताएं कि हम आपकी अगली एआई पहल में कैसे मदद कर सकते हैं।