परिभाषा
एआई में पूर्वाग्रह, एआई आउटपुट में व्यवस्थित त्रुटियों को संदर्भित करता है जो डेटासेट में परिलक्षित विषम डेटा, त्रुटिपूर्ण डिज़ाइन या सामाजिक असमानताओं के कारण होती हैं। इससे अनुचित या भेदभावपूर्ण परिणाम सामने आ सकते हैं।
उद्देश्य
पूर्वाग्रह के अध्ययन का उद्देश्य कृत्रिम बुद्धिमत्ता प्रणालियों में व्याप्त अन्याय की पहचान करना और उसे कम करना है। संगठनों का लक्ष्य इन मुद्दों का समाधान करके अधिक समतामूलक मॉडल बनाना है।
महत्व
- यदि इस पर ध्यान नहीं दिया गया तो इससे नियुक्ति, ऋण या स्वास्थ्य देखभाल में भेदभाव पैदा हो सकता है।
- एआई प्रणालियों में विश्वास को कमजोर करता है।
- संवेदनशील उद्योगों में विनियामक अनुपालन की आवश्यकता है।
- निष्पक्षता और जिम्मेदार एआई प्रथाओं से संबंधित।
यह कैसे काम करता है:
- पूर्वाग्रह के संभावित स्रोतों (डेटा संग्रह, लेबलिंग, मॉडलिंग) की पहचान करें।
- असंतुलन के लिए डेटासेट का विश्लेषण करें।
- निष्पक्षता-जागरूक प्रशिक्षण पद्धतियां लागू करें।
- निष्पक्षता मेट्रिक्स के साथ परीक्षण आउटपुट।
- यदि आवश्यक हो तो डिज़ाइन समायोजित करें और पुनः प्रशिक्षित करें।
उदाहरण (वास्तविक दुनिया)
- COMPAS जोखिम मूल्यांकन उपकरण: नस्लीय पूर्वाग्रह के लिए आलोचना की गई।
- अमेज़न भर्ती एल्गोरिथ्म: लिंग पूर्वाग्रह के कारण खारिज कर दिया गया।
- चेहरे की पहचान: यह तकनीक कुछ जनसांख्यिकीय समूहों को गलत तरीके से वर्गीकृत करने के लिए जानी जाती है।
संदर्भ / आगे पढ़ने के लिए
- एआई पूर्वाग्रह — एनआईएसटी.
- निष्पक्षता और मशीन लर्निंग - बारोकास, हार्ड्ट, और नारायणन (पुस्तक)।
- एल्गोरिथम पूर्वाग्रह - ACM FAccT सम्मेलन कार्यवाही।
- विविध एआई प्रशिक्षण डेटा: पूर्वाग्रह को खत्म करने की कुंजी
