मानव मस्तिष्क लंबे समय से अकल्पनीय और रहस्यमय बना हुआ है। और ऐसा लगता है कि वैज्ञानिकों ने इस सूची में एक नए दावेदार को स्वीकार कर लिया है - आर्टिफिशियल इंटेलिजेंस (AI)। शुरू में, AI के दिमाग को समझना विरोधाभासी लगता है। हालाँकि, जैसे-जैसे AI धीरे-धीरे अधिक संवेदनशील होता जाता है और मनुष्यों और उनकी भावनाओं की नकल करने के करीब पहुँचता है, हम ऐसी घटनाएँ देख रहे हैं जो मनुष्यों और जानवरों में जन्मजात होती हैं - मतिभ्रम।
जी हां, ऐसा प्रतीत होता है कि जब मन को रेगिस्तान में छोड़ दिया जाता है, किसी द्वीप पर छोड़ दिया जाता है, या खिड़कियों और दरवाजों से रहित कमरे में अकेले बंद कर दिया जाता है, तो मन जिस यात्रा पर निकल पड़ता है, वही यात्रा मशीनें भी अनुभव करती हैं। एआई मतिभ्रम यह वास्तविक है और तकनीकी विशेषज्ञों और उत्साही लोगों ने इस पर अनेक अवलोकन और निष्कर्ष दर्ज किए हैं।
आज के लेख में हम इस रहस्यमय किन्तु रोचक पहलू का पता लगाएंगे। बड़े भाषा मॉडल (एलएलएम) और एआई मतिभ्रम के बारे में विचित्र तथ्य जानें।
एआई मतिभ्रम क्या है?
एआई की दुनिया में, मतिभ्रम का मतलब अस्पष्ट रूप से पैटर्न, रंग, आकार या ऐसे लोगों से नहीं है जिन्हें दिमाग स्पष्ट रूप से कल्पना कर सकता है। इसके बजाय, मतिभ्रम गलत, अनुचित या यहां तक कि भ्रामक तथ्यों और प्रतिक्रियाओं को संदर्भित करता है जनरेटिव एआई उपकरण संकेत के साथ आओ.
उदाहरण के लिए, कल्पना करें कि आप एक AI मॉडल से पूछें कि हबल अंतरिक्ष दूरबीन क्या है और वह कुछ इस तरह का उत्तर देना शुरू करता है, “आईमैक्स कैमरा एक विशेष, उच्च-रिज़ॉल्यूशन मोशन पिक्चर है….”
यह उत्तर अप्रासंगिक है। लेकिन इससे भी महत्वपूर्ण बात यह है कि मॉडल ने ऐसा जवाब क्यों दिया जो प्रस्तुत संकेत से थोड़ा अलग है? विशेषज्ञों का मानना है कि मतिभ्रम कई कारकों से उत्पन्न हो सकता है जैसे:
- एआई प्रशिक्षण डेटा की खराब गुणवत्ता
- अति आत्मविश्वासी AI मॉडल
- प्राकृतिक भाषा प्रसंस्करण (एनएलपी) कार्यक्रमों की जटिलता
- एनकोडिंग और डिकोडिंग त्रुटियाँ
- एआई मॉडल पर प्रतिकूल हमले या हैकिंग
- स्रोत-संदर्भ विचलन
- इनपुट पूर्वाग्रह या इनपुट अस्पष्टता और अधिक
एआई मतिभ्रम अत्यंत खतरनाक है और इसकी तीव्रता इसके अनुप्रयोग की विशिष्टता बढ़ने के साथ ही बढ़ती जाती है।
उदाहरण के लिए, एक भ्रामक GenAI उपकरण इसे तैनात करने वाले उद्यम के लिए प्रतिष्ठा की हानि का कारण बन सकता है। हालाँकि, जब एक समान AI मॉडल को स्वास्थ्य सेवा जैसे क्षेत्र में तैनात किया जाता है, तो यह जीवन और मृत्यु के बीच के समीकरण को बदल देता है। कल्पना कीजिए, अगर एक AI मॉडल भ्रम में पड़ जाता है और किसी मरीज की मेडिकल इमेजिंग रिपोर्ट के डेटा विश्लेषण पर प्रतिक्रिया उत्पन्न करता है, तो यह अनजाने में एक सौम्य ट्यूमर को घातक के रूप में रिपोर्ट कर सकता है, जिसके परिणामस्वरूप व्यक्ति के निदान और उपचार का मार्ग-विचलन हो सकता है।
एआई मतिभ्रम के उदाहरणों को समझना
AI मतिभ्रम कई प्रकार के होते हैं। आइए उनमें से कुछ सबसे प्रमुख को समझते हैं।
तथ्यात्मक रूप से गलत सूचना का जवाब
- गलत सकारात्मक प्रतिक्रियाएँ जैसे कि पाठ में सही व्याकरण को गलत बताकर चिह्नित करना
- गलत नकारात्मक प्रतिक्रियाएं जैसे कि स्पष्ट त्रुटियों को नजरअंदाज करना और उन्हें वास्तविक मान लेना
- अस्तित्वहीन तथ्यों का आविष्कार
- गलत स्रोत या उद्धरणों से छेड़छाड़
- गलत उत्तर देने में अति आत्मविश्वास। उदाहरण: हियर कम्स सन किसने गाया? मेटालिका।
- अवधारणाओं, नामों, स्थानों या घटनाओं को मिलाना
- एलेक्सा की लोकप्रिय राक्षसी स्वायत्त हंसी जैसी अजीब या डरावनी प्रतिक्रियाएं और भी बहुत कुछ
एआई मतिभ्रम को रोकना
एआई-जनित गलत सूचना किसी भी प्रकार की गड़बड़ी का पता लगाया जा सकता है और उसे ठीक किया जा सकता है। यही AI के साथ काम करने की खासियत है। हमने इसका आविष्कार किया है और हम इसे ठीक कर सकते हैं। यहाँ कुछ तरीके दिए गए हैं जिनसे हम ऐसा कर सकते हैं।
प्रतिक्रियाओं को सीमित करना
वे कहते हैं कि इससे कोई फ़र्क नहीं पड़ता कि हम कितनी भाषाएँ बोलते हैं। हमें यह जानना होगा कि उन सभी में कब बोलना बंद करना है। यह AI मॉडल और उनकी प्रतिक्रियाओं पर भी लागू होता है। इस संदर्भ में, हम किसी मॉडल की प्रतिक्रियाएँ उत्पन्न करने की क्षमता को एक विशिष्ट मात्रा तक सीमित कर सकते हैं और इसके विचित्र परिणाम आने की संभावनाओं को कम कर सकते हैं। इसे नियमितीकरण कहा जाता है और इसमें संकेतों के लिए अत्यधिक और बढ़ाए गए परिणाम बनाने के लिए AI मॉडल को दंडित करना भी शामिल है।
उत्तर उद्धृत करने और निकालने के लिए प्रासंगिक और विश्वसनीय स्रोत
जब हम किसी AI मॉडल को प्रशिक्षित कर रहे होते हैं, तो हम उन स्रोतों को भी सीमित कर सकते हैं, जिनका मॉडल संदर्भ दे सकता है और जिनसे जानकारी निकाल सकता है, केवल वैध और विश्वसनीय स्रोतों तक। उदाहरण के लिए, हेल्थकेयर AI मॉडल जैसे कि हमने पहले जिस उदाहरण पर चर्चा की थी, वह केवल उन स्रोतों को संदर्भित कर सकता है जो चिकित्सा छवियों और इमेजिंग तकनीकों से भरी जानकारी में विश्वसनीय हैं। यह मशीनों को द्विध्रुवीय स्रोतों से पैटर्न खोजने और सह-संबंधित करने और प्रतिक्रिया उत्पन्न करने से रोकता है।
एआई मॉडल के उद्देश्य को परिभाषित करना
एआई मॉडल तेजी से सीखते हैं और उन्हें बस यह बताया जाना चाहिए कि उन्हें क्या करना चाहिए। मॉडल के उद्देश्य को सटीक रूप से परिभाषित करके, हम मॉडल को उनकी अपनी क्षमताओं और सीमाओं को समझने के लिए प्रशिक्षित कर सकते हैं। यह उन्हें उपयोगकर्ता के संकेतों और उनके उद्देश्य के अनुसार उत्पन्न प्रतिक्रियाओं को संरेखित करके अपने जवाबों को स्वायत्त रूप से मान्य करने की अनुमति देगा ताकि स्पष्ट परिणाम दिए जा सकें।
कृत्रिम बुद्धि में मानवीय निगरानी
AI सिस्टम को प्रशिक्षित करना उतना ही महत्वपूर्ण है जितना कि किसी बच्चे को पहली बार तैराकी या साइकिल चलाना सिखाना। इसके लिए वयस्कों की देखरेख, संयम, हस्तक्षेप और हाथ थामने की आवश्यकता होती है। AI विकास के विभिन्न चरणों में मानवीय लापरवाही के कारण अधिकांश AI मतिभ्रम होते हैं। सही विशेषज्ञों को तैनात करके और AI प्रतिक्रियाओं को मान्य और जांचने के लिए मानव-इन-द-लूप वर्कफ़्लो सुनिश्चित करके, गुणवत्तापूर्ण परिणाम प्राप्त किए जा सकते हैं। इसके अलावा, सटीकता और परिशुद्धता के लिए मॉडल को और अधिक परिष्कृत किया जा सकता है।
शैप और एआई मतिभ्रम को रोकने में हमारी भूमिका
भ्रम के अन्य सबसे बड़े स्रोतों में से एक खराब AI प्रशिक्षण डेटा है। आप जो खिलाते हैं वही आपको मिलता है। यही कारण है कि शैप आपके लिए उच्चतम गुणवत्ता वाले डेटा की डिलीवरी सुनिश्चित करने के लिए सक्रिय कदम उठाता है। जनरेटिव एआई प्रशिक्षण की जरूरत है।
हमारे सख्त गुणवत्ता आश्वासन प्रोटोकॉल और नैतिक रूप से स्रोतित डेटासेट स्वच्छ परिणाम देने में आपके AI विज़न के लिए आदर्श हैं। जबकि तकनीकी गड़बड़ियों को हल किया जा सकता है, यह महत्वपूर्ण है कि प्रशिक्षण डेटा गुणवत्ता के बारे में चिंताओं को उनके जमीनी स्तर पर संबोधित किया जाए ताकि मॉडल विकास पर फिर से काम करने से रोका जा सके। यही कारण है कि आपका एआई और एलएलएम प्रशिक्षण चरण शैप से डेटासेट के साथ शुरू होना चाहिए।
