RAFT क्या है? RAG + फाइन-ट्यूनिंग

सरल शब्दों में, पुनर्प्राप्ति-संवर्धित फाइन-ट्यूनिंग, या RAFT, एक उन्नत AI तकनीक है, जिसमें पुनर्प्राप्ति-संवर्धित पीढ़ी को उस विशेष डोमेन में विशिष्ट अनुप्रयोगों के लिए बड़े भाषा मॉडल से जनरेटिव प्रतिक्रियाओं को बढ़ाने के लिए फाइन-ट्यूनिंग के साथ जोड़ा जाता है।

यह आरएजी और फाइन-ट्यूनिंग को एकीकृत करके बड़े भाषा मॉडल को अधिक सटीक, प्रासंगिक और मजबूत परिणाम प्रदान करने की अनुमति देता है, विशेष रूप से स्वास्थ्य सेवा, कानून और वित्त जैसे लक्षित क्षेत्रों के लिए।

RAFT के घटक

1. पुनर्प्राप्ति-संवर्धित पीढ़ी

यह तकनीक एलएलएम को अनुमान के दौरान बाहरी डेटा स्रोतों तक पहुँचने की अनुमति देकर उन्हें बेहतर बनाती है। इसलिए, कई अन्य की तरह स्थिर पूर्व-प्रशिक्षित ज्ञान के बजाय, RAG मॉडल को उपयोगकर्ता प्रश्नों का उत्तर देने के लिए दो क्लिक के भीतर डेटाबेस या ज्ञान भंडार को सक्रिय रूप से खोजने में सक्षम बनाता है। यह लगभग एक खुली किताब परीक्षा की तरह है, जिसमें मॉडल सबसे हाल के बाहरी संदर्भों या अन्य डोमेन-प्रासंगिक तथ्यों से परामर्श करता है। कहने का तात्पर्य यह है कि जब तक किसी प्रकार के प्रशिक्षण के साथ जोड़ा नहीं जाता है जो प्राप्त जानकारी के बारे में तर्क करने या प्राथमिकता देने की मॉडल की क्षमता को परिष्कृत करता है; RAG अपने आप में पूर्व क्षमताओं को परिष्कृत नहीं करता है।

आरएजी की विशेषताएं: 

• गतिशील ज्ञान पहुँच: इसमें बाह्य सूचना स्रोतों से एकत्रित वास्तविक समय की जानकारी शामिल है।
• डोमेन-विशिष्ट अनुकूलनशीलता: उत्तर लक्षित डेटासेट पर आधारित हैं।

सीमा: इसमें प्रासंगिक और अप्रासंगिक सामग्री के बीच भेदभाव करने के लिए अंतर्निहित तंत्र शामिल नहीं है।

2. फ़ाइन-ट्यूनिंग

फ़ाइन-ट्यूनिंग एक LLM को प्रशिक्षित करना है जिसे विशेष कार्यों के लिए विकसित करने के लिए डोमेन-विशिष्ट डेटासेट पर पहले से प्रशिक्षित किया गया है। यह डोमेन-विशिष्ट शब्दों, संदर्भ और बारीकियों को बेहतर ढंग से समझने के लिए मॉडल के मापदंडों को बदलने का एक अवसर है। हालाँकि फ़ाइन-ट्यूनिंग एक विशिष्ट डोमेन के संबंध में मॉडल की सटीकता को परिष्कृत करती है, लेकिन अनुमान के दौरान बाहरी डेटा का बिल्कुल भी उपयोग नहीं किया जाता है, जो विकसित ज्ञान को उत्पादक रूप से पुन: प्रस्तुत करने की बात आने पर इसकी पुन: प्रयोज्यता को सीमित करता है।

फाइन-ट्यूनिंग की विशेषताएं: 

• विशेषज्ञता: किसी विशिष्ट उद्योग या कार्य के लिए किसी विशेष मॉडल के अनुरूप।
• बेहतर अनुमान सटीकता: डोमेन-प्रासंगिक प्रतिक्रियाओं के निर्माण में परिशुद्धता को बढ़ाता है।

सीमाओंज्ञान निर्माण में गतिशील अद्यतन क्षमताएं कम प्रभावी।

RAFT किस प्रकार RAG और फाइन-ट्यूनिंग को जोड़ता है

यह RAG और ट्यूनिंग की ताकत को एक एंकर पैकेज में जोड़ता है। परिणामी LLM केवल प्रासंगिक दस्तावेज़ों को पुनः प्राप्त नहीं करते हैं, बल्कि उस जानकारी को सफलतापूर्वक अपनी तर्क प्रक्रिया में वापस एकीकृत करते हैं। यह हाइब्रिड दृष्टिकोण यह गारंटी देता है कि मॉडल डोमेन ज्ञान (ट्यूनिंग के माध्यम से) में अच्छी तरह से वाकिफ है, जबकि बाहरी ज्ञान (RAG के माध्यम से) तक गतिशील रूप से पहुँचने में भी सक्षम है।

RAFT के यांत्रिकी

प्रशिक्षण डेटा संरचना: 

• प्रश्नों को प्रासंगिक दस्तावेजों और ध्यान भटकाने वाले दस्तावेजों (अप्रासंगिक) के साथ जोड़ा जाता है।
• विचार-श्रृंखलाबद्ध उत्तर, प्राप्त जानकारी के टुकड़ों को अंतिम उत्तर से जोड़ते हैं। 

दोहरे प्रशिक्षण उद्देश्य: 

मॉडल को सिखाएं कि किसी प्रासंगिक दस्तावेज को सभी विकर्षणों से ऊपर कैसे स्थान दिया जाए तथा स्रोत दस्तावेजों से जुड़े चरण-दर-चरण स्पष्टीकरण पूछकर तर्क कौशल को बढ़ाएं। 

अनुमान चरण: 

• मॉडल RAG प्रक्रिया के माध्यम से शीर्ष रैंक वाले दस्तावेजों को पुनः प्राप्त करते हैं। 
• फाइन-ट्यूनिंग सटीक तर्क का मार्गदर्शन करती है और प्राप्त आंकड़ों को मुख्य प्रतिक्रियाओं के साथ मिला देती है। 

आरएएफटी के लाभ