RAG (Retrieval-Augmented Generation) क्या है
नोट: यह दस्तावेज़ मूल अंग्रेजी संस्करण का स्वचालित अनुवाद है।
RAG (Retrieval-Augmented Generation) क्या है
कल्पना कीजिए कि एक छात्र ओपन-बुक परीक्षा दे रहा है। हर प्रश्न का उत्तर केवल स्मृति से देने के बजाय, छात्र पाठ्यपुस्तक पलटता है, सबसे प्रासंगिक पृष्ठ खोजता है, उन्हें पढ़ता है, और फिर ऐसा उत्तर लिखता है जो याद किए गए ज्ञान को ताज़ा खोजे गए तथ्यों के साथ जोड़ता है। Retrieval-Augmented Generation (RAG) बड़े भाषा मॉडल के लिए ठीक इसी तरह काम करता है। मॉडल केवल उस पर निर्भर नहीं रहता जो उसने प्रशिक्षण के दौरान याद किया — वह पहले एक बाहरी ज्ञान आधार खोजता है, सबसे प्रासंगिक दस्तावेज़ पुनर्प्राप्त करता है, और प्रतिक्रिया जनरेट करते समय उन्हें अतिरिक्त संदर्भ के रूप में उपयोग करता है।
यह तकनीक इसलिए महत्वपूर्ण है क्योंकि सबसे शक्तिशाली LLM की भी ज्ञान की एक कट-ऑफ़ तिथि होती है, वे "हैलुसिनेट" कर सकते हैं (विश्वसनीय लेकिन गलत कथन बना सकते हैं), और उनमें विशिष्ट डोमेन ज्ञान की कमी हो सकती है। RAG इन तीनों कमज़ोरियों को एक साथ दूर करता है, क्योंकि हर बार प्रश्न का उत्तर देते समय वह मॉडल को अद्यतित, डोमेन-विशिष्ट, सत्यापन-योग्य स्रोतों तक पहुँच देता है।
संक्षेप में: RAG एक आर्किटेक्चर पैटर्न है जो एक पुनर्प्राप्ति (retrieval) प्रणाली को LLM के साथ जोड़ता है। यह कोई अलग मॉडल प्रकार नहीं है — यह बाहरी ज्ञान और संदर्भ के साथ काम करने का एक तरीका है।
यह कैसे काम करता है
RAG पाइपलाइन एक स्पष्ट पाँच-चरणीय अनुक्रम का पालन करती है। प्रत्येक चरण को समझना यह आँकने में मदद करता है कि RAG का दावा करने वाले प्रोजेक्ट के पास वास्तव में कार्यात्मक पुनर्प्राप्ति परत है या वह केवल एक मानक LLM कॉल को लपेटता है।
चरण 1 — उपयोगकर्ता क्वेरी
प्रक्रिया तब शुरू होती है जब उपयोगकर्ता कोई प्रश्न, आदेश या प्रॉम्प्ट सबमिट करता है। यह क्वेरी आगे की हर चीज़ का प्रारंभिक बिंदु है। उदाहरण के लिए, उपयोगकर्ता पूछ सकता है: "पिछले महीने Ethereum पर प्रमुख गवर्नेंस प्रस्ताव कौन-से थे?" प्रणाली केवल LLM की स्मृति से उत्तर देने की कोशिश नहीं करती — वह क्वेरी को एक खोज निर्देश के रूप में लेती है।
चरण 2 — क्वेरी एम्बेडिंग
कच्ची टेक्स्ट क्वेरी को एम्बेडिंग नामक संख्यात्मक निरूपण में बदला जाता है — संख्याओं का एक वेक्टर जो क्वेरी के अर्थगत भाव को पकड़ता है। यह चरण एक विशिष्ट एम्बेडिंग मॉडल का उपयोग करता है (जैसे OpenAI का text-embedding-ada-002 या E5 या BGE जैसा ओपन-सोर्स विकल्प)। परिणामी वेक्टर प्रणाली को सिमैंटिक खोज करने देता है — दस्तावेज़ों को सटीक कीवर्ड मिलान के बजाय अर्थ के आधार पर खोजना।
चरण 3 — ज्ञान आधार से पुनर्प्राप्ति
क्वेरी एम्बेडिंग की तुलना एक वेक्टर डेटाबेस (जिसे वेक्टर स्टोर भी कहते हैं) से की जाती है, जिसमें दस्तावेज़ों, अंशों या डेटा खंडों की पूर्व-गणित एम्बेडिंग रखी होती हैं। डेटाबेस अर्थगत रूप से सबसे मिलते-जुलते शीर्ष-k आइटम लौटाता है। सामान्य वेक्टर डेटाबेस में Pinecone, Weaviate, Qdrant, Milvus और Chroma शामिल हैं।
पुनर्प्राप्ति की गुणवत्ता कई कारकों पर निर्भर करती है:
- चंकिंग रणनीति — मूल दस्तावेज़ों को छोटे टुकड़ों में कैसे बाँटा गया। बहुत बड़े चंक प्रासंगिकता को पतला करते हैं; बहुत छोटे चंक संदर्भ खो देते हैं। सही चंक आकार खोजना RAG पाइपलाइन के सबसे प्रभावशाली इंजीनियरिंग निर्णयों में से एक है।
- एम्बेडिंग मॉडल — वेक्टरों में अर्थ कितनी सटीकता से पकड़ा जाता है। कमज़ोर एम्बेडिंग मॉडल का परिणाम कमज़ोर पुनर्प्राप्ति है, डेटाबेस चाहे जो हो।
- प्रासंगिकता रैंकिंग — क्या खोज सचमुच प्रासंगिक परिणाम लौटाती है या केवल सतही रूप से मिलते-जुलते। कुछ प्रणालियाँ एक री-रैंकिंग चरण जोड़ती हैं जो प्रारंभिक परिणामों को क्रॉस-एन्कोडर से दोबारा स्कोर करता है।
चरण 4 — संदर्भ इंजेक्शन
पुनर्प्राप्त दस्तावेज़ों को उपयोगकर्ता की मूल क्वेरी के साथ एक ही प्रॉम्प्ट में जोड़ा जाता है (जिसे कभी-कभी "augmented prompt" कहा जाता है) और LLM को भेजा जाता है। प्रॉम्प्ट आमतौर पर मॉडल को निर्देश देता है कि वह दिए गए संदर्भ का उपयोग करके प्रश्न का उत्तर दे और यह संकेत करे कि संदर्भ में पर्याप्त जानकारी कब नहीं है।
चरण 5 — LLM जनरेशन और आउटपुट
LLM संवर्धित प्रॉम्प्ट पढ़ता है और ऐसी प्रतिक्रिया जनरेट करता है जो उसके पूर्व-प्रशिक्षित ज्ञान और पुनर्प्राप्त साक्ष्य दोनों पर आधारित होती है। एक अच्छी तरह डिज़ाइन की गई RAG प्रणाली में एक उद्धरण परत भी हो सकती है जो उत्तर के हिस्सों को विशिष्ट स्रोत दस्तावेज़ों से जोड़ती है, जिससे उपयोगकर्ता दावों को सत्यापित कर सकता है।
| चरण | इनपुट | आउटपुट | प्रमुख घटक |
|---|---|---|---|
| क्वेरी | उपयोगकर्ता टेक्स्ट | कच्ची क्वेरी | उपयोगकर्ता इंटरफ़ेस |
| एम्बेडिंग | कच्ची क्वेरी | क्वेरी वेक्टर | एम्बेडिंग मॉडल |
| पुनर्प्राप्ति | क्वेरी वेक्टर | प्रासंगिक दस्तावेज़ | वेक्टर डेटाबेस |
| संदर्भ इंजेक्शन | क्वेरी + दस्तावेज़ | संवर्धित प्रॉम्प्ट | प्रॉम्प्ट टेम्पलेट |
| जनरेशन | संवर्धित प्रॉम्प्ट | अंतिम उत्तर | LLM |
RAG क्यों महत्वपूर्ण है
RAG स्वतंत्र LLM की तीन प्रसिद्ध सीमाओं को संबोधित करता है:
- हैलुसिनेशन। LLM आत्मविश्वास भरे लेकिन गलत उत्तर दे सकते हैं। RAG प्रतिक्रियाओं को वास्तविक दस्तावेज़ों में आधार देकर इसे घटाता है। जब मॉडल किसी विशिष्ट अंश का हवाला दे सकता है, तो मनगढ़ंत जानकारी का जोखिम काफ़ी कम हो जाता है।
- बासी ज्ञान। पूर्व-प्रशिक्षित मॉडल की ज्ञान कट-ऑफ़ तिथि होती है। RAG ताज़ा, निरंतर अद्यतित डेटा तक पहुँच देता है — बाहरी डेटाबेस को दैनिक या रीयल-टाइम में भी रीफ़्रेश किया जा सकता है।
- डोमेन विशिष्टता। किसी संकीर्ण डोमेन के लिए LLM को फ़ाइन-ट्यून करना महँगा और समय-साध्य है। RAG सामान्य-उद्देश्य मॉडल को बिना पुनर्प्रशिक्षण के विशिष्ट ज्ञान आधारों के साथ काम करने देता है, जिससे डोमेन-विशिष्ट एप्लिकेशन तेज़ी और कम लागत में तैनात होते हैं।
RAG बनाम फ़ाइन-ट्यूनिंग
RAG और फ़ाइन-ट्यूनिंग दोनों का लक्ष्य विशिष्ट कार्यों पर LLM का प्रदर्शन सुधारना है, लेकिन वे मूलतः अलग तरीकों से काम करते हैं।
| पहलू | RAG | फ़ाइन-ट्यूनिंग |
|---|---|---|
| ज्ञान कब जोड़ा जाता है | इन्फ़रेंस के समय (हर क्वेरी पर) | प्रशिक्षण के समय (एक बार, फिर स्थिर) |
| अद्यतन की लागत | कम — ज्ञान आधार अपडेट करें | अधिक — मॉडल को पुनः प्रशिक्षित या पुनः फ़ाइन-ट्यून करें |
| ज्ञान की ताज़गी | लगभग रीयल-टाइम हो सकती है | प्रशिक्षण कट-ऑफ़ पर जमी हुई |
| प्रशिक्षण अवसंरचना चाहिए | नहीं | हाँ (GPU, डेटासेट, प्रशिक्षण पाइपलाइन) |
| सबसे उपयुक्त | तथ्यात्मक स्मरण, दस्तावेज़ीकरण प्रश्नोत्तर | शैली, स्वर, प्रारूप, संकीर्ण-कार्य अनुकूलन |
| ऑडिट-योग्यता | उच्च — पुनर्प्राप्त स्रोत लॉग किए जा सकते हैं | निम्न — ज्ञान वेट्स में समाहित है |
व्यवहार में, कई प्रोडक्शन प्रणालियाँ दोनों को जोड़ती हैं: फ़ाइन-ट्यून किया गया मॉडल सही स्वर और कार्य-व्यवहार देता है, जबकि RAG अद्यतित तथ्यात्मक आधार प्रदान करता है।
उन्नत RAG पैटर्न
ऊपर वर्णित बुनियादी पाँच-चरणीय पाइपलाइन को कभी-कभी naive RAG कहा जाता है। तकनीक के परिपक्व होने के साथ इंजीनियरों ने अधिक परिष्कृत रूपांतर विकसित किए हैं:
- मल्टी-स्टेप (पुनरावृत्त) RAG। एक बार पुनर्प्राप्त करने के बजाय, प्रणाली पुनर्प्राप्त करती है, मध्यवर्ती उत्तर जनरेट करती है, ज्ञान की कमियाँ पहचानती है, परिष्कृत क्वेरी से फिर पुनर्प्राप्त करती है, और तब तक दोहराती है जब तक उत्तर पर्याप्त पूर्ण न हो जाए। यह दृष्टिकोण उन जटिल प्रश्नों को संभालता है जिनका उत्तर एक ही पुनर्प्राप्ति पास से नहीं दिया जा सकता।
- एजेंटिक RAG। पुनर्प्राप्ति चरण को AI एजेंट फ़्रेमवर्क के भीतर लपेटा जाता है। एजेंट तय करता है कि कब पुनर्प्राप्त करना है, किस ज्ञान आधार से क्वेरी करनी है, क्या क्वेरी को दोबारा तैयार करना है, और कब उसके पास अंतिम उत्तर जनरेट करने के लिए पर्याप्त संदर्भ है। यह पैटर्न RAG और स्वायत्त एजेंटों के बीच की रेखा धुंधली करता है।
- हाइब्रिड खोज। एक ही पुनर्प्राप्ति चरण में वेक्टर-आधारित सिमैंटिक खोज को पारंपरिक कीवर्ड खोज (BM25) के साथ जोड़ना। हाइब्रिड खोज अर्थ-आधारित और शब्द-आधारित दोनों मिलानों को पकड़ती है, जिससे विशिष्ट तकनीकी शब्दों या व्यक्तिवाचक संज्ञाओं वाली क्वेरियों के लिए रिकॉल बेहतर होता है।
- Graph RAG। सपाट दस्तावेज़ चंकों के बजाय ज्ञान आधार को नॉलेज ग्राफ़ के रूप में संरचित किया जाता है — इकाइयाँ और संबंध। पुनर्प्राप्ति वेक्टर समानता के बजाय (या उसके अतिरिक्त) ग्राफ़ के किनारों का अनुसरण करती है, जिससे संरचित डेटा पर मल्टी-हॉप तर्क संभव होता है। ये पैटर्न मूल्यांकन के लिए महत्वपूर्ण हैं: जो प्रोजेक्ट पुनरावृत्त पुनर्प्राप्ति वाली graph-RAG पाइपलाइन का वर्णन करता है, वह उस प्रोजेक्ट की तुलना में कहीं अधिक विशिष्ट (और नकली बनाना कठिन) दावा कर रहा है जो केवल "we use RAG" कहता है।
RAG के वास्तविक-दुनिया उदाहरण
RAG कोई सैद्धांतिक अवधारणा नहीं है — यह आज के कुछ सबसे व्यापक रूप से उपयोग किए जाने वाले AI उत्पादों को शक्ति देता है।
- Bing Chat (Microsoft Copilot)। जब आप Bing Chat से प्रश्न पूछते हैं, तो वह वेब खोजता है, प्रासंगिक पृष्ठ पुनर्प्राप्त करता है, और उन पृष्ठों को LLM के उत्तर के संदर्भ के रूप में उपयोग करता है। प्रतिक्रिया में दिखने वाले इनलाइन उद्धरण पुनर्प्राप्ति चरण का प्रत्यक्ष परिणाम हैं।
- Perplexity। Perplexity RAG आर्किटेक्चर के इर्द-गिर्द बना है: हर उपयोगकर्ता क्वेरी एक वेब खोज ट्रिगर करती है, परिणाम LLM को दिए जाते हैं, और उत्तर में क्रमांकित स्रोत संदर्भ शामिल होते हैं। उपयोगकर्ता हर दावे को सत्यापित करने के लिए क्लिक कर सकता है।
- एंटरप्राइज़ नॉलेज असिस्टेंट। कंपनियाँ आंतरिक RAG प्रणालियों का उपयोग करती हैं ताकि कर्मचारी HR नीतियों, इंजीनियरिंग दस्तावेज़ीकरण या कानूनी अनुबंधों को प्राकृतिक भाषा में क्वेरी कर सकें। पुनर्प्राप्ति परत खुले वेब के बजाय कंपनी के आंतरिक दस्तावेज़ भंडार को खोजती है। ये उदाहरण दिखाते हैं कि RAG मुख्यधारा की तकनीक है। जब कोई क्रिप्टो AI प्रोजेक्ट कहता है "we use RAG," तो प्रश्न यह नहीं है कि RAG वास्तविक तकनीक है या नहीं, बल्कि यह कि प्रोजेक्ट का विशिष्ट कार्यान्वयन ठोस है या नहीं: क्या डेटा पुनर्प्राप्त होता है, वह कैसे अनुक्रमित है, और क्या पुनर्प्राप्ति की गुणवत्ता मापी गई है।
क्रिप्टो AI प्रोजेक्ट्स में RAG क्यों दिखता है
कई क्रिप्टो AI प्रोजेक्ट अपने आर्किटेक्चर में RAG का उपयोग करते हैं या उपयोग करने का दावा करते हैं। सामान्य उपयोग-मामलों में शामिल हैं:
- दस्तावेज़ीकरण असिस्टेंट — किसी प्रोटोकॉल के नियमों या पैरामीटरों के बारे में उपयोगकर्ता प्रश्नों के उत्तर के लिए प्रोटोकॉल दस्तावेज़, व्हाइटपेपर या गवर्नेंस प्रस्ताव पुनर्प्राप्त करना।
- क्रिप्टो इंटेलिजेंस उपकरण — विश्लेषण सारांश या अलर्ट जनरेट करने के लिए रीयल-टाइम बाज़ार डेटा, ऑन-चेन घटनाएँ या समाचार लेख खींचना।
- एजेंटों के लिए ज्ञान आधार — संरचित रिपॉज़िटरी बनाना जिन्हें AI एजेंट कार्रवाई से पहले क्वेरी कर सकें, ताकि निर्णय नवीनतम डेटा पर आधारित हों।
- ऑन-चेन डेटा ग्राउंडिंग — पुनर्प्राप्ति परत को ब्लॉकचेन इंडेक्सरों से जोड़ना ताकि LLM वॉलेट बैलेंस, लेनदेन इतिहास या स्मार्ट-कॉन्ट्रैक्ट स्थितियों के बारे में प्रश्नों का उत्तर प्रशिक्षण-कालीन स्नैपशॉट के बजाय वर्तमान जानकारी से दे सके।
RAG पैटर्न वाले DecAIHub प्रोजेक्ट कार्ड्स में सामान्य AI component मानों में शामिल हैं: "3D AI agents (RAG/memory/LLM catalog)", "AI summaries + crypto intelligence terminal", और "AgentData (real-time data streams for AI agents)"।
RAG कोई मॉडल नहीं है
एक आम भ्रांति RAG को AI मॉडल का प्रकार मानना है। यह ऐसा नहीं है। RAG एक आर्किटेक्चर पैटर्न है — पुनर्प्राप्ति प्रणाली को LLM के साथ जोड़ने का तरीका। RAG पाइपलाइन के भीतर का मॉडल GPT, DeepSeek, Mistral या कोई भी अन्य LLM हो सकता है। पुनर्प्राप्ति घटक वेक्टर डेटाबेस, खोज API या संरचित नॉलेज ग्राफ़ हो सकता है।
"we use RAG" कहना बताता है कि प्रणाली कैसे संगठित है। यह नहीं बताता कि कौन-सा मॉडल उपयोग होता है, क्या वह स्वामित्व वाला है, या पुनर्प्राप्ति की गुणवत्ता कितनी अच्छी है। दो प्रोजेक्ट दोनों RAG का दावा कर सकते हैं जबकि उनकी परिष्कार का स्तर बेहद अलग हो — एक के पास सावधानी से क्यूरेट किया गया ज्ञान आधार और कस्टम एम्बेडिंग हों, दूसरे के पास जल्दबाज़ी में जोड़ा गया प्रोटोटाइप जो शायद ही कभी प्रासंगिक दस्तावेज़ लौटाता हो।
RAG क्या सिद्ध नहीं करता
- RAG का उपयोग यह सिद्ध नहीं करता कि अंतर्निहित LLM स्वामित्व वाला या फ़ाइन-ट्यून किया हुआ है। प्रोजेक्ट किसी तृतीय-पक्ष API को कॉल कर रहा हो सकता है।
- RAG पाइपलाइन बनाना यह सिद्ध नहीं करता कि पुनर्प्राप्ति की गुणवत्ता उच्च है। गुणवत्ता ज्ञान आधार, चंकिंग रणनीति, एम्बेडिंग मॉडल और खोज प्रासंगिकता पर निर्भर करती है।
- RAG आर्किटेक्चर होना यह सिद्ध नहीं करता कि उत्तर सटीक हैं। खराब पुनर्प्राप्ति अप्रासंगिक संदर्भ दे सकती है, और LLM फिर भी हैलुसिनेट कर सकता है।
- लैंडिंग पेज पर RAG का उल्लेख यह सिद्ध नहीं करता कि प्रणाली वास्तव में पुनर्प्राप्ति करती है। Tier-1 साक्ष्य — कोड, आर्किटेक्चर आरेख, डेमो लॉग — के बिना दावा असत्यापित रहता है। RAG का दावा करने वाले क्रिप्टो AI प्रोजेक्ट का मूल्यांकन करते समय विशिष्टताएँ देखें: कौन-सा ज्ञान आधार खोजा जाता है, कौन-सा एम्बेडिंग मॉडल उपयोग होता है, प्रासंगिकता कैसे मापी जाती है, और क्या कोई गुणवत्ता मेट्रिक्स प्रकाशित हैं।
DecAIHub प्रोजेक्ट कार्ड्स में यह कहाँ दिखता है
RAG का उल्लेख आमतौर पर AI component फ़ील्ड में होता है — या तो सीधे या ऐसे विवरणों के माध्यम से जो पुनर्प्राप्ति-सहित-जनरेशन पाइपलाइन का संकेत देते हैं। AI_1 फ़्लैग जाँचता है कि AI घटक का वर्णन पर्याप्त विशिष्टता से किया गया है या नहीं। केवल "RAG" लिखना पर्याप्त नहीं है; कार्ड को यह बताना चाहिए कि क्या पुनर्प्राप्त होता है, कहाँ से, और किस उद्देश्य के लिए।
भ्रमित न हों
- LLM — RAG पाइपलाइन के भीतर का जनरेशन इंजन। RAG उसके ऊपर पुनर्प्राप्ति जोड़ता है।
- प्रशिक्षण — RAG एक इन्फ़रेंस-कालीन पैटर्न है। यह मॉडल को पुनः प्रशिक्षित नहीं करता; यह प्रॉम्प्ट को पुनर्प्राप्त संदर्भ से संवर्धित करता है।
- AI एजेंट — एजेंट RAG को अपने उपकरणों में से एक के रूप में उपयोग कर सकता है, लेकिन केवल RAG किसी प्रणाली को एजेंट नहीं बनाता।
- फ़ाइन-ट्यूनिंग — फ़ाइन-ट्यूनिंग प्रशिक्षण चरण के दौरान मॉडल के वेट्स समायोजित करती है। RAG मॉडल को बदले बिना इन्फ़रेंस के समय बाहरी ज्ञान इंजेक्ट करता है।
- पुनर्प्राप्ति / ज्ञान परत — पुनर्प्राप्ति घटक RAG का आधा हिस्सा है। RAG शुद्ध पुनर्प्राप्ति के ऊपर जनरेशन चरण जोड़ता है।
अक्सर पूछे जाने वाले प्रश्न
RAG और फ़ाइन-ट्यूनिंग में क्या अंतर है?
फ़ाइन-ट्यूनिंग किसी विशिष्ट डेटासेट पर प्रशिक्षण देकर मॉडल के वेट्स को स्थायी रूप से बदलती है। नया ज्ञान मॉडल का ही हिस्सा बन जाता है। RAG मॉडल को अछूता छोड़ता है और इसके बजाय क्वेरी के समय प्रासंगिक दस्तावेज़ प्रदान करता है। फ़ाइन-ट्यूनिंग मॉडल को नई शैली या कार्य प्रारूप सिखाने के लिए बेहतर है; RAG उत्तरों को ताज़ा, सत्यापन-योग्य तथ्यों में आधारित रखने के लिए बेहतर है। कई प्रोडक्शन प्रणालियाँ दोनों का उपयोग करती हैं — फ़ाइन-ट्यून किया गया मॉडल स्वर और प्रारूप संभालता है, जबकि RAG अद्यतित तथ्यात्मक आधार देता है।
क्या RAG LLM को अधिक सटीक बनाता है?
RAG मॉडल के आउटपुट को पुनर्प्राप्त साक्ष्य में आधार देकर हैलुसिनेशन काफ़ी घटा सकता है। हालाँकि, सटीकता पुनर्प्राप्ति की गुणवत्ता पर निर्भर करती है। यदि पुनर्प्राप्ति प्रणाली अप्रासंगिक या पुराने दस्तावेज़ लौटाती है, तो LLM आत्मविश्वास से गलत उत्तर दे सकता है — अब गलत साक्ष्य के समर्थन के साथ। RAG सटीकता की ऊपरी सीमा बढ़ाता है, लेकिन उसकी गारंटी नहीं देता। किसी भी गंभीर RAG तैनाती के लिए पुनर्प्राप्ति की परिशुद्धता और रिकॉल मापना आवश्यक है।
वेक्टर डेटाबेस क्या है?
वेक्टर डेटाबेस एक विशिष्ट डेटा स्टोर है जो उच्च-आयामी संख्यात्मक वेक्टरों (एम्बेडिंग) को रखने और खोजने के लिए डिज़ाइन किया गया है। जब कोई क्वेरी एम्बेडिंग सबमिट होती है, तो डेटाबेस समानता खोज करता है — आमतौर पर HNSW या IVF जैसे एल्गोरिद्म से — निकटतम मिलते वेक्टर खोजने के लिए। यह सिमैंटिक खोज संभव बनाता है: दस्तावेज़ों को सटीक कीवर्ड मिलान के बजाय अर्थ के आधार पर खोजना। लोकप्रिय वेक्टर डेटाबेस में Pinecone, Weaviate, Qdrant, Milvus और Chroma शामिल हैं।
क्रिप्टो AI प्रोजेक्ट्स में RAG का उपयोग कैसे होता है?
क्रिप्टो AI प्रोजेक्ट RAG का उपयोग LLM को ब्लॉकचेन-विशिष्ट डेटा से जोड़ने के लिए करते हैं: प्रोटोकॉल दस्तावेज़ीकरण, गवर्नेंस प्रस्ताव, ऑन-चेन लेनदेन इतिहास, रीयल-टाइम मूल्य फ़ीड और स्मार्ट-कॉन्ट्रैक्ट स्रोत कोड। पुनर्प्राप्ति परत इन विशिष्ट स्रोतों को खोजती है ताकि LLM पुराने प्रशिक्षण ज्ञान पर निर्भर रहने के बजाय वर्तमान डेटा से डोमेन-विशिष्ट प्रश्नों का उत्तर दे सके। ऐसी प्रणालियों की गुणवत्ता में भारी अंतर होता है — अच्छी तरह अनुक्रमित, क्यूरेट किए गए ज्ञान आधारों से लेकर न्यूनतम सेटअप तक जो शायद ही कोई उपयोगी संदर्भ पुनर्प्राप्त करते हैं।
क्या RAG ऑन-चेन डेटा के साथ काम कर सकता है?
हाँ। RAG पाइपलाइन की पुनर्प्राप्ति परत ब्लॉकचेन इंडेक्सरों, सबग्राफ़ या ऑन-चेन एनालिटिक्स API से जुड़ सकती है। जब उपयोगकर्ता वॉलेट बैलेंस, लेनदेन इतिहास या स्मार्ट-कॉन्ट्रैक्ट स्थिति के बारे में पूछता है, तो पुनर्प्राप्ति प्रणाली प्रासंगिक ऑन-चेन डेटा लाती है, और LLM मानव-पठनीय व्याख्या जनरेट करता है। मुख्य चुनौतियाँ हैं विलंबता (ब्लॉकचेन क्वेरी धीमी हो सकती हैं), डेटा फ़ॉर्मेटिंग (कच्चे ऑन-चेन डेटा को एम्बेडिंग के लिए पार्स और चंक करना पड़ता है), और ताज़गी (इंडेक्स को इतनी बार अपडेट होना चाहिए कि वह वर्तमान चेन स्थिति दर्शाए)।
यह भी देखें
- LLM क्या है
- AI component क्या है
- API रैपर क्या है
- AI गुणवत्ता मेट्रिक्स क्या हैं
- इन्फ़रेंस क्या है
- फ़ाइन-ट्यूनिंग क्या है
- पुनर्प्राप्ति / ज्ञान परत क्या है
- कैसे पता करें कि किसी प्रोजेक्ट में वाकई AI है
- Tier-1, Tier-2 और Tier-3 साक्ष्य
बाहरी संदर्भ
- Lewis, P. et al. "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks." arXiv, 2020. https://arxiv.org/abs/2005.11401
- Gao, Y. et al. "Retrieval-Augmented Generation for Large Language Models: A Survey." arXiv, 2024. https://arxiv.org/abs/2312.10997
- AWS. "What is RAG?" https://aws.amazon.com/what-is/retrieval-augmented-generation/
- Pinecone. "Retrieval-Augmented Generation (RAG)." https://www.pinecone.io/learn/retrieval-augmented-generation/
- Microsoft. "Retrieval-Augmented Generation (RAG) in Azure AI Search." https://learn.microsoft.com/en-us/azure/search/retrieval-augmented-generation-overview
No comments to display
No comments to display