AI component के रूप में इन्फ़रेंस

नोट: यह दस्तावेज़ मूल अंग्रेजी संस्करण का स्वचालित अनुवाद है।

AI component के रूप में इन्फ़रेंस

AI घटक के रूप में इन्फ़रेंस का अर्थ है कि प्रोजेक्ट आउटपुट उत्पन्न करने के लिए प्रोडक्शन में एक प्रशिक्षित मॉडल चलाता है — भविष्यवाणियाँ, वर्गीकरण, जनित टेक्स्ट, छवियाँ या अन्य परिणाम। जब DecAIHub प्रोजेक्ट कार्ड की AI component फ़ील्ड में कोई इन्फ़रेंस-संबंधी मान सूचीबद्ध होता है, तो यह संकेत देता है कि सिस्टम में कहीं-न-कहीं एक मॉडल इनपुट डेटा प्राप्त करता है और AI-चालित परिणाम लौटाता है। यह सबसे प्रत्यक्ष साक्ष्य है कि AI वास्तव में काम कर रहा है, न कि केवल वादा किया गया है।

संक्षेप में: घटक के रूप में इन्फ़रेंस का अर्थ है कि एक मॉडल परोसा और उपयोग किया जा रहा है — वह बिंदु जहाँ AI सिद्धांत होना बंद करता है और वास्तविक आउटपुट देना शुरू करता है।

DecAIHub कार्ड्स में यह कैसा दिखता है

प्रोजेक्ट कार्ड्स की AI component फ़ील्ड सामान्यीकृत मानों का उपयोग करती है। इन्फ़रेंस-संबंधी प्रविष्टियों में शामिल हैं:

• inference engine — मॉडल इन्फ़रेंस चलाने को समर्पित प्रणाली
• decentralized inference — कई स्वतंत्र प्रदाताओं में वितरित इन्फ़रेंस
• verifiable inference (consensus) — ऐसा इन्फ़रेंस जिसके आउटपुट कई नोड्स द्वारा क्रॉस-चेक किए जाते हैं या सर्वसम्मति तंत्र से सत्यापित होते हैं
• LLM inference endpoints — API एंडपॉइंट जो बड़े भाषा मॉडलों के आउटपुट परोसते हैं
• AI inference network — नोड्स का नेटवर्क जो सामूहिक रूप से इन्फ़रेंस क्षमता प्रदान करता है
• model serving — प्रशिक्षित मॉडलों को तैनात करने और चलाने की अवसंरचना

इनमें से प्रत्येक एक काम करते तंत्र का वर्णन करता है, मार्केटिंग दावे का नहीं। यदि कार्ड में inference engine लिखा है, तो इसका अर्थ है कि मूल्यांकनकर्ता को साक्ष्य मिला कि एक मॉडल सक्रिय रूप से परोसा जा रहा है।

पाठकों को इन लेबलों को सत्यापन के लिए संकेत-बिंदु मानना चाहिए: वे बताते हैं कि स्टैक में आउटपुट कहाँ उत्पन्न होते हैं — वे मॉडल की गुणवत्ता, विकेंद्रीकरण या वेट्स की विशिष्टता की गारंटी नहीं देते।

सत्यापन-योग्यता के लिए इन्फ़रेंस क्यों महत्वपूर्ण है

यदि कोई प्रोजेक्ट "AI का उपयोग" करने का दावा करता है, तो इन्फ़रेंस वह जगह है जहाँ दावा परीक्षण-योग्य बनता है। जो मॉडल कभी नहीं चलाया जाता वह कोई आउटपुट और कोई साक्ष्य उत्पन्न नहीं करता। जो मॉडल इन्फ़रेंस चलाता है वह जाँचे जा सकने वाले आर्टिफ़ैक्ट बनाता है: API प्रतिक्रियाएँ, विलंबता मेट्रिक्स, आउटपुट लॉग, बेंचमार्क परिणाम, डेमो एप्लिकेशन।

DecAIHub के लिए, वास्तविक इन्फ़रेंस घटक की उपस्थिति AI reality के प्रमुख संकेतों में से एक है। यह सीधे ai_score में जाता है और DecAI Fit मीट्रिक को प्रभावित करता है।

व्यवहार में, इन्फ़रेंस "उत्पाद के रूप में AI" और "स्लाइड डेक के रूप में AI" के बीच की सीमा भी स्पष्ट करता है: दस्तावेज़ीकृत एंडपॉइंट, पुनरुत्पादन-योग्य डेमो या लॉग किया गया सर्विंग पथ, अस्पष्ट रोडमैप की तुलना में Tier-1/2/3 साक्ष्य से मिलाना कहीं आसान है।

सत्यापन-योग्य इन्फ़रेंस

कुछ क्रिप्टो AI प्रोजेक्ट मॉडल चलाने से आगे जाते हैं — वे सिद्ध करते हैं कि उनका इन्फ़रेंस वास्तविक है। DecAIHub कार्ड्स में तीन सामान्य दृष्टिकोण दिखते हैं:

• मल्टी-प्रोवाइडर सर्वसम्मति — एक ही क्वेरी कई स्वतंत्र नोड्स को भेजी जाती है; यदि आउटपुट मेल खाते हैं, तो विश्वास बढ़ता है।
• TEE (trusted execution environment) — मॉडल एक हार्डवेयर एनक्लेव के भीतर चलता है जो प्रोसेस किए गए कोड और डेटा का सत्यापन (attestation) करता है।
• zkML — इन्फ़रेंस आउटपुट के साथ शून्य-ज्ञान प्रमाण उत्पन्न किए जाते हैं, जिससे मॉडल को दोबारा चलाए बिना क्रिप्टोग्राफ़िक सत्यापन संभव होता है।

सत्यापन-योग्य इन्फ़रेंस लागू करने वाले प्रोजेक्ट आमतौर पर DecAI Fit की ऑन-चेन धुरी पर अधिक स्कोर करते हैं, क्योंकि सत्यापन तंत्र अक्सर ऑन-चेन रहता है।

इनमें से कोई भी तकनीक यह पूछने की आवश्यकता को समाप्त नहीं करती कि कौन-सा मॉडल चल रहा है और क्या प्रोजेक्ट फ़ाइन-ट्यूनिंग को नियंत्रित करता है या केवल ट्रैफ़िक रूट करता है — वे किसी दिए गए निष्पादन पथ के बारे में अखंडता के दावों को मज़बूत करती हैं।

DecAIHub में सामान्य पैटर्न

घटक के रूप में इन्फ़रेंस कई प्रोजेक्ट आर्किटाइप में दिखता है:

• विकेंद्रीकृत इन्फ़रेंस नेटवर्क — वितरित नोड्स मॉडल अनुरोध परोसते हैं, प्रोटोकॉल परत द्वारा समन्वित।
• इन्फ़रेंस-एज़-अ-सर्विस — ऐसे प्रोजेक्ट जो अन्य एप्लिकेशनों या एजेंटों को इन्फ़रेंस एंडपॉइंट प्रदान करते हैं।
• इन्फ़रेंस मार्केटप्लेस — ऐसे प्लेटफ़ॉर्म जहाँ प्रदाता इन्फ़रेंस अनुरोध परोसने के लिए प्रतिस्पर्धा करते हैं, ऑन-चेन मूल्य-निर्धारण और निपटान के साथ।
• मॉडल राउटर — ऐसी प्रणालियाँ जो लागत, विलंबता या गुणवत्ता के आधार पर इन्फ़रेंस अनुरोधों को सबसे उपयुक्त मॉडल या प्रदाता तक रूट करती हैं।

ये पैटर्न ओवरलैप कर सकते हैं: राउटर मार्केटप्लेस के आगे बैठ सकता है, और विकेंद्रीकृत नेटवर्क सार्वजनिक API और निजी एजेंट इंटरफ़ेस दोनों उपलब्ध करा सकता है।

क्या सत्यापित करें

इन्फ़रेंस-संबंधी AI घटक वाले प्रोजेक्ट कार्ड की समीक्षा करते समय जाँचें:

• मॉडल का मूल — क्या प्रोजेक्ट अपना खुद का मॉडल चलाता है, या वह किसी तृतीय-पक्ष प्रदाता के इर्द-गिर्द API रैपर है?
• काम करता एंडपॉइंट — क्या कोई सार्वजनिक रूप से सुलभ डेमो, API या सैंडबॉक्स है जहाँ इन्फ़रेंस आउटपुट परखे जा सकें?
• विलंबता और थ्रूपुट डेटा — क्या प्रोजेक्ट अपनी इन्फ़रेंस सेवा के मापने-योग्य प्रदर्शन मेट्रिक्स प्रकाशित करता है?
• विकेंद्रीकरण के दावे — यदि प्रोजेक्ट विकेंद्रीकृत इन्फ़रेंस का दावा करता है, तो क्या ऑन-चेन कई स्वतंत्र प्रदाता दिखते हैं?
• सत्यापन तंत्र — क्या प्रोजेक्ट इन्फ़रेंस की अखंडता सिद्ध करने के लिए सर्वसम्मति, TEE या zkML का उपयोग करता है?

घटक के रूप में इन्फ़रेंस क्या सिद्ध नहीं करता

• परोसा जा रहा मॉडल किसी और का हो सकता है — किसी तृतीय-पक्ष मॉडल (GPT, Claude) के इर्द-गिर्द API रैपर तकनीकी रूप से इन्फ़रेंस है, लेकिन स्वामित्व वाला AI प्रदर्शित नहीं करता।
• मॉडल निम्न-गुणवत्ता का हो सकता है — इन्फ़रेंस चलाना यह गारंटी नहीं देता कि मॉडल अच्छी तरह प्रशिक्षित, बेंचमार्क किया हुआ या उद्देश्य के अनुरूप है।
• विकेंद्रीकरण के दावों के बावजूद इन्फ़रेंस केंद्रीकृत हो सकता है — "inference network" लेबल के पीछे एक ही सर्वर।
• इन्फ़रेंस होना यह सिद्ध नहीं करता कि इन्फ़रेंस पाइपलाइन के काम करने के लिए टोकन आवश्यक है।

हमेशा समर्थक आर्टिफ़ैक्ट के लिए साक्ष्य तालिका और Tier-1/2/3 साक्ष्य ब्लॉक की जाँच करें।

भ्रमित न हों

• AI/Inference एक प्रोजेक्ट श्रेणी है जो इन्फ़रेंस-केंद्रित प्रोजेक्ट्स का वर्णन करती है। घटक के रूप में इन्फ़रेंस किसी प्रोजेक्ट के भीतर का विशिष्ट तकनीकी तंत्र है, चाहे उसकी श्रेणी कोई भी हो।
• प्रशिक्षण मॉडल बनाता है। इन्फ़रेंस उसका उपयोग करता है। ये क्रमिक चरण हैं, पर्यायवाची नहीं।
• कंप्यूट हार्डवेयर प्रदान करता है। इन्फ़रेंस उस हार्डवेयर पर चलने वाला वर्कलोड है।
• AI component व्यापक फ़ील्ड है। इन्फ़रेंस कई संभावित AI घटक प्रकारों में से एक है।

अक्सर पूछे जाने वाले प्रश्न

यदि कोई प्रोजेक्ट केवल किसी प्रसिद्ध फ़ाउंडेशन मॉडल का सार्वजनिक API परोसता है, तो क्या यह DecAIHub के लिए इन्फ़रेंस माना जाता है?

हाँ — आउटपुट परोसना तकनीकी अर्थ में इन्फ़रेंस है। अलग प्रश्न गहराई का है: पाठकों को API रैपर मार्गदर्शन और प्रोजेक्ट-विशिष्ट अनुकूलन, डेटा या मूल्यांकन के साक्ष्य देखने चाहिए।

इन्फ़रेंस का zkML से क्या संबंध है?

zkML निष्पादन की सत्यापन-योग्यता को लक्षित करता है: यह प्रमाण कि घोषित मॉडल ने घोषित आउटपुट दिया। यह अपने आप में सिद्ध नहीं करता कि मॉडल नया, निष्पक्ष या उपयोग-मामले के लिए उपयुक्त है — केवल यह कि दावा की गई संगणना हुई।

क्या इन्फ़रेंस कार्ड पर एकमात्र AI घटक हो सकता है?

अक्सर, हाँ। कई उत्पाद इन्फ़रेंस-केंद्रित होते हैं (सर्विंग, रूटिंग, SLA)। कार्ड्स को फिर भी सूचीबद्ध करना चाहिए कि क्या परोसा जाता है और साक्ष्य से लिंक करना चाहिए; देखें कैसे पता करें कि किसी प्रोजेक्ट में वाकई AI है।

बाहरी संदर्भ

• What is machine learning inference? — प्रशिक्षण के बाद तैनाती चरण के रूप में इन्फ़रेंस की संक्षिप्त परिभाषा (एक प्रमुख क्लाउड प्रदाता का दस्तावेज़ीकरण)।
• What is machine learning inference? — शब्दावली प्रविष्टि जो प्रशिक्षण की तुलना इन्फ़रेंस से करती है और तैनाती-कालीन व्यवहार का वर्णन करती है।

यह भी देखें

• AI component क्या है
• AI component बनाम उपयोग-मामला
• AI/Inference श्रेणी
• AI component के रूप में कंप्यूट
• API रैपर क्या है
• DecAI Fit क्या है
• Tier-1, Tier-2 और Tier-3 साक्ष्य
• कैसे पता करें कि किसी प्रोजेक्ट में वाकई AI है