AI/Inference

नोट: यह दस्तावेज़ मूल अंग्रेजी संस्करण का स्वचालित अनुवाद है।

AI/Inference

AI/Inference उन प्रोजेक्टों को समूहित करता है जो प्रशिक्षित AI मॉडलों को प्रोडक्शन में चलाने पर केंद्रित हैं — वह चरण जहाँ मॉडल इनपुट डेटा प्राप्त करता है और परिणाम देता है (एक पूर्वानुमान, एक वर्गीकरण, एक उत्पन्न इमेज या एक टेक्स्ट उत्तर)। यह AI का "अंतिम मील" है: वह क्षण जब मॉडल वास्तव में कुछ उपयोगी करता है।

DecAIHub रजिस्ट्री में inference-केंद्रित प्रोजेक्ट अक्सर कंप्यूट प्रदाताओं और इन्फ्रास्ट्रक्चर परतों के साथ ओवरलैप करते हैं। अंतर करने वाला कारक है ज़ोर: एक AI/Inference प्रोजेक्ट विशेष रूप से इस बात से संबंधित है कि मॉडल कैसे परोसे जाते हैं, सत्यापित होते हैं और उपयोगकर्ताओं तक पहुँचाए जाते हैं, न कि केवल कच्ची GPU शक्ति की आपूर्ति से।

लेटेंसी, बैचिंग, वर्ज़निंग और अवलोकनीयता (ऑडिट के लिए इनपुट और आउटपुट की लॉगिंग) इस श्रेणी में बार-बार आने वाले विषय हैं। प्रोजेक्ट API इंटीग्रेट करने वाले डेवलपरों या उत्पन्न सामग्री का उपभोग करने वाले अंतिम उपयोगकर्ताओं को लक्षित कर सकते हैं — समान सूत्र है प्रशिक्षित मॉडल का प्रोडक्शन उपयोग, न कि स्वयं प्रशिक्षण चरण।

संक्षेप में: AI/Inference में वे प्रोजेक्ट आते हैं जो प्रोडक्शन में AI मॉडल के आउटपुट परोसते, निष्पादित करते या सत्यापित करते हैं।

इसका क्या अर्थ है

Inference प्रशिक्षित मॉडल में डेटा डालकर परिणाम प्राप्त करने की प्रक्रिया है। जब आप किसी चैटबॉट में प्रॉम्प्ट टाइप करते हैं और उत्तर पाते हैं, तो वह उत्तर inference का उत्पाद है। जब कोई DeFi प्रोटोकॉल मूल्य-पूर्वानुमान मॉडल को कॉल करता है, तो लौटाया गया पूर्वानुमान inference का आउटपुट है।

यह प्रशिक्षण (डेटा से सीखकर मॉडल बनाना और सुधारना) और कंप्यूट (कच्चा हार्डवेयर उपलब्ध कराना) से अलग है। प्रशिक्षण तैनाती से पहले होता है; कंप्यूट संसाधन है; inference तैयार मॉडल के उपयोग की क्रिया है।

क्रिप्टो में एक प्रमुख चुनौती है सत्यापन योग्य inference: किसी एक सर्वर पर भरोसा किए बिना यह कैसे सिद्ध किया जाए कि एक विशिष्ट मॉडल ने एक विशिष्ट इनपुट संसाधित किया और एक विशिष्ट आउटपुट दिया? कई दृष्टिकोण मौजूद हैं:

• बहु-प्रदाता सर्वसम्मति — एक ही इनपुट कई स्वतंत्र प्रदाताओं को भेजा जाता है और आउटपुट की तुलना की जाती है; सहमति से विश्वास बढ़ता है।
• zkML — inference परिणाम के साथ ज़ीरो-नॉलेज प्रूफ़ उत्पन्न किए जाते हैं, जिससे कोई भी मॉडल को दोबारा चलाए बिना शुद्धता सत्यापित कर सकता है।
• TEE (trusted execution environment) — मॉडल एक हार्डवेयर एन्क्लेव के अंदर चलता है, जो संसाधित किए गए कोड और डेटा को प्रमाणित करता है।

AI/Inference प्रोजेक्टों में पाए जाने वाले विशिष्ट AI component में inference एंडपॉइंट, मॉडल-सर्विंग गेटवे, परिणाम-सत्यापन परतें, लेटेंसी राउटर और वर्ज़न व उद्गम को ट्रैक करने वाली मॉडल रजिस्ट्रियाँ शामिल हैं।

सामान्य उप-संयोजन

DecAIHub संयुक्त श्रेणियों का उपयोग करता है। नीचे AI/Inference के भीतर सबसे अधिक बार आने वाले संयोजन दिए गए हैं।

उप-संयोजन	इसका क्या अर्थ है
AI/Inference | Infra	विकेंद्रीकृत inference नेटवर्क और सर्विंग प्लेटफ़ॉर्म — अनुरोधों को मॉडल प्रदाताओं तक रूट करने का इन्फ्रास्ट्रक्चर।
AI/Inference | AI/Compute | Infra	Inference इन्फ्रास्ट्रक्चर जिसमें अपनी कंप्यूट परत भी शामिल है — ऐसे प्रोजेक्ट जो GPU भी सप्लाई करते हैं और मॉडल सर्विंग में भी विशेषज्ञ हैं।
AI/Inference | AI/Agents	ऐसे प्रोजेक्ट जहाँ inference को स्वायत्त एजेंटों द्वारा उपभोग की जाने वाली सेवा के रूप में पैक किया जाता है।

प्रोजेक्ट कार्ड में क्या देखें

DecAIHub पर AI/Inference कार्ड पढ़ते समय इन बातों पर ध्यान दें:

• AI component — क्या कार्ड में कोई ठोस AI component (inference एंडपॉइंट, मॉडल सर्विंग, परिणाम सत्यापन, inference component) सूचीबद्ध है, या केवल अस्पष्ट "AI infrastructure" जैसी भाषा है?
• सत्यापन तंत्र — क्या प्रोजेक्ट बताता है कि inference परिणाम कैसे सत्यापित होते हैं? सर्वसम्मति, zkML, TEE या पुनरुत्पादन गारंटी के उल्लेख खोजें।
• मॉडल पारदर्शिता — क्या आप देख सकते हैं कि कौन-सा मॉडल चलता है, उसका वर्ज़न क्या है, और इनपुट व आउटपुट कैसे दिखते हैं? मॉडल का सारा विवरण छिपाने वाला प्रोजेक्ट सत्यापन को कठिन बना देता है।
• साक्ष्य स्तर — क्या Tier-1 आर्टिफ़ैक्ट मौजूद हैं, जैसे सार्वजनिक inference API, बेंचमार्क परिणाम या ऑन-चेन प्रूफ़ लॉग?
• AI reality स्कोर (ai_score) — किसी और के खुले मॉडल को चलाना वैध inference है, लेकिन कार्ड से स्पष्ट होना चाहिए कि AI स्वामित्व वाला है या तृतीय-पक्ष का। देखें AI reality।

अकेली यह श्रेणी क्या सिद्ध नहीं करती

AI/Inference लेबल वाले प्रोजेक्ट को उसकी पोज़िशनिंग और उपलब्ध आर्टिफ़ैक्ट के आधार पर inference-केंद्रित के रूप में वर्गीकृत किया गया है। केवल लेबल इसकी पुष्टि नहीं करता कि:

• परोसा जा रहा मॉडल उच्च-गुणवत्ता वाला, स्वामित्व वाला या उद्देश्य-निर्मित है;
• inference परिणाम वास्तव में ऑन-चेन या क्रिप्टोग्राफ़िक प्रूफ़ के माध्यम से सत्यापित होते हैं;
• प्रोजेक्ट ने वह मॉडल स्वयं बनाया या प्रशिक्षित किया है जिसे वह परोसता है;
• inference सेवा की सार्थक माँग मौजूद है;
• inference पाइपलाइन के कार्य करने के लिए टोकन आवश्यक है।

हमेशा प्रोजेक्ट कार्ड में पूरा DecAI Fit स्कोर और साक्ष्य ब्लॉक देखें।

भ्रमित न हों

• AI/Compute — कच्चे कम्प्यूटेशनल संसाधन प्रदान करता है; inference कंप्यूट का उपयोग करता है, लेकिन ये श्रेणियाँ अलग-अलग चिंताओं को संबोधित करती हैं (मॉडल परोसना बनाम हार्डवेयर सप्लाई करना)। देखें AI/Compute।
• AI/Training — डेटा से सीखकर मॉडल बनाता और सुधारता है; प्रशिक्षण वह मॉडल तैयार करता है जिसे फिर inference चलाता है। देखें AI/Training।
• AI/Agents — स्वायत्त सॉफ़्टवेयर जो ग्रहण करता है, निर्णय लेता है और कार्य करता है; एजेंट आंतरिक रूप से inference एंडपॉइंट को कॉल कर सकता है, लेकिन एजेंट श्रेणी व्यवहार के बारे में है, मॉडल निष्पादन के बारे में नहीं। देखें AI/Agents।
• API wrapper — एक प्रोजेक्ट जो अपनी inference लॉजिक, सत्यापन या सर्विंग इन्फ्रास्ट्रक्चर जोड़े बिना केवल तृतीय-पक्ष मॉडल (जैसे OpenAI) को कॉल प्रॉक्सी करता है। देखें ऑटोमेशन बनाम वास्तविक AI।

अक्सर पूछे जाने वाले प्रश्न

क्या किसी और के open-weights मॉडल को होस्ट करना भी DecAIHub पर "AI/Inference" है?

हाँ, यदि उत्पाद स्पष्ट रूप से प्रोडक्शन में inference को परोसने, रूट करने या सत्यापित करने के बारे में है। कार्ड को फिर भी उद्गम स्पष्ट करना चाहिए — कौन-सा मॉडल, कौन-सा वर्ज़न, और पतले प्रॉक्सी से आगे प्रोजेक्ट क्या जोड़ता है। देखें AI reality।

inference और compute टैग अक्सर एक साथ क्यों दिखाई देते हैं?

Inference को मशीनों की ज़रूरत होती है। जो प्रोजेक्ट आपूर्ति (AI/Compute) और सर्विंग (यह श्रेणी) दोनों रखते हैं, वे अक्सर संयुक्त टैग धारण करते हैं। AI component सूची से देखें कि ज़ोर हार्डवेयर किराए पर है, मॉडल निष्पादन पर, या दोनों पर।

"सत्यापन योग्य" दावों के लिए सबसे पहले क्या जाँचना चाहिए?

प्रलेखित सत्यापन तंत्र (सर्वसम्मति, zkML, TEE) और Tier-1 आर्टिफ़ैक्ट खोजें, जैसे API, लॉग या पुनरुत्पादन योग्य बेंचमार्क — केवल नारे नहीं।

बाहरी संदर्भ

• Inference (machine learning) — इस बात का तटस्थ सारांश कि inference प्रशिक्षण के साथ ML जीवनचक्र में कैसे फिट होता है।
• NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0) — वास्तविक वातावरण में AI सिस्टमों की विश्वसनीय तैनाती और निगरानी पर पृष्ठभूमि।

यह भी देखें

• Inference क्या है
• AI component क्या है
• प्रशिक्षण क्या है
• zkML क्या है
• संयुक्त AI श्रेणियाँ कैसे पढ़ें
• कैसे पता करें कि किसी प्रोजेक्ट में वास्तव में AI है
• AI के साक्ष्य के रूप में क्या मान्य है
• प्रोजेक्ट कार्ड कैसे पढ़ें