AI/Inference
Hinweis: Dieses Dokument ist eine automatische Übersetzung des englischen Originals.
AI/Inference
AI/Inference gruppiert Projekte, die sich auf das Ausführen trainierter KI-Modelle in der Produktion konzentrieren — die Phase, in der ein Modell Eingabedaten empfängt und ein Ergebnis erzeugt (eine Vorhersage, eine Klassifizierung, ein generiertes Bild oder eine Textantwort). Dies ist die „letzte Meile" der KI: der Moment, in dem das Modell tatsächlich etwas Nützliches tut.
Im DecAIHub-Register überschneiden sich inferenzfokussierte Projekte oft mit Compute-Anbietern und Infrastrukturschichten. Das Unterscheidungsmerkmal ist der Schwerpunkt: Ein AI/Inference-Projekt befasst sich spezifisch damit, wie Modelle bereitgestellt, verifiziert und an Nutzer ausgeliefert werden, nicht nur mit der Bereitstellung roher GPU-Leistung.
Latenz, Batching, Versionierung und Observability (Protokollierung von Ein- und Ausgaben zur Prüfung) sind wiederkehrende Themen in dieser Kategorie. Projekte können sich an Entwickler richten, die APIs integrieren, oder an Endnutzer, die generierte Inhalte konsumieren — der gemeinsame Nenner ist die produktive Nutzung eines trainierten Modells, nicht die Trainingsphase selbst.
Kurz gesagt: AI/Inference umfasst Projekte, die KI-Modellausgaben in der Produktion bereitstellen, ausführen oder verifizieren.
Was es bedeutet
Inferenz ist der Prozess, bei dem Daten in ein trainiertes Modell eingespeist werden und ein Ergebnis entsteht. Wenn Sie einen Prompt in einen Chatbot eingeben und eine Antwort erhalten, ist diese Antwort das Produkt der Inferenz. Wenn ein DeFi-Protokoll ein Preisvorhersagemodell aufruft, ist die zurückgegebene Prognose Inferenzausgabe.
Dies unterscheidet sich vom Training (Erstellen und Verbessern des Modells durch Lernen aus Daten) und vom Compute (Bereitstellen der rohen Hardware). Training erfolgt vor der Bereitstellung; Compute ist die Ressource; Inferenz ist der Akt der Nutzung des fertigen Modells.
Eine zentrale Herausforderung in der Krypto-Welt ist die verifizierbare Inferenz: Wie beweist man, dass ein bestimmtes Modell eine bestimmte Eingabe verarbeitet und eine bestimmte Ausgabe erzeugt hat, ohne einem einzelnen Server zu vertrauen? Es existieren mehrere Ansätze:
- Multi-Provider-Konsens — dieselbe Eingabe wird an mehrere unabhängige Anbieter gesendet, und die Ausgaben werden verglichen; Übereinstimmung erhöht das Vertrauen.
- zkML — Zero-Knowledge-Beweise werden zusammen mit dem Inferenzergebnis erzeugt, sodass jeder die Korrektheit verifizieren kann, ohne das Modell erneut auszuführen.
- TEE (Trusted Execution Environment) — das Modell läuft innerhalb einer Hardware-Enklave, die den Code und die Daten attestiert, die sie verarbeitet hat.
Typische AI components in AI/Inference-Projekten umfassen Inferenz-Endpunkte, Model-Serving-Gateways, Ergebnisverifizierungsschichten, Latenz-Router und Modellregister, die Versionen und Herkunft nachverfolgen.
Häufige Subkombinationen
DecAIHub verwendet zusammengesetzte Kategorien. Nachfolgend die häufigsten Kombinationen innerhalb von AI/Inference.
| Subkombination | Was es bedeutet |
|---|---|
| AI/Inference | Infra | Dezentrale Inferenznetzwerke und Serving-Plattformen — Infrastruktur zum Weiterleiten von Anfragen an Modellanbieter. |
| AI/Inference | AI/Compute | Infra | Inferenz-Infrastruktur, die auch eine eigene Compute-Schicht enthält — Projekte, die sowohl GPUs bereitstellen als auch auf Model-Serving spezialisiert sind. |
| AI/Inference | AI/Agents | Projekte, bei denen Inferenz als Dienst verpackt ist, der von autonomen Agenten konsumiert wird. |
Worauf man in einer Projektkarte achten sollte
Beim Lesen einer AI/Inference-Karte auf DecAIHub achten Sie auf:
- AI component — listet die Karte eine konkrete AI component auf (Inferenz-Endpunkte, Model-Serving, Ergebnisverifizierung, Inferenz-Komponente) oder nur vage „KI-Infrastruktur"-Formulierungen?
- Verifizierungsmechanismus — beschreibt das Projekt, wie Inferenzergebnisse verifiziert werden? Achten Sie auf Erwähnungen von Konsens, zkML, TEE oder Reproduzierbarkeitsgarantien.
- Modelltransparenz — können Sie sehen, welches Modell läuft, welche Version es hat und wie Ein- und Ausgaben aussehen? Ein Projekt, das alle Modelldetails verbirgt, erschwert die Verifizierung.
- Evidenz-Tier — gibt es Tier-1-Artefakte wie öffentliche Inferenz-APIs, Benchmark-Ergebnisse oder On-Chain-Beweisprotokolle?
- AI reality-Score (
ai_score) — das Ausführen des offenen Modells eines anderen ist valide Inferenz, aber die Karte sollte klarstellen, ob die KI proprietär oder von Dritten stammt. Siehe AI reality.
Was diese Kategorie allein nicht beweist
Ein als AI/Inference gekennzeichnetes Projekt wurde basierend auf seiner Positionierung und den verfügbaren Artefakten als inferenzfokussiert klassifiziert. Das Label allein bestätigt nicht, dass:
- das bereitgestellte Modell hochwertig, proprietär oder zweckgebaut ist;
- Inferenzergebnisse tatsächlich on-chain oder durch kryptografische Beweise verifiziert werden;
- das Projekt das von ihm bereitgestellte Modell erstellt oder trainiert hat;
- es eine sinnvolle Nachfrage nach dem Inferenzdienst gibt;
- der Token notwendig ist, damit die Inferenz-Pipeline funktioniert.
Prüfen Sie stets den vollständigen DecAI Fit-Score und den Beleg-Block in der Projektkarte.
Nicht verwechseln mit
- AI/Compute — stellt rohe Rechenressourcen bereit; Inferenz nutzt Compute, aber die Kategorien behandeln unterschiedliche Belange (Modelle bereitstellen vs. Hardware liefern). Siehe AI/Compute.
- AI/Training — erstellt und verbessert Modelle durch Lernen aus Daten; Training erzeugt das Modell, das Inferenz dann ausführt. Siehe AI/Training.
- AI/Agents — autonome Software, die wahrnimmt, entscheidet und handelt; ein Agent kann intern einen Inferenz-Endpunkt aufrufen, aber die Agenten-Kategorie betrifft das Verhalten, nicht die Modellausführung. Siehe AI/Agents.
- API-Wrapper — ein Projekt, das einfach Aufrufe an ein Drittanbietermodell (z. B. OpenAI) weiterleitet, ohne eigene Inferenzlogik, Verifizierung oder Serving-Infrastruktur hinzuzufügen. Siehe Automatisierung vs. echte KI.
Häufig gestellte Fragen
Ist das Hosten des Open-Weights-Modells eines anderen auf DecAIHub immer noch „AI/Inference"?
Ja, wenn es bei dem Produkt klar um das Bereitstellen, Weiterleiten oder Verifizieren von Inferenz in der Produktion geht. Die Karte sollte dennoch die Herkunft klären — welches Modell, welche Version und was das Projekt über einen dünnen Proxy hinaus beiträgt. Siehe AI reality.
Warum erscheinen Inferenz- und Compute-Tags oft zusammen?
Inferenz benötigt Maschinen. Projekte, die sowohl das Angebot (AI/Compute) als auch das Serving (diese Kategorie) besitzen, tragen oft zusammengesetzte Tags. Nutzen Sie die AI component-Liste, um zu sehen, ob der Schwerpunkt auf Hardware-Vermietung, Modellausführung oder beidem liegt.
Was sollte ich bei „verifizierbaren" Behauptungen zuerst prüfen?
Achten Sie auf dokumentierte Verifizierungsmechanismen (Konsens, zkML, TEE) und Tier-1-Artefakte wie APIs, Logs oder reproduzierbare Benchmarks — nicht nur auf Slogans.
Externe Referenzen
- Inference (machine learning) — eine neutrale Zusammenfassung, wie Inferenz neben dem Training in den ML-Lebenszyklus passt.
- NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0) — Hintergrund zur vertrauenswürdigen Bereitstellung und Überwachung von KI-Systemen in realen Umgebungen.
No comments to display
No comments to display