Was ist ein großes Sprachmodell (LLM)
Hinweis: Dieses Dokument ist eine automatische Übersetzung des englischen Originals.
Was ist ein großes Sprachmodell (LLM)
Ein großes Sprachmodell (LLM) ist eine Art neuronales Netz, das auf riesigen Mengen Text trainiert wurde, sodass es menschliche Sprache verstehen und erzeugen kann. Stell dir einen extrem belesenen Assistenten vor, der Milliarden von Seiten aus Büchern, Artikeln, Code und Gesprächen aufgenommen hat. Es „weiß“ Dinge nicht so, wie ein Mensch es tut; stattdessen hat es statistische Muster gelernt — welche Wörter und Ideen tendenziell auf welche folgen — gut genug, um zusammenhängende Absätze zu schreiben, Fragen zu beantworten, zwischen Sprachen zu übersetzen, Dokumente zusammenzufassen und sogar mehrstufige Probleme durchzudenken.
Die definierende Eigenschaft (und die Einschränkung) eines LLM ist, dass es durch Vorhersage arbeitet. Bei gegebenem Satzanfang berechnet das Modell das wahrscheinlichste nächste Wort, dann das nächste und so weiter, jeweils ein Token nach dem anderen. Ein Token ist grob ein Wort oder ein Subwort. Durch das Verketten Tausender dieser winzigen Vorhersagen kann ein LLM Essays, Code, Gedichte oder technische Analysen erzeugen — alles, ohne für jede Aufgabe explizit programmiert zu sein. Bekannte LLMs umfassen GPT, Claude, Gemini und Mistral. Die meisten Krypto-KI-Projekte, die „AI“ in ihrem Marketing erwähnen, nutzen entweder intern ein LLM, behaupten eines zu nutzen oder umhüllen ein Drittanbieter-LLM hinter ihrer eigenen Oberfläche. Zu verstehen, was ein LLM tatsächlich ist — und was es nicht ist —, ist entscheidend, um diese Behauptungen zu bewerten.
Kurz gesagt: Ein LLM ist die Engine hinter den meisten modernen textbasierten KI-Systemen. In der Krypto-KI ist die entscheidende Frage nicht, ob ein Projekt „ein LLM nutzt“, sondern wie es eines nutzt und welchen proprietären Wert es darüber hinaus hinzufügt.
Wie es funktioniert
Der Bau und die Nutzung eines LLM umfassen mehrere unterschiedliche Phasen. Jede Phase erfordert andere Ressourcen, Expertise und Daten — und jede repräsentiert eine andere KI-Tiefe bei der Bewertung eines Krypto-KI-Projekts.
Phase 1: Pre-Training
Pre-Training ist der Punkt, an dem das Modell die Grundlagen der Sprache lernt. In dieser Phase liest das LLM Milliarden von Tokens — Wörter und Subwörter aus Büchern, Websites, Code-Repositories, wissenschaftlichen Arbeiten und anderen Textquellen. Das Modell passt seine internen Parameter (Gewichte) an, um beim Vorhersagen des nächsten Tokens in einer Sequenz zunehmend genauer zu werden.
Diese Phase ist teuer. Ein Spitzen-LLM von Grund auf zu trainieren, kann Tausende spezialisierter GPUs erfordern, die wochen- oder monatelang laufen, und das resultierende Modell kann zig oder hunderte Milliarden Parameter haben. Nur eine Handvoll Organisationen — gut ausgestattete KI-Labore — trainieren LLMs routinemäßig von Grund auf vor.
Phase 2: Fine-Tuning
Ein vortrainiertes Modell ist leistungsfähig, aber generisch. Fine-Tuning verengt das Verhalten des Modells, indem es weiter auf einem kuratierten, kleineren Datensatz trainiert wird, der für eine bestimmte Aufgabe oder Domäne relevant ist. Zum Beispiel könnte ein medizinisches LLM auf klinischen Notizen feinabgestimmt werden; ein DeFi-orientiertes Modell könnte auf Smart-Contract-Dokumentation und On-Chain-Daten feinabgestimmt werden.
Fine-Tuning erfordert weit weniger Rechenleistung als Pre-Training, verlangt aber dennoch Expertise in Datenauswahl, Evaluierungsmetriken und beim Vermeiden des katastrophalen Vergessens (bei dem das Modell allgemeine Fähigkeiten verliert, während es sich spezialisiert).
Phase 3: Alignment und RLHF
Moderne LLMs durchlaufen nach dem Fine-Tuning üblicherweise eine Alignment-Phase. Reinforcement Learning from Human Feedback (RLHF) ist der gängigste Ansatz: Menschliche Bewerter ranken Modellausgaben, und das Modell wird trainiert, Antworten zu bevorzugen, die Menschen höher bewerten. Alignment ist das, was ein Modell dazu bringt, Anweisungen zu folgen, schädliche Anfragen abzulehnen und wirklich nützliche Antworten statt plausibel klingenden Unsinns zu erzeugen.
Phase 4: Inferenz
Inferenz ist die Produktionsphase — wenn ein trainiertes LLM einen Prompt erhält und eine Ausgabe erzeugt. Jedes Mal, wenn ein Nutzer eine Nachricht an einen Chatbot sendet, führt das zugrunde liegende LLM Inferenz aus: Es liest den Prompt, verarbeitet ihn durch seine Parameter-Schichten und erzeugt Token für Token eine Antwort.
Inferenz kostet Rechenleistung (GPU-Zeit), aber weit weniger pro Anfrage als Training. Die meisten Projekte, die „ein LLM nutzen“, führen nur Inferenz durch — oft, indem sie die API eines externen Anbieters aufrufen, statt eigene Hardware zu betreiben.
Die Pipeline auf einen Blick
| Phase | Was passiert | Wer es typischerweise tut | Rechenkosten |
|---|---|---|---|
| Pre-Training | Sprache aus Milliarden von Tokens lernen | Große KI-Labore | Sehr hoch |
| Fine-Tuning | Das Modell an eine Domäne oder Aufgabe anpassen | KI-Labore, gut finanzierte Startups | Mittel |
| Alignment (RLHF) | Das Modell sicher und anweisungsfolgend machen | KI-Labore | Mittel |
| Inferenz | Antworten auf Nutzer-Prompts erzeugen | Jeder mit API-Schlüssel oder GPU | Niedrig pro Anfrage |
Schlüsselmerkmale eines LLM
Mehrere Eigenschaften bestimmen, wie leistungsfähig ein bestimmtes LLM ist:
- Parameteranzahl — die Anzahl der trainierbaren Gewichte im Modell. Größere Modelle erfassen im Allgemeinen mehr Nuancen, kosten aber mehr in Training und Betrieb. Die Parameteranzahl reicht von wenigen Milliarden (kleine Open-Source-Modelle) bis über eine Billion (Spitzenmodelle).
- Kontextfenster — die maximale Anzahl von Tokens, die das Modell in einer einzelnen Interaktion verarbeiten kann. Ein kurzes Kontextfenster bedeutet, dass das Modell den Anfang eines langen Gesprächs „vergisst“. Moderne LLMs bieten Kontextfenster von wenigen Tausend Tokens bis über hunderttausend.
- Architektur — die meisten modernen LLMs basieren auf der Transformer-Architektur, die 2017 eingeführt wurde. Transformer nutzen einen Mechanismus namens Self-Attention, um die Beziehungen zwischen allen Tokens in der Eingabe zu gewichten, was ihnen ermöglicht, weitreichende Abhängigkeiten im Text zu handhaben.
- Trainingsdaten — die Qualität, Vielfalt und Aktualität der beim Pre-Training verwendeten Daten prägen, was das Modell weiß. Ein Modell, das nur auf englischem Text trainiert wurde, schneidet bei anderen Sprachen schlecht ab; ein Modell mit einem Wissens-Stichtag in einem bestimmten Jahr kennt keine späteren Ereignisse.
Beispiele aus der Industrie
Mehrere bekannte LLMs veranschaulichen die Bandbreite der Ansätze im Feld:
- GPT (OpenAI) — ein Closed-Source-, multimodales LLM, das über eine API verfügbar ist. Viele Krypto-KI-Projekte rufen die GPT-API auf, um ihren Produkten konversationelle oder analytische Funktionen hinzuzufügen.
- Claude (Anthropic) — ein Closed-Source-LLM mit starkem Fokus auf Sicherheit und Alignment. Wie GPT wird es typischerweise über eine API angesprochen.
- DeepSeek-R1 (DeepSeek) — ein Open-Weight-LLM, veröffentlicht unter der MIT-Lizenz. Seine starken Reasoning-Fähigkeiten und offene Verfügbarkeit machen es zu einem beliebten Basismodell für Fine-Tuning und für Krypto-KI-Projekte, die Modelle lokal ausführen oder tiefere KI-Integration behaupten wollen.
- Mistral (Mistral AI) — eine Familie von Open-Weight-Modellen, bekannt für starke Leistung bei kleineren Parameteranzahlen, was sie für Projekte mit begrenztem GPU-Budget praktisch macht.
Diese Namen tauchen häufig in Beschreibungen von Krypto-KI-Projekten auf. Wenn ein Projekt sagt, es „nutzt GPT“, bedeutet das fast immer, dass es die OpenAI-API aufruft. Wenn es sagt, es „hat DeepSeek feinabgestimmt“, impliziert das ein tieferes technisches Engagement — obwohl die Behauptung dennoch überprüfbare Evidenz erfordert.
Open-Source- vs. Closed-Source-LLMs
| Aspekt | Open-Source / Open-Weight | Closed-Source |
|---|---|---|
| Modellgewichte | Öffentlich zum Download verfügbar | Hinter einer API verborgen |
| Inspektion | Jeder kann studieren, auditieren oder feinabstimmen | Kein externes Audit der Interna möglich |
| Anpassung | Kann auf eigenen Daten feinabgestimmt, lokal ausgeführt werden | Beschränkt auf API-Parameter (Temperatur, System-Prompts) |
| Kostenstruktur | Erfordert eigene GPU-Hardware oder Hosting | Pay-per-Token-API-Preise |
| Beispiele | DeepSeek, Qwen, Mistral | GPT, Claude, Gemini |
Für Krypto-KI-Projekte ist die Unterscheidung wichtig: Ein Projekt, das ein Open-Weight-Modell feinabgestimmt und Trainingsdetails veröffentlicht hat, demonstriert mehr KI-Tiefe als eines, das eine geschlossene API ohne Modifikation aufruft.
Warum LLMs in der Krypto-KI wichtig sind
Viele Krypto-KI-Projekte verweisen in ihren Whitepapers, Pitch-Decks oder Produktbeschreibungen auf LLMs. Die Behauptungen variieren stark:
- „Wir haben unser eigenes LLM gebaut“ — impliziert Pre-Training oder erhebliches Fine-Tuning, was beträchtliche Rechenleistung und Expertise erfordert. Dies ist die tiefste Engagement-Ebene.
- „Wir haben ein LLM für DeFi feinabgestimmt“ — impliziert eine domänenspezifische Anpassung eines bestehenden Basismodells. Glaubwürdiger als ein roher API-Aufruf, aber die Details zählen.
- „Wir nutzen ein LLM“ — bedeutet oft, eine externe API aufzurufen (etwa die OpenAI- oder Anthropic-API) mit projektspezifischen Prompts. Dies ist die oberflächlichste Ebene der KI-Integration.
Diese drei Szenarien repräsentieren grundlegend unterschiedliche KI-Tiefen, und DecAIHub bewertet sie entsprechend über seine evidenzbasierte Methodik.
Eine API nutzen vs. eine eigene bauen
| Ansatz | Was es bedeutet | KI-Tiefe |
|---|---|---|
| API-Aufruf | Das Projekt sendet Prompts an ein Drittanbieter-LLM (z. B. OpenAI-API) und gibt die Antwort zurück | Niedrig — die KI gehört dem Anbieter |
| Prompt Engineering | Das Projekt entwirft spezialisierte Prompts, Chains oder Retrieval-Pipelines auf einem Drittanbieter-LLM | Niedrig-mittel — proprietäre Logik existiert, aber das Modell ist extern |
| Fine-Tuning | Das Projekt passt ein Open-Source-Basismodell (DeepSeek, Mistral, Qwen) auf seinem eigenen Datensatz an | Mittel-hoch — das Projekt besitzt ein modifiziertes Modell |
| Pre-Training | Das Projekt trainiert ein Modell von Grund auf auf eigenen Daten und Rechenleistung | Hoch — vollständiges Eigentum am Modell |
Ein API-Wrapper, der Nutzer-Prompts an ein kommerzielles LLM weiterreicht und die Antwort zurückgibt, ist nicht dasselbe wie ein Projekt, das DeepSeek auf On-Chain-Transaktionsdaten feinabgestimmt hat. DecAIHub unterscheidet zwischen diesen im Feld AI component der Projektkarte.
Wo es in DecAIHub-Projektkarten auftaucht
Beim Prüfen einer Projektkarte auf DecAIHub stehen mehrere Felder in direktem Zusammenhang mit der LLM-Nutzung:
- AI component kann „LLM“, „fine-tuned model“, „prompt engineering“ oder einen bestimmten Modellnamen erwähnen. Dieses Feld beschreibt, welche Art von KI das Projekt tatsächlich hat, wie von DecAIHub-Prüfern verifiziert.
- AI use case beschreibt, wofür das LLM genutzt wird: Generierung, Klassifizierung, Zusammenfassung, Agenten-Reasoning und so weiter. Ein Projekt kann ein LLM für eine enge Aufgabe nutzen (z. B. Intent-Parsing) oder als Kern-Engine für ein ganzes Produkt.
- ai_score (Teil von DecAI Fit) spiegelt wider, wie gut die LLM-Nutzung mit Tier-1-, Tier-2- oder Tier-3-Evidenz dokumentiert ist. Ein Projekt, das LLM-Nutzung behauptet, aber keine überprüfbaren Artefakte liefert, schneidet in dieser Dimension niedrig ab.
- AI reality-Flags (AI_0 bis AI_4) zeigen die Gesamttiefe überprüfbarer KI an, die in vielen Projekten durch ihre LLM-Integration verankert ist.
Das Ziel ist nie, ein Projekt für die Nutzung eines Drittanbieter-LLM zu bestrafen — viele valide Produkte tun genau das. Das Ziel ist, zwischen Projekten zu unterscheiden, die transparent eine API aufrufen, und solchen, die API-Nutzung als proprietäre KI-Forschung falsch darstellen.
Was ein LLM allein nicht beweist
- Einen LLM-API-Schlüssel zu haben bedeutet nicht, dass das Projekt „KI hat“. Es bedeutet, dass das Projekt die KI eines anderen aufrufen kann.
- „GPT“ oder „Claude“ im Marketing zu erwähnen, beweist keine proprietäre KI-Arbeit. Tausende von Anwendungen nutzen dieselbe API.
- Selbst ein feinabgestimmtes Modell braucht überprüfbare Artefakte: eine Beschreibung der Trainingsdaten, Evaluierungsmetriken, eine Modellversions-Kennung und Deployment-Belege.
- Eine hohe Parameteranzahl garantiert kein besseres Modell. Trainingsqualität, Datenkuration und Alignment zählen mindestens ebenso viel wie die rohe Größe.
Nicht verwechseln mit
- Inferenz — das Ausführen eines trainierten LLM, um Ausgaben zu erzeugen. Inferenz ist ein Schritt bei der Nutzung eines LLM, kein Synonym für das LLM selbst.
- Training — der Prozess des Bauens oder Anpassens eines LLM. Training produziert das Modell; Inferenz nutzt es.
- KI-Agent — ein autonomes System, das ein LLM als seinen Reasoning-Kern nutzen kann, aber Wahrnehmung, Gedächtnis, Tool-Nutzung und Aktion hinzufügt. Ein LLM allein ist kein Agent.
- Natural Language Processing (NLP) — ein breiteres Feld der Informatik. LLMs sind ein (sehr erfolgreicher) Ansatz für NLP, aber NLP umfasst auch ältere Techniken wie Schlüsselwortextraktion, regelbasiertes Parsing und statistische Klassifikatoren.
- Foundation Model — ein allgemeinerer Begriff, der LLMs umfasst, aber auch große Modelle abdeckt, die auf Bildern, Audio, Video oder multimodalen Daten trainiert wurden. Jedes LLM ist ein Foundation Model, aber nicht jedes Foundation Model ist ein LLM.
Häufig gestellte Fragen
Was ist der Unterschied zwischen einem LLM und einem Chatbot?
Ein LLM ist ein Modell — ein Satz trainierter Parameter, der Text verarbeiten und erzeugen kann. Ein Chatbot ist ein Produkt, das auf einem Modell aufbaut. Das LLM ist die Engine; der Chatbot ist das Auto. Ein einzelnes LLM kann Tausende verschiedener Chatbots antreiben, jeder mit eigenen Prompts, eigener Oberfläche und Persönlichkeit. Umgekehrt nutzt ein Chatbot nicht zwangsläufig ein LLM — ältere Chatbots beruhten auf skriptbasierten Regeln oder einfachem Pattern-Matching.
Nutzen alle KI-Projekte LLMs?
Nein. Viele Krypto-KI-Projekte nutzen andere Arten von Machine Learning: Computer-Vision-Modelle für NFT-Generierung, Reinforcement Learning für Trading-Strategien, Graph Neural Networks für Blockchain-Analytik oder traditionelles ML für Anomalieerkennung. Das LLM dominiert in textbasierten Anwendungen, ist aber nicht die einzige Art von KI.
Was bedeutet es, ein LLM feinabzustimmen?
Fine-Tuning nimmt ein vortrainiertes LLM und setzt sein Training auf einem kleineren, kuratierten Datensatz fort, der für eine bestimmte Aufgabe relevant ist. Das Ziel ist, das Modell zu spezialisieren — etwa ihm beizubringen, DeFi-Terminologie zu verstehen, Smart Contracts zu parsen oder Antworten in einem bestimmten Stil zu erzeugen. Fine-Tuning ist kostengünstiger als Pre-Training von Grund auf, erfordert aber dennoch technisches Können, geeignete Daten und Rechenressourcen.
Wie erkennt man, ob ein Krypto-Projekt sein eigenes LLM gebaut hat oder eine API nutzt?
Suche nach konkreter Evidenz: veröffentlichte Modellgewichte oder eine Model Card, dokumentierte Trainingsdaten, Evaluierungs-Benchmarks und eine Beschreibung des Fine-Tuning-Prozesses. Wenn das Projekt nur auf einen bekannten Modellnamen (GPT, Claude) verweist, ohne eine Modifikation zu beschreiben, nutzt es wahrscheinlich eine API. DecAIHub erfasst diese Unterscheidung im Feld AI component und in der Evidenzstufe.
Was sind Open-Source-LLMs?
Open-Source- (oder Open-Weight-) LLMs sind Modelle, deren trainierte Parameter öffentlich zum Download, zum Studium und zur Modifikation verfügbar sind. Beispiele umfassen DeepSeek, Qwen und Mistral. Sie erlauben jedem, das Modell feinabzustimmen, bereitzustellen und zu inspizieren, was die Transparenz erhöht und unabhängige Verifizierung ermöglicht — beides wertvolle Eigenschaften im Krypto-KI-Raum.
Warum ist die LLM-Größe (Parameter) wichtig?
Mehr Parameter erlauben einem Modell im Allgemeinen, komplexere Muster in der Sprache zu erfassen, was die Leistung bei schwierigen Aufgaben verbessern kann. Größe allein ist jedoch nicht entscheidend. Ein gut trainiertes kleineres Modell kann ein schlecht trainiertes größeres übertreffen. Am wichtigsten ist die Kombination aus Parameteranzahl, Datenqualität, Trainingsmethodik und Alignment-Tuning.
Siehe auch
- Was ist ein API-Wrapper
- Was ist Inferenz
- Was ist Training
- Was ist eine AI component
- Was ist ein KI-Agent
- Was ist ein Foundation Model
- Wie man erkennt, ob ein Projekt wirklich KI hat
- AI reality, Onchain necessity und Token necessity
Externe Referenzen
- Attention Is All You Need (Vaswani et al., 2017) — die ursprüngliche Transformer-Arbeit, die allen modernen LLMs zugrunde liegt.
- Stanford Center for Research on Foundation Models — Forschung und Politik zu LLMs und Foundation Models.
- Hugging Face Open LLM Leaderboard — ein Community-Benchmark zum Vergleich von Open-Source-LLMs.
- Anthropic Research — Arbeiten zu LLM-Sicherheit, Alignment und Interpretierbarkeit.
- DeepSeek — Open-Source-LLM-Familie, bekannt für starkes Reasoning, weit verbreitet als Basismodell im Krypto-KI-Ökosystem.
No comments to display
No comments to display