Что такое большая языковая модель (LLM)

Большая языковая модель (LLM) — это тип нейронной сети, обученной на огромных объёмах текста, чтобы понимать и генерировать человеческий язык. Представьте себе невероятно начитанного ассистента, который усвоил миллиарды страниц книг, статей, кода и диалогов. Он не «знает» вещи так, как человек; вместо этого он изучил статистические закономерности — какие слова и идеи обычно следуют за какими — достаточно хорошо, чтобы писать связные абзацы, отвечать на вопросы, переводить между языками, суммаризировать документы и даже рассуждать над многошаговыми задачами.

Ключевая особенность (и ограничение) LLM заключается в том, что она работает через предсказание. Получив начало предложения, модель вычисляет наиболее вероятное следующее слово, затем ещё одно, и так далее, по одному токену за раз. Токен — это примерно слово или часть слова. Связывая тысячи таких маленьких предсказаний, LLM может создавать эссе, код, стихи или технические аналитические материалы — всё без явного программирования для каждой задачи. Среди известных LLM — GPT, Claude, Gemini и Mistral. Большинство крипто-ИИ проектов, упоминающих «ИИ» в маркетинге, либо используют LLM внутри, либо заявляют об этом, либо оборачивают стороннюю LLM за собственным интерфейсом. Понимание того, что такое LLM на самом деле — и чем она не является — необходимо для оценки подобных заявлений.

Коротко: LLM — это движок, стоящий за большинством современных текстовых ИИ-приложений. В крипто-ИИ ключевой вопрос не в том, «использует ли проект LLM», а в том, как именно он её использует и какую проприетарную ценность добавляет поверх.

Как это работает

Создание и использование LLM включает несколько отдельных этапов. Каждый этап требует разных ресурсов, экспертизы и данных — и каждый представляет разный уровень глубины ИИ при оценке крипто-ИИ проекта.

Этап 1: Предобучение

Предобучение — этап, на котором модель осваивает основы языка. В этой фазе LLM читает миллиарды токенов — слов и частей слов, взятых из книг, веб-сайтов, репозиториев кода, научных статей и других текстовых источников. Модель корректирует свои внутренние параметры (веса), чтобы всё точнее предсказывать следующий токен в последовательности.

Этот этап дорогостоящий. Обучение LLM передового уровня с нуля может потребовать тысяч специализированных GPU, работающих неделями или месяцами, и результирующая модель может содержать десятки или сотни миллиардов параметров. Лишь несколько организаций — хорошо обеспеченные ресурсами ИИ-лаборатории — регулярно предобучают LLM с нуля.

Этап 2: Файн-тюнинг

Предобученная модель мощна, но универсальна. Файн-тюнинг сужает поведение модели, дополнительно обучая её на курируемом, меньшем датасете, релевантном конкретной задаче или домену. Например, медицинскую LLM могут дообучить на клинических записях; DeFi-ориентированную модель — на документации смарт-контрактов и ончейн-данных.

Файн-тюнинг требует гораздо меньше вычислений, чем предобучение, но всё же нуждается в экспертизе в выборе данных, метриках оценки и предотвращении катастрофического забывания (когда модель теряет общие способности при специализации).

Этап 3: Выравнивание и RLHF

Современные LLM обычно проходят этап выравнивания после файн-тюнинга. Обучение с подкреплением на основе обратной связи от людей (RLHF) — наиболее распространённый подход: эксперты-люди ранжируют ответы модели, и модель обучается предпочитать ответы, которые люди оценили выше. Выравнивание — это то, что заставляет модель следовать инструкциям, отклонять вредоносные запросы и выдавать действительно полезные ответы, а не правдоподобно звучащую бессмыслицу.

Этап 4: Инференс

Инференс — это продакшен-фаза, когда обученная LLM получает промпт и генерирует ответ. Каждый раз, когда пользователь отправляет сообщение чат-боту, стоящая за ним LLM выполняет инференс: читает промпт, обрабатывает его через свои слои параметров и выдаёт ответ токен за токеном.

Инференс потребляет вычислительные ресурсы (время GPU), но значительно меньше на один запрос, чем обучение. Большинство проектов, которые «используют LLM», выполняют только инференс — зачастую вызывая API внешнего провайдера, а не используя собственное оборудование.

Пайплайн в общих чертах

Этап	Что происходит	Кто обычно это делает	Стоимость вычислений
Предобучение	Освоение языка из миллиардов токенов	Крупные ИИ-лаборатории	Очень высокая
Файн-тюнинг	Адаптация модели к домену или задаче	ИИ-лаборатории, хорошо финансируемые стартапы	Средняя
Выравнивание (RLHF)	Модель становится безопасной и следует инструкциям	ИИ-лаборатории	Средняя
Инференс	Генерация ответов на промпты пользователей	Любой, у кого есть API-ключ или GPU	Низкая на запрос

Ключевые характеристики LLM

Несколько свойств определяют, насколько мощна конкретная LLM:

Количество параметров — число обучаемых весов в модели. Более крупные модели, как правило, улавливают больше нюансов, но дороже в обучении и эксплуатации. Количество параметров варьируется от нескольких миллиардов (небольшие модели с открытым кодом) до более чем триллиона (модели передового уровня).
Контекстное окно — максимальное количество токенов, которое модель может обработать за одно взаимодействие. Короткое контекстное окно означает, что модель «забывает» начало длинного разговора. Современные LLM предлагают контекстные окна от нескольких тысяч до более чем ста тысяч токенов.
Архитектура — большинство современных LLM построены на архитектуре Transformer, представленной в 2017 году. Трансформеры используют механизм, называемый self-attention (самовнимание), для взвешивания связей между всеми токенами во входных данных, что позволяет им обрабатывать зависимости на большом расстоянии в тексте.
Обучающие данные — качество, разнообразие и актуальность данных, использованных при предобучении, определяют, что модель «знает». Модель, обученная только на англоязычных текстах, будет плохо работать на других языках; модель с датой отсечки знаний в определённом году не будет знать о последующих событиях.

Примеры из индустрии

Несколько известных LLM иллюстрируют спектр подходов в отрасли:

GPT (OpenAI) — закрытая мультимодальная LLM, доступная через API. Многие крипто-ИИ проекты вызывают API GPT, чтобы добавить разговорные или аналитические функции в свои продукты.
Claude (Anthropic) — закрытая LLM с усиленным акцентом на безопасность и выравнивание. Как и GPT, доступна преимущественно через API.
DeepSeek-R1 (DeepSeek) — LLM с открытыми весами, выпущенная под лицензией MIT. Сильные способности к рассуждению и открытая доступность делают её популярной базовой моделью для файн-тюнинга и для крипто-ИИ проектов, которые хотят запускать модели локально или заявлять о глубокой AI-интеграции.
Mistral (Mistral AI) — семейство моделей с открытыми весами, известных высокой производительностью при небольшом количестве параметров, что делает их практичными для проектов с ограниченным GPU-бюджетом.

Эти названия часто встречаются в описаниях крипто-ИИ проектов. Когда проект говорит, что «использует GPT», это почти всегда означает вызов API OpenAI. Когда он говорит, что «дообучил DeepSeek», это подразумевает более глубокую техническую вовлечённость — хотя заявление всё равно требует верифицируемых доказательств.

Открытые и закрытые LLM

Аспект	Открытые / с открытыми весами	Закрытые
Веса модели	Публично доступны для скачивания	Скрыты за API
Инспекция	Любой может изучить, проверить или дообучить	Внешний аудит внутренностей невозможен
Кастомизация	Можно дообучить на собственных данных, запустить локально	Ограничена параметрами API (температура, системные промпты)
Структура расходов	Требует собственного GPU-оборудования или хостинга	Оплата за токены через API
Примеры	DeepSeek, Qwen, Mistral	GPT, Claude, Gemini

Для крипто-ИИ проектов это различие существенно: проект, который дообучил модель с открытыми весами и опубликовал подробности обучения, демонстрирует бо́льшую глубину ИИ, чем тот, который вызывает закрытый API без модификаций.

Почему LLM важны в крипто-ИИ

Многие крипто-ИИ проекты упоминают LLM в своих вайтпейперах, питч-деках или описаниях продуктов. Заявления варьируются широко:

«Мы создали собственную LLM» — подразумевает предобучение или значительный файн-тюнинг, что требует существенных вычислений и экспертизы. Это самый глубокий уровень вовлечённости.
«Мы дообучили LLM для DeFi» — подразумевает доменную адаптацию существующей базовой модели. Более правдоподобно, чем простой API-вызов, но детали имеют значение.
«Мы используем LLM» — часто означает вызов внешнего API (например, API OpenAI или Anthropic) с проектно-специфичными промптами. Это наименее глубокий уровень ИИ-интеграции.

Эти три сценария представляют принципиально разные уровни глубины ИИ, и DecAIHub оценивает их соответственно через свою доказательную методологию.

Использование API и создание собственной модели

Подход	Что это означает	Глубина ИИ
API-вызов	Проект отправляет промпты сторонней LLM (например, API OpenAI) и возвращает ответ	Низкая — ИИ принадлежит провайдеру
Промпт-инжиниринг	Проект разрабатывает специализированные промпты, цепочки или пайплайны извлечения поверх сторонней LLM	Низкая-средняя — проприетарная логика есть, но модель внешняя
Файн-тюнинг	Проект адаптирует базовую модель с открытым кодом (DeepSeek, Mistral) на собственном датасете	Средняя-высокая — проект владеет модифицированной моделью
Предобучение	Проект обучает модель с нуля на собственных данных и вычислениях	Высокая — полное владение моделью

API-обёртка, которая передаёт промпты пользователей коммерческой LLM и возвращает ответ, — это не то же самое, что проект, дообучивший DeepSeek на ончейн-данных транзакций. DecAIHub отражает это различие в поле AI component карточки проекта.

Где это отражается в карточках проектов DecAIHub

При просмотре карточки проекта на DecAIHub несколько полей напрямую связаны с использованием LLM:

AI component может упоминать «LLM», «дообученную модель», «промпт-инжиниринг» или название конкретной модели. Это поле описывает, какой ИИ у проекта действительно есть, по результатам верификации ревьюерами DecAIHub.
AI use case описывает, для чего используется LLM: генерация, классификация, суммаризация, рассуждение агента и т. д. Проект может использовать LLM для узкой задачи (например, разбор интентов) или как основной движок всего продукта.
ai_score (часть DecAI Fit) отражает, насколько хорошо использование LLM документировано Tier-1, Tier-2 или Tier-3 доказательствами. Проект, заявляющий об использовании LLM, но не предоставляющий верифицируемых артефактов, получит низкий балл по этому измерению.
Флаги AI reality (от AI_0 до AI_4) показывают общую глубину верифицируемого ИИ, которая во многих проектах определяется их LLM-интеграцией.

Цель никогда не состоит в том, чтобы наказывать проект за использование сторонней LLM — многие полноценные продукты делают именно это. Цель — отличить проекты, которые прозрачно вызывают API, от тех, которые представляют использование API как собственное ИИ-исследование.

Что LLM сама по себе не доказывает

Наличие API-ключа к LLM не означает, что у проекта «есть ИИ». Это означает, что проект может вызвать чужой ИИ.
Упоминание «GPT» или «Claude» в маркетинге не доказывает проприетарную ИИ-работу. Тысячи приложений используют тот же API.
Даже дообученная модель нуждается в верифицируемых артефактах: описание обучающих данных, метрики оценки, идентификатор версии модели и доказательства развёртывания.
Большое количество параметров не гарантирует лучшую модель. Качество обучения, курация данных и выравнивание имеют не меньшее значение, чем чистый размер.

Не путайте с

Инференс — запуск обученной LLM для получения результатов. Инференс — один из этапов использования LLM, а не синоним LLM.
Обучение — процесс создания или адаптации LLM. Обучение создаёт модель; инференс её использует.
AI-агент — автономная система, которая может использовать LLM как ядро для рассуждений, но добавляет восприятие, память, работу с инструментами и действия. Сама по себе LLM — не агент.
Обработка естественного языка (NLP) — более широкая область компьютерных наук. LLM — один (весьма успешный) подход к NLP, но NLP также включает более ранние методы: извлечение ключевых слов, разбор на основе правил и статистические классификаторы.
Фундаментальная модель — более общий термин, включающий LLM, но также охватывающий крупные модели, обученные на изображениях, аудио, видео или мультимодальных данных. Каждая LLM — фундаментальная модель, но не каждая фундаментальная модель — LLM.

Часто задаваемые вопросы

В чём разница между LLM и чат-ботом?

LLM — это модель: набор обученных параметров, способных обрабатывать и генерировать текст. Чат-бот — это продукт, построенный поверх модели. LLM — двигатель; чат-бот — автомобиль. Одна LLM может обеспечивать работу тысяч разных чат-ботов, каждый со своими промптами, интерфейсом и стилем общения. И наоборот, чат-бот не обязательно использует LLM — более ранние чат-боты работали на скриптовых правилах или простом сопоставлении паттернов.

Все ли ИИ-проекты используют LLM?

Нет. Многие крипто-ИИ проекты используют другие виды машинного обучения: модели компьютерного зрения для генерации NFT, обучение с подкреплением для торговых стратегий, графовые нейронные сети для аналитики блокчейна или классическое ML для обнаружения аномалий. LLM доминирует в текстовых приложениях, но это далеко не единственный вид ИИ.

Что значит дообучить LLM?

Файн-тюнинг берёт предобученную LLM и продолжает её обучение на меньшем, курируемом датасете, релевантном конкретной задаче. Цель — специализировать модель: например, научить её понимать терминологию DeFi, разбирать смарт-контракты или генерировать ответы в определённом стиле. Файн-тюнинг экономичнее предобучения с нуля, но всё же требует технических навыков, подходящих данных и вычислительных ресурсов.

Как определить, создал ли крипто-проект собственную LLM или использует API?

Ищите конкретные доказательства: опубликованные веса модели или модельную карточку, документированные обучающие данные, бенчмарки оценки и описание процесса файн-тюнинга. Если проект упоминает только известное название модели (GPT, Claude), не описывая никаких модификаций, он, скорее всего, использует API. DecAIHub фиксирует это различие в поле AI component и уровне доказательств.

Что такое LLM с открытым кодом?

LLM с открытым кодом (или с открытыми весами) — это модели, чьи обученные параметры публично доступны для скачивания, изучения и модификации. Примеры — DeepSeek и Mistral. Они позволяют любому дообучить, развернуть и инспектировать модель, что повышает прозрачность и делает возможной независимую верификацию — оба качества ценны в пространстве крипто-ИИ.

Почему размер LLM (количество параметров) имеет значение?

Бо́льшее количество параметров, как правило, позволяет модели улавливать более сложные паттерны в языке, что может улучшить производительность на сложных задачах. Однако размер сам по себе не решающий фактор. Хорошо обученная меньшая модель может превзойти плохо обученную бо́льшую. Самое важное — сочетание количества параметров, качества данных, методологии обучения и выравнивания.

Смотрите также

Внешние источники

Attention Is All You Need (Vaswani et al., 2017) — оригинальная статья о Transformer, архитектуре, лежащей в основе всех современных LLM.
Stanford Center for Research on Foundation Models — исследования и политика в области LLM и фундаментальных моделей.
Hugging Face Open LLM Leaderboard — сообщественный бенчмарк для сравнения LLM с открытым кодом.
Anthropic Research — статьи о безопасности LLM, выравнивании и интерпретируемости.
DeepSeek — семейство LLM с открытым кодом, известное сильными способностями к рассуждению, широко используемое как базовая модель в экосистеме крипто-ИИ.