Skip to main content

什么是训练

注意：本文档是英文原版的自动翻译。

什么是训练

**训练（Training）**是通过让 AI 模型接触数据，使其学习模式、关系和结构来教导它的过程。在训练之前，模型只是一个带有随机参数的空白结构——它无法对图像分类、生成句子或做出预测。训练之后，这些参数就编码了从数据中提取的知识。训练就是把一个空的神经网络转变为有用工具的过程。

把它想象成教某人做饭。你从一个从未拿过刀的人开始。你给他们成千上万份菜谱（数据集）、一个练习的厨房（计算），以及一位品尝每道菜并指出哪里出错的大厨（损失函数）。经过足够的练习——烧糊的饭菜、放盐过多的汤、不断调整手法——这位厨师就能用他们从未组合过的食材即兴做出一道菜。那种即兴发挥，正是训练好的模型在推理期间所做的事。

**简而言之：**训练是“学习”阶段——模型阅读数百万个示例并自我调整，直到它能处理新的、未见过的输入。训练好的模型就是所获得的知识。

训练如何一步步进行

尽管终端用户只看到一个成品模型，但训练是一条多阶段的工程流水线。每个阶段都引入了影响最终结果的决策。

数据收集

每一次训练都从数据开始。项目必须组建一个与模型将执行的任务相关的数据集。对于文本模型，这可能是一个网络规模的自然语言语料库。对于加密专用模型，它可能包括区块链交易历史、协议文档或社交情绪数据。数据集的质量、规模和相关性，决定了模型所能学到内容的上限——任何架构都无法弥补缺失或损坏的数据。

数据预处理

原始数据很少能直接使用。预处理将其转换为模型可以摄取的统一格式。常见步骤包括分词（将文本切分为子词单元）、归一化（缩放数值）、去重（移除近乎相同的记录）和过滤（移除低质量、冒犯性或无关的示例）。预处理不当的数据会引入噪声，模型可能会去记忆它而非从中学习。

架构选择

在训练开始之前，工程师会选择一个模型架构——定义数据如何在模型中流动的蓝图。对于文本任务，如今主流的架构是 transformer，它为大语言模型提供动力。对于图像任务，**卷积神经网络（CNN）和视觉 transformer（ViT）**很常见。架构决定了层的数量和类型、注意力如何计算，以及模型容量如何随规模扩展。许多加密人工智能项目跳过这一步，采用现有的开源架构（DeepSeek、Mistral、Stable Diffusion）并直接进行微调。

训练循环

训练循环是运行数小时、数天或数周的核心优化周期：

  1. 模型接收一批预处理后的数据。
  2. 它产生一个输出——一个预测、一个生成的 token、一个分类。
  3. 使用损失函数将该输出与预期结果进行比较，损失函数计算出误差。
  4. 一个优化算法（通常是随机梯度下降的某种变体）计算每个参数应如何改变以减少误差。
  5. 模型的内部参数（权重）朝着降低损失的方向被略微调整。
  6. 该周期对下一批数据重复进行。

完整遍历整个数据集一次称为一个 epoch。大型模型可能在海量数据集上训练数百个 epoch。训练循环是最耗计算的阶段——单次大语言模型的预训练就可能消耗数千个 GPU 连续运行数月。

评估

在整个训练过程中，工程师会定期在一个留出验证集上评估模型——即模型在训练期间从未见过的数据。这能揭示模型是真的在学习可泛化的模式，还是仅仅在记忆训练示例（一个称为过拟合的问题）。评估使用适合该任务的基准测试和质量指标：语言模型用困惑度（perplexity），分类器用准确率或 F1，翻译和摘要用 BLEU 或 ROUGE。

部署

一旦模型在评估指标上达到可接受的质量，它就会被打包用于生产。这可能涉及将模型转换为更高效的格式、应用量化（降低数值精度以削减内存和计算需求），并将其部署到推理流水线。训练好的模型——即习得权重的集合——才是实际为用户提供服务的工件。

阶段 发生了什么 示例
数据收集 组建相关数据集 收集网络文本、代码、区块链数据
预处理 清洗并格式化数据 对文本分词、移除重复项
架构选择 选择模型蓝图 选择具有 7B 参数的 transformer
训练循环 通过梯度下降优化权重 在 1024 个 GPU 上运行 200 个 epoch
评估 在未见数据上测试 在验证集上测量困惑度
部署 为生产打包模型 量化权重、部署到 API

训练的类型

并非所有训练都相同。不同类型服务于不同目的，并出现在人工智能生命周期的不同阶段。

预训练

预训练是指在一个海量、通用的数据集上从零开始训练模型。其目标是学习广泛的模式——语言结构、视觉特征、统计规律——而非特定任务的知识。预训练是迄今为止最昂贵的阶段。从零训练一个前沿 LLM 可能花费数千万美元，并需要数千个高端 GPU 运行数月。极少有加密人工智能项目这样做；绝大多数使用来自开源生态系统的预训练模型并加以适配。

微调

微调是拿一个预训练模型并在一个更小的、特定领域的数据集上对其进行调整。这是加密人工智能中最常见的做法。一个项目可能会在区块链文档、智能合约代码或 DeFi 协议数据上微调一个 LLM，以提升其在加密专属问题上的表现。微调比预训练便宜得多，因为它从一个已经有能力的模型出发，只需要移动权重而非从零学习。

基于人类反馈的强化学习（RLHF）

RLHF 是一种用于使模型输出与人类偏好对齐的后训练技术。在预训练和初步微调之后，人类评估者对同一输入的多个模型输出进行排序。这些排序训练出一个奖励模型，随后该奖励模型通过强化学习引导主模型的进一步训练。RLHF 正是让聊天机器人遵循指令、避免有害内容并产生人类认为有帮助的回应的技术。它在纯统计学习之上增加了一层人类判断。

知识蒸馏

蒸馏训练一个较小的“学生”模型来复现一个较大的“教师”模型的输出。学生不是从原始数据中学习，而是从教师的预测中学习，这些预测包含更丰富的信息（软概率分布而非硬标签）。对于需要在有限硬件上运行模型的项目——例如边缘设备或受成本约束的去中心化推理网络——蒸馏是实用的，同时能保留教师模型的大部分质量。

参数高效微调（LoRA 和适配器）

**LoRA（低秩适配，Low-Rank Adaptation）**及类似技术冻结预训练模型的大部分权重，只训练一小组额外参数。这使微调在计算和内存上大幅降低成本——通常在单个消费级 GPU 上就能完成。LoRA 适配器是轻量级文件（往往只有几十兆字节），可以加载到基础模型之上，以针对特定任务定制其行为。这种模式与去中心化人工智能尤其相关，因为参与者可能希望在不承担微调全部权重的全部成本的情况下定制模型。

分布式训练与联邦训练

分布式训练将工作负载拆分到多个 GPU 或节点上，方式或是划分数据（数据并行）或是划分模型本身（模型并行）。联邦训练更进一步：数据留在每个参与者的设备上，只共享模型更新（梯度）。模型在没有任何单一方访问全部数据的情况下集体改进。这种模式与去中心化原则相符，并出现在 AI/训练类别中的项目里。

类型 成本 在加密人工智能中的典型用途
预训练 极高（数百万美元） 罕见；多数项目使用现有模型
微调 中等（数百至数千美元） 常见；将模型适配到加密领域
RLHF 高（需要人类评估者） 不常见；见于面向智能体的项目
蒸馏 中等 用于为推理创建轻量级模型
LoRA / 适配器 低（单 GPU） 渐增；支持按用户定制
分布式 / 联邦 不定 去中心化训练网络的核心模式

为什么训练对可验证性很重要

一个训练自有模型的项目，展现出比只调用第三方 API 的项目更深的人工智能能力。训练意味着项目拥有相关数据、计算资源和机器学习专长。它还产生可验证的工件：训练日志、损失曲线、模型检查点和基准测试结果。

在 DecAIHub 项目卡片中，AI component 字段里与训练相关的取值——例如 distributed training、fine-tuning、model training pipeline——表明项目所做的不只是提供预构建的模型。训练组件页面描述了这些取值在实践中如何出现。

训练需要什么

三种资源决定了训练是否可行：

  • 数据 —— 一个规模足够大且与任务相关的高质量数据集。数据质量决定模型质量。
  • 计算 —— GPU 或专用硬件。更多数据和更大的模型需要更多计算。这是主要的成本驱动因素。
  • 专长 —— 选择架构、调整超参数、评估结果和调试失败，都需要机器学习知识。

声称提供训练基础设施的项目，应当展示出这三者的证据。

训练在 DecAIHub 项目卡片中出现的位置

训练出现在 DecAIHub 项目卡片的多个部分：

  • AI component —— 与训练相关的取值，例如“distributed training”“fine-tuning”或“model training pipeline”，表明项目在积极训练或支持模型训练，而不只是消费预构建的模型。
  • Category —— AI/训练类别中的项目专门聚焦于提供训练基础设施或服务。
  • 证据表 —— 训练的 Tier-1 证据包括公开的训练日志、损失曲线、发布到 Hugging Face 或类似仓库的模型检查点，以及已公开的基准测试对比。
  • ai_score —— 在 DecAI Fit 算法内部，展示出附有已公开证据的真实训练会提升 ai_score。仅声称“我们训练模型”而无工件则不会。

仅训练本身不能证明什么

  • 训练一个模型并不意味着该模型很好。没有基准测试或评估，就无法评定质量。
  • 训练并不能证明该模型正在被使用。一个被训练出来却从未部署用于推理的模型，不为用户产生任何价值。
  • 在他人的开源模型上训练是有效的，但应当被披露，而不应被呈现为从零构建。
  • 训练并不能解释为什么这个过程需要一个代币。
  • 声称“去中心化训练”而无多个独立参与者实际贡献计算的证据，是无法验证的。请查找训练任务的链上记录、提供者注册信息或可验证的计算日志。

在评估训练声明时，请查看证据表和 Tier-1/2/3 证据。

请勿混淆

  • **推理（Inference）**是下一阶段——在新数据上运行训练好的模型。训练产生模型；推理使用它。
  • **训练作为 AI 组件**描述训练在 DecAIHub 项目卡片中如何出现。本页解释的是概念本身。
  • **AI/训练类别**对聚焦于训练基础设施的项目进行分类。训练的概念适用范围更广。
  • **数据收集与标注**准备训练所消费的数据。它们相关但是不同的阶段。
  • **AI 模型**是训练产生的工件——习得权重的集合。训练是过程；模型是结果。

常见问题

AI 训练需要多长时间？

这取决于模型规模、数据集规模和可用硬件。在单个 GPU 上对一个聚焦的数据集微调一个小模型，可在数小时内完成。从零预训练一个前沿 LLM 在数千个 GPU 的集群上需要数周到数月。作为参考，训练一个前沿的 70B 参数 LLM 在 NVIDIA A100 硬件上大约需要 100 万到 200 万 GPU 小时。分布式和联邦训练可以通过分摊工作负载来减少实际耗时，但会引入协调开销。

预训练和微调有什么区别？

预训练从一个海量、广泛的数据集中教模型通用知识——它从零学习语言结构、视觉特征或统计模式。微调拿那个预训练模型，在一个更小的、特定领域的数据集上对其专门化，使其在某个特定任务上表现更好。预训练昂贵且只做一次；微调更便宜，且可针对不同领域反复进行。

为什么训练如此昂贵？

主要成本是计算硬件。训练大型模型需要数千个高端 GPU 连续运行，消耗大量电力。数据准备、人工标注和专家工程师的时间又增加了成本。预训练单个前沿模型可能花费数千万美元。LoRA、蒸馏和通过微调进行的迁移学习等技术，通过复用现有预训练模型而非从零开始，大幅降低了成本。

能在区块链上训练 AI 吗？

直接在链上运行完整的训练循环是不切实际的——区块链执行环境对于训练所需的数十亿次矩阵运算来说太慢、太昂贵了。然而，区块链可以协调训练。去中心化训练网络使用链上机制来分配任务、验证贡献、分发奖励和记录来源，而实际计算在参与的 GPU 上链下进行。这种模式出现在 AI/训练类别中的项目里。

什么是 RLHF？

基于人类反馈的强化学习是一种后训练技术，使模型的行为与人类偏好对齐。在初步训练之后，人类评估者对模型的输出进行排序。这些排序训练出一个奖励模型，随后该奖励模型通过强化学习引导主模型的进一步优化。RLHF 正是让现代聊天机器人遵循指令并产生有帮助、安全的回应（而非原始统计补全）的原因。

另请参阅

外部参考

No comments to display

Back to top