Skip to main content

什么是加密 AI 中的 GPU

注意：本文档是英文原版的自动翻译。

什么是加密 AI 中的 GPU

GPU（Graphics Processing Unit，图形处理单元）是一种最初为渲染图形而设计的处理器，如今已成为 AI 工作负载的主导硬件。GPU 擅长并行计算——同时执行数千个简单的数学运算——这正是 AI 训练和推理所需要的。在加密 AI 领域，GPU 是去中心化计算网络所提供的核心资源，而对 GPU 容量的访问是 AI 开发的主要瓶颈之一。

**简而言之：**GPU 是为 AI 提供动力的硬件。在加密 AI 中，去中心化 GPU 网络让任何人都能贡献或租用 GPU 算力用于训练和运行 AI 模型，并由区块链协议协调。

为什么 GPU 对 AI 很重要

AI 工作负载——尤其是深度学习——涉及大量的矩阵乘法。训练一个神经网络意味着将庞大的数字矩阵相乘数十亿次。运行推理意味着让输入数据通过一层层的矩阵运算。这些运算在数学上很简单（乘法和加法），但必须以巨大的数量执行。

CPU（Central Processing Units，中央处理单元）被设计用于复杂的、顺序的任务。它们拥有少数几个强大的核心，一次处理一条指令（带有一些并行性）。相比之下，GPU 拥有数千个较小的核心，针对同时跨许多数据点执行相同运算进行了优化。一个现代高端 GPU 可以拥有超过一万个 CUDA 核心（NVIDIA）或流处理器（AMD），全部并行执行。

这一架构使 GPU 在 AI 工作负载上比 CPU 快几个数量级：

维度 CPU GPU
核心数量 通常 4–128 个核心 数千个核心
优化方向 复杂、顺序的逻辑 简单、并行的运算
对 AI 工作负载的适配 不适合大规模训练 专为矩阵运算打造
内存带宽 较低 高得多（对向核心馈送数据至关重要）

除了原始算力之外，GPU 还提供高内存带宽——在内存和处理核心之间快速移动大量数据的能力。这对 AI 至关重要，因为在训练和推理期间，模型及其中间计算必须被迅速地载入和载出内存。

GPU 在 AI 训练 vs 推理中

GPU 服务于两种具有不同要求的 AI 工作负载：

训练

训练一个模型意味着基于训练数据调整其参数（权重）以最小化误差。这涉及：

  • 在一批数据上向前运行模型（前向传播）。
  • 计算误差（损失）。
  • 将误差向后传播通过模型以计算梯度（反向传播）。
  • 基于梯度更新权重。

训练大型模型需要多个 GPU 协同工作，常常跨多台机器。一个现代大语言模型可能需要数千个 GPU 运行数周或数月。训练是计算密集型、内存饥渴型的，并受益于可用的最快硬件。

推理

推理是在新数据上运行一个已训练模型以产出结果。它只需要前向传播——没有梯度计算或权重更新。推理每次请求的计算密集度低于训练，但必须快速（低延迟）和高效（每次查询成本低），因为它在生产中持续运行。

对于推理，GPU 的要求有所不同：延迟和吞吐量比峰值算力更重要。更小、更高效的 GPU 或量化模型往往能有效地服务推理工作负载。

去中心化 GPU 网络

在传统 AI 中，公司从中心化云提供商——由少数几家大公司运营的大型数据中心——租用 GPU。这造成了集中风险、高成本和地理局限。去中心化 GPU 网络旨在为 GPU 算力创造一个开放市场：

  • 供给侧。 GPU 所有者（个人、小型数据中心、将闲置硬件转换用途的挖矿运营）向网络贡献他们的 GPU 并赚取奖励。
  • 需求侧。 AI 开发者和项目租用 GPU 容量用于训练或推理，而无需绑定于单一云提供商。
  • 协议层。 一个区块链协议协调匹配、定价、作业调度、支付结算和质量保证。

这一模型属于更广泛的 DePIN（Decentralized Physical Infrastructure Networks，去中心化物理基础设施网络）模式：物理硬件由去中心化协议而非中央公司协调。

去中心化 GPU 的挑战

去中心化 GPU 网络面临重大的实际挑战：

  • 硬件异构性。 不同的 GPU 具有不同的能力。一个混合了消费级显卡和数据中心级显卡的网络必须处理工作负载匹配、兼容性和性能变异。
  • 可靠性。 个别 GPU 提供者可能离线、出现网络问题或提供不一致的性能。企业云提供商提供 SLA；去中心化网络必须在协议层面解决可靠性。
  • 验证。 网络如何验证一个 GPU 提供者确实正确地执行了计算？方法包括冗余计算、TEE 认证和工作量证明机制。
  • 数据传输。 AI 工作负载涉及大量数据传输（模型权重、训练数据集、输入批次）。在分布式 GPU 提供者之间往返移动数据引入了延迟和带宽成本，而中心化数据中心通过同址部署避免了这些。
  • 模型机密性。 当模型所有者将其专有模型发送给一个不受信任的 GPU 提供者时，提供者可能复制或提取模型权重。解决方案包括基于 TEE 的执行和加密计算。

为什么它对 DecAIHub 很重要

GPU 算力是在 DecAIHub 上评测的几乎每个 AI 项目的基础。AI/计算类别专门涵盖为 AI 工作负载提供、编排或交易 GPU 资源的项目。理解 GPU 动态有助于评估项目卡片的若干方面：

  • AI reality。 项目是否有访问真实 GPU 算力的途径，还是 AI 纯粹是空想？GPU 利用率的证据（仪表盘、提供者数量、计算基准）支持 AI reality 主张。
  • 链上集成。 一些项目使用链上机制进行 GPU 作业匹配、支付结算、计算证明或提供者质押。链上集成的复杂程度差异很大。
  • DePIN 重叠。 将 AI/计算与 DePIN 结合的项目正在构建去中心化 GPU 基础设施。代币通常激励 GPU 提供者向网络贡献硬件。

它在 DecAIHub 项目卡片中出现的位置

与 GPU 相关的信息出现在若干字段中：

  • Category——AI/计算类别的项目直接处理 GPU 供给和编排。DePIN 标签通常表明硬件激励模型。
  • AI component——诸如 "GPU orchestration"、"decentralized compute"、"GPU marketplace" 或 "compute network" 等值表明以 GPU 为重点的基础设施。
  • Evidence table——GPU 项目的 Tier-1 物证包括提供者仪表盘、利用率指标、计算基准和链上结算记录。

仅凭 GPU 无法证明什么

  • 拥有 GPU 并不证明一个项目拥有真实的 AI。GPU 是硬件；AI 需要模型、数据和流程。一个项目可以在没有任何 AI 专属逻辑的情况下运营一个 GPU 网络。
  • 大量的 GPU 数量并不证明算力正被用于 AI 工作负载。GPU 可以服务于任何并行计算任务，包括非 AI 工作负载。
  • 提供 GPU 基础设施并不证明项目自身的 AI 是专有的或先进的。该项目可能托管第三方模型，而本身并未构建任何 AI 专属的东西。
  • GPU 可用性并不证明 Token necessity。GPU 租赁可以用法币或稳定币定价和结算；原生代币的角色需要单独的论证。
  • 去中心化 GPU 并不证明它比中心化替代方案更具成本效益或更高性能。去中心化 GPU 的比较优势是一个需要证据的主张。

请勿混淆

  • CPU（Central Processing Unit）——每台计算机中的通用处理器。CPU 能很好地处理顺序任务，但对 AI 所需的并行矩阵运算效率不高。
  • TPU（Tensor Processing Unit）——由 Google 专门为机器学习工作负载设计的定制加速器。TPU 不是 GPU；它们是为张量运算专门打造的。TPU 在 Google Cloud 之外不广泛可用。
  • ASIC（Application-Specific Integrated Circuit）——为单一任务设计的定制硬件（例如比特币挖矿 ASIC）。与 GPU 不同，ASIC 无法被重新用途于不同的工作负载。
  • AI/计算类别——DecAIHub 中提供算力资源项目的类别。GPU 是硬件；AI/计算是项目分类。
  • 挖矿——在工作量证明区块链中，GPU 曾被用于挖掘加密货币。AI 算力是一种根本不同的工作负载。一些 GPU 所有者随着挖矿盈利能力的变化，已从挖矿转向提供 AI 算力。

常见问题

为什么用 GPU 而非 CPU 来做 AI？

AI 工作负载涉及同时在巨量数据上执行相同的数学运算（通常是矩阵乘法）。GPU 拥有数千个专为这种并行计算设计的核心，而 CPU 只有少数几个为顺序、复杂任务优化的核心。一个 GPU 可以在数秒内完成一次 CPU 需要数分钟或数小时的矩阵乘法。GPU 的架构——大规模并行核心配以高内存带宽——与神经网络的数学结构相契合。

什么是去中心化 GPU 网络？

去中心化 GPU 网络是一个将 GPU 所有者（提供者）与需要算力来做 AI 工作负载的用户连接起来的协议。用户不再从单一云提供商租用，而是访问一个由区块链协议协调的分布式 GPU 池，该协议处理匹配、调度、定价和支付。GPU 提供者因贡献硬件而赚取奖励（通常以网络的代币计价）。该协议旨在为 GPU 算力创造一个更开放、更具竞争力且更易访问的市场。

去中心化 GPU 网络像云提供商一样可靠吗？

可靠性是关键挑战之一。中心化云提供商提供带有保证正常运行时间和性能的服务级协议（SLA）。去中心化网络必须在协议层面解决可靠性：监控提供者可用性、在提供者离线时处理故障转移、确保跨异构硬件的一致性能，以及验证工作是否被正确完成。一些网络使用质押和 slashing 机制来激励可靠性。当前状态因项目而异——有些正在接近生产质量，而另一些仍处于实验阶段。

GPU 与 DePIN 有什么关系？

DePIN（Decentralized Physical Infrastructure Networks）是使用代币激励来引导和协调物理基础设施的一大类项目。GPU 网络是最突出的 DePIN 子类别之一：GPU 所有者向协议贡献硬件并赚取代币，而协议将硬件聚合成一个可用的算力服务。GPU 是物理基础设施；DePIN 模型是将其组织成网络的激励和协调机制。

外部参考

另请参阅

No comments to display

Back to top