Skip to main content

作为 AI 组件的推理

注意:本文档是英文原版的自动翻译。

作为 AI 组件的推理

作为 AI 组件的推理(inference),意味着该项目在生产环境中运行一个已训练的模型来产出结果——预测、分类、生成的文本、图像或其他结果。当 DecAIHub 项目卡片在 AI component 字段中列出与推理相关的取值时,它表明系统中某处存在一个模型,它接收输入数据并返回由 AI 驱动的结果。这是 AI 确实在运行、而不只是被承诺的最直接证据。

简而言之: 作为组件的推理意味着一个模型正在被部署和使用——这是 AI 不再停留于理论、开始产出真实输出的那个点。

它在 DecAIHub 卡片中是什么样子

项目卡片中的 AI component 字段使用规范化的取值。与推理相关的条目包括:

  • inference engine — 一个专门运行模型推理的系统
  • decentralized inference — 分布在多个独立提供商之间的推理
  • verifiable inference (consensus) — 输出由多个节点交叉核对、或通过共识机制验证的推理
  • LLM inference endpoints — 为大语言模型输出提供服务的 API 端点
  • AI inference network — 一个共同提供推理能力的节点网络
  • model serving — 用于部署和运行已训练模型的基础设施

每一项描述的都是一个在运行的机制,而非营销主张。如果卡片写着 inference engine,就意味着评估者发现了一个模型正被积极服务的证据。

读者应当把这些标签视为验证的抓手:它们指向输出在技术栈中产生的位置,而不是对模型质量、去中心化程度或权重独特性的保证。

为什么推理对可验证性很重要

如果一个项目声称“使用 AI”,那么推理就是该主张变得可检验的地方。一个从未被运行的模型不产生输出,也不产生证据。一个运行推理的模型会生成可被检查的工件:API 响应、延迟指标、输出日志、基准测试结果、演示应用。

对 DecAIHub 而言,存在真实的推理组件是 AI reality的关键信号之一。它直接喂入 ai_score,并影响 DecAI Fit 指标。

在实践中,推理还厘清了“作为产品的 AI”与“作为幻灯片的 AI”之间的边界:一个有文档的端点、可复现的演示或被记录的服务路径,要比一份含糊的路线图更容易与 Tier-1/2/3 证据对齐。

可验证推理

一些加密 AI 项目走得比单纯运行模型更远——它们证明自己的推理是真实的。在 DecAIHub 卡片中出现三种常见做法:

  • 多提供商共识 — 同一查询被发送到若干个独立节点;如果输出一致,置信度就会提高。
  • TEE(可信执行环境) — 模型运行在一个硬件飞地内,该飞地对所处理的代码和数据进行证明。
  • zkML — 在推理输出旁边生成零知识证明,从而在不重新运行模型的情况下实现密码学验证。

实现可验证推理的项目通常在 DecAI Fit 的链上维度上得分更高,因为验证机制往往位于链上。

这些技术中没有任何一种能免除这样的追问:究竟是哪个模型在运行,以及该项目是否掌控微调,还是仅仅在路由流量——它们强化的是关于某条给定执行路径的完整性主张。

DecAIHub 中的常见模式

作为组件的推理出现在多种项目原型中:

  • 去中心化推理网络 — 由分布式节点服务模型请求,并由协议层协调。
  • 推理即服务 — 向其他应用或代理提供推理端点的项目。
  • 推理市场 — 提供商竞相服务推理请求的平台,带有链上定价和结算。
  • 模型路由器 — 根据成本、延迟或质量,将推理请求路由到最合适的模型或提供商的系统。

这些模式可以重叠:一个路由器可能位于一个市场的前面,而一个去中心化网络可能同时暴露公共 API 和私有的代理接口。

应当核实什么

在审阅一张带有推理相关 AI 组件的项目卡片时,请检查:

  • 模型来源 — 该项目运行的是自己的模型,还是一个围绕第三方提供商的 API 包装器?
  • 可用的端点 — 是否有一个可公开访问的演示、API 或沙箱,可用于测试推理输出?
  • 延迟和吞吐量数据 — 该项目是否为其推理服务发布了可衡量的性能指标?
  • 去中心化主张 — 如果项目声称去中心化推理,链上是否能看到多个独立提供商?
  • 验证机制 — 该项目是否使用共识、TEE 或 zkML 来证明推理的完整性?

作为组件的推理不能证明什么

  • 被服务的模型可能是别人的——一个围绕第三方模型(GPT、Claude)的 API 包装器在技术上属于推理,但并不能证明拥有专有 AI。
  • 模型可能是低质量的——运行推理并不保证模型经过良好训练、基准测试或适合用途。
  • 尽管声称去中心化,推理可能仍是中心化的——一个标着“推理网络”的标签背后只有单一服务器。
  • 拥有推理并不能证明代币是必要的,使推理管道得以运转。

请务必查看证据表以及 Tier-1/2/3 证据区块中的支撑工件。

请勿混淆

  • AI/推理 是一个描述以推理为重心的项目的类别。作为组件的推理是项目内部的具体技术机制,与其类别无关。
  • 训练 产出模型。推理使用它。它们是相继的阶段,而非同义词。
  • 算力 提供硬件。推理是运行在该硬件上的工作负载。
  • AI component 是更宽泛的字段。推理只是众多可能的 AI 组件类型之一。

常见问题

如果一个项目只是为一个知名的基础模型提供公共 API,这对 DecAIHub 来说算推理吗?

算——服务输出在技术意义上就是推理。另一个独立的问题是深度:读者应参考 API 包装器指引,以及关于项目特定的适配、数据或评估的证据。

推理与 zkML 有什么关系?

zkML 针对的是执行的可验证性:一个证明,表明某个声明的模型产出了某个声明的输出。它本身并不能证明模型新颖、公平或适合该使用场景——只能证明所宣称的计算确实发生过。

推理能否成为卡片上唯一的 AI 组件?

通常可以。许多产品都是以推理为中心的(服务、路由、SLA)。卡片仍应列出服务的是什么并链接到证据;参见如何判断一个项目是否真的有 AI。

外部参考

另请参阅