AI/Inference
注意：本文档是英文原版的自动翻译。
AI/Inference
AI/推理（AI/Inference）将专注于在生产环境中运行已训练的人工智能模型的项目归为一组——在这一阶段，模型接收输入数据并产生结果（一项预测、一次分类、一张生成的图像或一段文本响应）。这是人工智能的"最后一公里"：模型真正做有用之事的时刻。
在 DecAIHub 注册库中，专注于推理的项目常常与算力提供方和基础设施层重叠。区分的关键在于侧重点：一个 AI/推理项目专门关心的是模型如何被服务、验证并交付给用户，而不仅仅是提供原始的 GPU 算力。
延迟、批处理、版本管理以及可观测性（记录输入和输出以供审计）是该类别中反复出现的主题。项目可能面向集成 API 的开发者，也可能面向消费生成内容的最终用户——共同的主线是已训练模型的生产使用，而非训练阶段本身。
简而言之： AI/推理涵盖在生产环境中服务、执行或验证人工智能模型输出的项目。
它意味着什么
推理 是将数据输入已训练模型并获得结果的过程。当你在聊天机器人中输入提示词并收到回复时，那段回复就是推理的产物。当一个 DeFi 协议调用价格预测模型时，返回的预测就是推理的输出。
这与 训练（通过从数据中学习来构建和改进模型）以及 算力（提供原始硬件）截然不同。训练发生在部署之前；算力是资源；推理则是使用成品模型的动作。
加密领域的一个关键挑战是可验证推理：在不信任单一服务器的情况下，你如何证明某个特定模型处理了某个特定输入并产生了某个特定输出？目前存在几种方法：
- 多提供方共识 —— 同一输入被发送给多个独立的提供方，并对其输出进行比较；一致性越高，置信度越高。
- zkML —— 在推理结果旁生成零知识证明，使任何人无需重新运行模型即可验证其正确性。
- TEE（可信执行环境） —— 模型在硬件飞地内运行，该飞地会对其处理的代码和数据进行证明。
在 AI/推理项目中常见的典型 AI components 包括推理端点、模型服务网关、结果验证层、延迟路由器，以及跟踪版本和来源的模型注册表。
常见的子组合
DecAIHub 使用 复合类别。以下是 AI/推理中最常见的组合。
| 子组合 | 含义 |
|---|---|
| AI/Inference | Infra | 去中心化推理网络和服务平台——用于将请求路由到模型提供方的基础设施。 |
| AI/Inference | AI/Compute | Infra | 同时包含自有算力层的推理基础设施——既提供 GPU 又专注于模型服务的项目。 |
| AI/Inference | AI/Agents | 推理被打包成一项服务、供自主代理消费的项目。 |
在项目卡片中应关注什么
在 DecAIHub 上阅读一张 AI/推理卡片时，请注意：
- AI component —— 卡片是否列出了具体的 AI component（推理端点、模型服务、结果验证、推理组件），还是只有模糊的"AI infrastructure"措辞？
- 验证机制 —— 项目是否描述了推理结果如何被验证？留意是否提到共识、zkML、TEE 或可复现性保证。
- 模型透明度 —— 你能否看到运行的是哪个模型、它是什么版本，以及输入和输出是什么样子？一个隐藏所有模型细节的项目会使验证变得困难。
- 证据等级 —— 是否存在 Tier-1 工件，例如公开的推理 API、基准测试结果或链上证明日志？
- AI reality 评分（
ai_score）—— 运行别人的开源模型是有效的推理，但卡片应当明确说明该人工智能是自有的还是第三方的。参见 AI reality。
仅凭该类别无法证明什么
一个被标记为 AI/推理的项目，是基于其定位和可获得的工件被归类为以推理为核心的。仅凭这个标签并不能确认：
- 所服务的模型是高质量的、自有的或专门构建的；
- 推理结果确实在链上或通过密码学证明得到了验证；
- 该项目构建或训练了它所服务的模型；
- 对该推理服务存在有意义的需求；
- 代币对推理流水线的运作是必要的。
请务必查看完整的 DecAI Fit 评分以及项目卡片中的证据区块。
请勿混淆
- AI/计算 —— 提供原始计算资源；推理使用算力，但这两个类别关注的是不同的问题（服务模型 vs. 提供硬件）。参见 AI/计算。
- AI/训练 —— 通过从数据中学习来构建和改进模型；训练产出模型，而后推理才运行该模型。参见 AI/训练。
- AI/代理 —— 进行感知、决策并采取行动的自主软件；代理可能在内部调用一个推理端点，但代理类别关注的是行为，而非模型执行。参见 AI/Agents。
- API wrapper —— 一个只是把调用代理转发给第三方模型（例如 OpenAI）、而没有增加自身推理逻辑、验证或服务基础设施的项目。参见 自动化与真正的人工智能。
常见问题
在 DecAIHub 上托管别人的开放权重模型仍算"AI/推理"吗？
算，前提是该产品明显是关于在生产环境中服务、路由或验证推理。卡片仍应澄清来源——是哪个模型、哪个版本，以及该项目在薄代理之外增加了什么。参见 AI reality。
为什么推理标签和算力标签常常一起出现？
推理需要机器。同时拥有供给（AI/计算）和服务（本类别）的项目常常带有复合标签。使用 AI component 列表来判断侧重点是硬件租赁、模型执行，还是两者兼有。
对于"可验证"的主张，我应该首先检查什么？
寻找有文档记录的验证机制（共识、zkML、TEE）以及 Tier-1 工件，例如 API、日志或可复现的基准测试——而不仅仅是口号。
外部参考
- Inference (machine learning) —— 对推理如何与训练一起融入 ML 生命周期的中立性总结。
- NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0) —— 关于在真实环境中可信地部署和监控人工智能系统的背景资料。
No comments to display
No comments to display