什么算作 AI component 的证据
注意:本文档是英文原版的自动翻译。
什么算作 AI component 的证据
当 DecAIHub 评估一个项目是否拥有可工作的 AI component 时,它寻找的是可验证的工件——而不是营销文案、不是承诺、也不是品牌关联。本页列出能够强化 DecAI Fit 评分中 AI reality 坐标轴的各类证据,从最强到最弱排列。
简而言之: AI 的证据意味着你可以检视、测试或独立验证的工件——代码、文档、带方法的指标、可工作的演示,以及第三方评估。
Tier-1 证据(最强)
Tier-1 来源是由项目自身发布或控制的工件。对 AI reality 坐标轴而言,最强的 Tier-1 证据包括:
- 包含 AI/ML 代码的公开代码库 —— 模型训练脚本、推理逻辑、数据流水线、预处理步骤。一个有提交、发布和测试的代码库,远比一个只有 README 的占位代码库更有力。
- 技术文档 —— 对模型架构、输入/输出格式、模型版本和更新历史的描述。它回答“什么模型、如何工作、运行的是哪个版本”。
- 带方法的质量指标 —— 公布的基准或评估结果,说明测量了什么、在什么数据上、何时测量、以及用哪个版本的模型。缺少这种上下文的指标不是证据。
- 可工作的演示或端点 —— 一个公开可访问的界面、API 或沙盒,AI component 可以在其中被测试。一个处理真实输入并返回 AI 驱动输出的演示是直接证据。
- 审计报告或第三方评估 —— 由公认实体对模型质量、公平性、安全性或性能做出的独立评估。
能强化 Tier-1 证据的模式
并非所有 Tier-1 工件都同等有说服力。若干可观察的模式让证据更可信:
- 提交历史的深度。 一个有数月或数年增量提交、拉取请求、代码评审和版本化发布的代码库,展示出持续的工程投入。一次性批量上传的分量要小得多。
- 测试覆盖率和 CI 流水线。 针对模型推理、数据校验和集成端点的自动化测试,表明这是一个生产级系统,而非概念验证。
- 版本化的模型与变更日志。 当文档追踪部署的是哪个模型版本、版本之间改了什么以及为何而改时,这表明这是一个有活跃开发周期的、活的系统。
- 可复现的输出。 如果一个演示或 API 对相同输入跨会话返回一致、可解释的结果,这比一次性的展示更有力。
- AI 逻辑与样板代码的分离。 在一个 AI/ML 模块清晰可辨——与前端脚手架、部署脚本或代币合约相区分——的代码库中,更容易验证 AI component 实际做了什么。
Tier-2 证据(上下文,而非证明)
Tier-2 来源提供上下文,但单凭它们无法证明存在可工作的 AI component:
- 团队描述其 AI 途径、架构或训练过程的访谈或 AMA。
- 聚合站点(CoinGecko、DeFiLlama 等)提及 AI 能力的描述。
- 与 AI 供应商或研究实验室的合作公告。
Tier-2 证据可以支持一项 Tier-1 发现,但无法取代它。与一家 AI 公司的合作并不能证明该项目拥有自己可工作的 AI。
Tier-2 证据何时重要
当 Tier-2 来源印证 Tier-1 工件,或填补单凭 Tier-1 仍含糊的空白时,它们就变得相关:
- 一场团队逐步讲解其文档所述架构的技术访谈,为 Tier-1 文档增添了可信度。
- 一个与项目自身白皮书所述能力相符的聚合站点条目,表明了一致性。
- 一场带有现场演示、且演示行为与项目公开 API 行为相吻合的会议演讲,强化了该演示并非脚本化的判断。
然而,若没有底层的 Tier-1 工件,即便是有说服力的 Tier-2 来源也仍然只是上下文——对理解有价值,对验证不充分。
什么不算
有些工件看起来像证据,却并不能证明存在可工作的 AI component。常见的虚假信号包括营销文案、空代码库、没有方法的指标,以及没有专有逻辑的 API 包装器。详细清单请参阅什么不算作 AI 的证据。
DecAIHub 如何记录 AI 证据:标志 AI_0 到 AI_4
AI reality 坐标轴使用五个二元标志来捕捉已发现的证据:
| 标志 | 它检查什么 | 取值 |
|---|---|---|
| AI_0 | 是否至少存在一个 Tier-1 的 AI 意图声明(路线图、官方更新) | 1 / 0 |
| AI_1 | 是否有对 AI 所做之事的描述 | 1 / 0 |
| AI_2 | 是否有演示或可工作的示例 | 1 / 0 |
| AI_3 | 是否有带上下文的质量指标(测了什么、在什么数据上、何时) | 1 / 0 |
| AI_4 | 是否有技术描述、架构或模型版本 | 1 / 0 |
等于 1 的标志越多,ai_score 越高,项目的 DecAI Fit 也越好。如果没有任何标志被置位,则 ai_score = 0,且 DecAI Fit 无法超过 0。
标志组合如何映射到置信度
单个标志回答狭窄的问题,但它们的组合勾勒出更完整的图景:
| 已置位的标志 | 典型解读 |
|---|---|
| 仅 AI_0 | 已声明意图;尚未验证可工作的 AI |
| AI_0 + AI_1 | 用文字描述了 AI;无演示、无指标、无架构 |
| AI_0 + AI_1 + AI_2 | 存在一个可工作的演示;仍无指标或技术深度 |
| AI_0 + AI_1 + AI_2 + AI_4 | 演示和架构都有;缺少质量度量 |
| 全部五个(AI_0 到 AI_4) | 最强的证据画像:意图、描述、演示、指标和架构 |
一个项目无需满足全部五个标志才能获得非零 ai_score。即便单凭 AI_0(带 Tier-1 来源的意图)也能使 ai_score = 1。然而,更高的标志为 DecAI Fit 贡献更高的上限。
方法为何对指标很重要
一个孤立的数字——“95% 准确率”“低延迟”“最先进”——若无上下文便不是证据。DecAIHub 认为指标只有在回答以下四个问题时才有意义:测量了什么(准确率、F1、延迟、困惑度)、在什么数据上(公开基准、专有测试集、生产流量)、何时(评估日期),以及产生该结果的是模型的哪个版本。缺少这些,一个指标就是一个宣称,而非证据。
四问测试
在评估任何已公布的指标时,应用这份清单:
- 什么 —— 指标是否被命名和定义?“准确率”是含糊的;“top-1 分类准确率”是具体的。
- 在什么数据上 —— 评估数据集是否被指明?公开基准允许独立复现;专有测试集则不能,但指明它好过沉默。
- 何时 —— 是否有日期或发布标签?模型会随时间变化;没有时间戳的指标可能并不反映当前系统。
- 哪个版本 —— 是否说明了模型或系统版本?如果一个项目发布过多个模型迭代,该指标必须与某个具体版本绑定。
如果这四点中有任何一点缺失,在 DecAIHub 的评估中该指标就从“证据”降为“宣称”。它仍可能作为一项被记录的宣称出现在项目卡片中,但不会贡献于将 AI_3 标志置为 1。
如何使用这份清单
阅读项目卡片时,检查 Evidence 表格是否引用了上述 Tier-1 清单中的工件。如果卡片显示 ai_score = 0 或标记了 AI-washing 的担忧,这意味着截至验证日期未找到这些工件——这不是对项目的指控。
当新的 Tier-1 工件出现时,卡片会更新,分数可能改变。
给读者的实用步骤
- 从 Evidence 表格开始。 寻找指向代码库、文档或演示的链接。如果 Evidence 表格为空或只引用 Tier-2/3 来源,那么 AI reality 宣称就未经验证。
- 点进工件去看。 一个代码库链接的价值只取决于其内部内容。打开它,寻找 AI/ML 代码,而不只是一个 README 或部署脚本。
- 核查验证日期。 证据是一个快照。六个月前验证的卡片可能并不反映项目当前的状态,这就是 DecAIHub 在 550 天后施加过期惩罚的原因。
- 与反模式清单交叉对照。 如果你看到什么不算作 AI 的证据中的模式,请据此对证据进行加权。
这份清单本身无法证明什么
- 满足所有证据标准并不能证明 AI 高质量或对终端用户有用。它证明的是工件存在且可被检视。
- 来自项目自身的 Tier-1 证据并不能证明其独立性。自报数据理想情况下应由第三方评估加以印证。
- 一份完整的证据记录并不能证明 token 是必要的。AI reality 是 DecAI Fit 的一条坐标轴;Token necessity 是另一条。
常见问题
在一个加密项目中,什么算作最完整的 AI 证据?
一个包含 AI/ML 代码、并具有有意义提交历史的公开代码库,结合公布的、包含完整方法(测量了什么、在什么数据上、何时、以及哪个模型版本)的质量指标。当两者都存在,并由一个可工作的演示或 API 端点支持时,证据画像便处于最完整的状态。单个工件本身都不具决定性——是代码、指标和可测试输出的组合,把已验证的 AI 与未经验证的宣称区分开来。
一个项目能否在没有开源代码的情况下拥有真实的 AI?
能。开源代码是最透明的证据形式,但并非唯一形式。一个项目可以通过详尽的技术文档、带方法的公布基准、返回可验证 AI 驱动输出的可工作 API,或独立的第三方评估来展示 AI。然而,若没有至少某种可检视的工件——代码、演示或评估——DecAIHub(或任何其他人)就没有任何东西可供验证。一个项目越封闭,就越依赖 Tier-2 印证(访谈、聚合站点数据、会议演示)来建立可信度。
一个可工作的演示能否证明 AI 是真实的?
一个可工作的演示是强有力的证据,但单凭它本身并非确凿证明。一个设计良好的前端可以使用硬编码响应、预计算结果或对第三方 API 的隐藏调用来模拟类 AI 行为。当演示伴有 API 文档、模型版本标识或跨不同输入可复现的输出时,DecAIHub 才将其视为更强的证据。一个接受任意用户输入并返回多样、语境恰当输出的演示,比一个带有预设示例的引导式展示更有说服力。
获得非零 ai_score 所需的最低证据是什么?
最低限度是一个 Tier-1 的 AI 意图声明——一条路线图条目、一篇官方博客文章,或一个明确陈述 AI 相关计划的文档页面。这会把 AI_0 标志置为 1 并产生 ai_score = 1。虽然这是可能的最低非零分数,但它把已正式承诺某个 AI 方向的项目,与完全没有提及 AI 的项目区分开来。要达到更高分数,项目需要提供额外的工件:对 AI component 的描述(AI_1)、演示(AI_2)、带方法的指标(AI_3),以及技术架构细节(AI_4)。
外部参考
- CommonMark specification —— 所有 DecAIHub wiki 页面(包括项目卡片和讲解页)所使用的标记标准。
- Model Cards for Model Reporting (Mitchell et al., 2019) —— 一个用于记录 AI 模型性能、预期用途和局限性的奠基性框架;与 DecAIHub 证据标准背后的透明度原则高度契合。
- NIST AI Risk Management Framework —— 一个用于识别和管理 AI 风险的美国政府框架,包含关于文档、测试和评估方法的指南。
No comments to display
No comments to display