AI/Inference
注:この文書は英語の原文からの自動翻訳です。
AI/Inference
AI/推論(AI/Inference)は、訓練済みの AI モデルを本番環境で実行すること に焦点を当てたプロジェクトをまとめます — モデルが入力データを受け取り、結果(予測、分類、生成された画像、テキスト応答)を生み出す段階です。これは AI の「ラストマイル」、すなわちモデルが実際に何か有用なことを行う瞬間です。
DecAIHub のレジストリでは、推論に焦点を当てたプロジェクトはしばしば計算リソース提供者やインフラ層と重なります。区別する要因は重点の置き方です。AI/推論プロジェクトは、単に生の GPU パワーを供給することではなく、モデルがどのように提供・検証され、ユーザーに届けられるか に特に関心があります。
レイテンシ、バッチ処理、バージョン管理、そして 可観測性(監査のために入力と出力をログに記録すること)は、このカテゴリで繰り返し現れるテーマです。プロジェクトは API を統合する開発者を対象とすることもあれば、生成されたコンテンツを消費するエンドユーザーを対象とすることもあります — 共通する糸は、訓練フェーズそのものではなく、訓練済みモデルの 本番利用 です。
要約: AI/推論は、AI モデルの出力を本番環境で提供・実行・検証するプロジェクトを対象とします。
その意味
推論(Inference) とは、データを訓練済みモデルに入力して結果を得るプロセスです。チャットボットにプロンプトを入力して返信を受け取るとき、その返信は推論の産物です。DeFi プロトコルが価格予測モデルを呼び出すとき、返ってくる予測は推論の出力です。
これは トレーニング(Training)(データから学習してモデルを構築・改善すること)とも、計算(Compute)(生のハードウェアを提供すること)とも区別されます。トレーニングはデプロイの前に行われ、計算はリソースであり、推論は完成したモデルを使う行為です。
クリプトにおける重要な課題は 検証可能な推論 です。単一のサーバーを信頼することなく、特定のモデルが特定の入力を処理して特定の出力を生み出したことをどう証明するか?いくつかのアプローチがあります:
- マルチプロバイダーコンセンサス — 同じ入力を複数の独立したプロバイダーに送り、出力を比較する。一致が高まるほど信頼性が増します。
- zkML — 推論結果とともにゼロ知識証明が生成され、モデルを再実行せずに誰でも正しさを検証できます。
- TEE(trusted execution environment) — モデルがハードウェアエンクレーブ内で実行され、処理したコードとデータを証明します。
AI/推論プロジェクトに見られる典型的な AI コンポーネント には、推論エンドポイント、モデル提供ゲートウェイ、結果検証層、レイテンシルーター、バージョンと来歴を追跡するモデルレジストリなどがあります。
よくあるサブ組み合わせ
DecAIHub は 複合カテゴリ を使用します。以下は AI/推論内で最も頻繁な組み合わせです。
| サブ組み合わせ | その意味 |
|---|---|
| AI/推論 | インフラ | 分散型推論ネットワークと提供プラットフォーム — リクエストをモデルプロバイダーにルーティングするインフラ。 |
| AI/推論 | AI/コンピューティング | インフラ | 独自の計算層も含む推論インフラ — GPU を供給しつつモデル提供にも特化したプロジェクト。 |
| AI/推論 | AI/エージェント | 推論が自律エージェントに消費されるサービスとしてパッケージ化されたプロジェクト。 |
プロジェクトカードで確認すべきこと
DecAIHub で AI/推論のカードを読むとき、次の点に注意してください:
- AI component — カードは具体的な AI コンポーネント(推論エンドポイント、モデル提供、結果検証、推論コンポーネント)を記載しているか、それとも曖昧な「AI インフラ」という表現だけか?
- 検証メカニズム — プロジェクトは推論結果がどのように検証されるかを記述しているか?コンセンサス、zkML、TEE、再現性保証への言及を探してください。
- モデルの透明性 — どのモデルが実行され、どのバージョンで、入力と出力がどのようなものか見えるか?モデルの詳細をすべて隠すプロジェクトは検証を困難にします。
- エビデンス Tier — 公開推論 API、ベンチマーク結果、オンチェーンの証明ログなどの Tier-1 アーティファクト はあるか?
- AI reality スコア(
ai_score) — 他者のオープンモデルを実行することは有効な推論ですが、カードは AI が独自のものかサードパーティのものかを明確にすべきです。AI reality を参照してください。
このカテゴリだけでは証明されないこと
AI/推論とラベル付けされたプロジェクトは、その位置づけと利用可能なアーティファクトに基づいて推論に焦点を当てていると 分類 されています。ラベルだけでは、次のことは確認できません:
- 提供されているモデルが高品質、独自、または専用に構築されたものであること;
- 推論結果が実際にオンチェーンまたは暗号学的証明を通じて検証されていること;
- プロジェクトが提供するモデルを自ら構築または訓練したこと;
- 推論サービスに意味のある需要があること;
- 推論パイプラインが機能するためにトークンが必要であること。
常にプロジェクトカードの DecAI Fit スコア全体とエビデンスブロックを確認してください。
混同しないでください
- AI/コンピューティング — 生の計算リソースを提供します。推論は計算を使いますが、両カテゴリは異なる関心事(モデルの提供 vs ハードウェアの供給)を扱います。AI/コンピューティング を参照してください。
- AI/トレーニング — データから学習してモデルを構築・改善します。トレーニングは、推論が実行するモデルを生み出します。AI/トレーニング を参照してください。
- AI/エージェント — 知覚し、決定し、行動する自律ソフトウェアです。エージェントは内部で推論エンドポイントを呼び出すことがありますが、エージェントのカテゴリはモデルの実行ではなく振る舞いに関するものです。AI/エージェント を参照してください。
- API ラッパー — 独自の推論ロジック、検証、提供インフラを加えずに、サードパーティモデル(例:OpenAI)への呼び出しを単に中継するだけのプロジェクト。自動化 vs 本物の AI を参照してください。
よくある質問
他者のオープンウェイトモデルをホストすることも DecAIHub では「AI/推論」になりますか?
はい、製品が明らかに本番環境での推論の 提供、ルーティング、検証 に関するものであれば。カードは依然として 来歴 — どのモデル、どのバージョン、薄いプロキシを超えてプロジェクトが何を加えているか — を明確にすべきです。AI reality を参照してください。
なぜ推論と計算のタグはしばしば一緒に現れるのですか?
推論にはマシンが必要です。供給(AI/コンピューティング)と 提供(このカテゴリ)の両方を持つプロジェクトは、しばしば複合タグを持ちます。AI component のリストを使って、重点がハードウェアレンタル、モデル実行、あるいはその両方のどれにあるかを確認してください。
「検証可能」という主張について、まず何を確認すべきですか?
スローガンだけでなく、文書化された 検証メカニズム(コンセンサス、zkML、TEE)と、API、ログ、再現可能なベンチマークなどの Tier-1 アーティファクトを探してください。
外部リンク
- Inference (machine learning) — トレーニングと並んで 推論 が ML ライフサイクルにどう収まるかの中立的な要約。
- NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0) — 実環境における AI システムの信頼できるデプロイと監視の背景。
No comments to display
No comments to display