Skip to main content

クリプト AI における GPU とは

注:この文書は英語の原文からの自動翻訳です。

クリプト AI における GPU とは

GPU(Graphics Processing Unit、グラフィックス処理装置)は、もともとグラフィックスのレンダリングのために設計されたプロセッサで、AI ワークロードの支配的なハードウェアになっています。GPU は並列計算 — 数千の単純な数学演算を同時に実行すること — に優れており、それはまさに AI のトレーニングと推論が必要とするものです。クリプト AI 領域では、GPU は分散型コンピューティングネットワークが提供する中核的なリソースであり、GPU の容量へのアクセスは AI 開発の主要なボトルネックの一つです。

要約: GPU は AI を動かすハードウェアです。クリプト AI では、分散型 GPU ネットワークが、ブロックチェーンプロトコルによって調整されて、誰もがトレーニングと AI モデルの実行のために GPU コンピューティングを提供またはレンタルできるようにします。

なぜ GPU が AI にとって重要か

AI ワークロード — 特にディープラーニング — は膨大な量の行列の乗算を伴います。ニューラルネットワークのトレーニングは、大きな数値の行列を数十億回乗算することを意味します。推論の実行は、入力データを行列演算のレイヤーに通すことを意味します。これらの演算は数学的には単純(乗算と加算)ですが、膨大な量で実行されなければなりません。

CPU(Central Processing Unit、中央処理装置)は、複雑で逐次的なタスクのために設計されています。命令を一度に一つずつ(いくらかの並列性を伴って)処理する少数の強力なコアを持ちます。対照的に GPU は、多くのデータポイントにわたって同じ演算を同時に実行するよう最適化された数千のより小さなコアを持ちます。現代のハイエンドな GPU は、1 万を超える CUDA コア(NVIDIA)やストリームプロセッサ(AMD)を持ち、すべてが並列で実行されます。

このアーキテクチャは、AI ワークロードにおいて GPU を CPU より桁違いに速くします。

観点 CPU GPU
コア数 通常 4〜128 コア 数千のコア
最適化 複雑で逐次的なロジック 単純で並列の演算
AI ワークロードへの適合 大規模なトレーニングには不向き 行列計算のために専用設計
メモリ帯域幅 より低い はるかに高い(コアへのデータ供給に重要)

生の計算力を超えて、GPU は高いメモリ帯域幅 — メモリと処理コアの間で大量のデータを素早く動かす能力 — を提供します。これは AI にとって重要です。モデルとその中間の計算は、トレーニングと推論の両方の間に、メモリへ、そしてメモリから素早くロードされなければならないためです。

AI のトレーニングと推論における GPU

GPU は、異なる要件を持つ二つの異なる AI ワークロードに役立ちます。

トレーニング

モデルのトレーニングは、誤差を最小化するためにトレーニングデータに基づいてそのパラメータ(重み)を調整することを意味します。これは次のことを伴います。

  • データのバッチに対してモデルを順方向に実行する(順伝播)。
  • 誤差(損失)を計算する。
  • 勾配を計算するために誤差をモデルを通じて逆方向に伝播する(逆伝播)。
  • 勾配に基づいて重みを更新する。

大規模なモデルのトレーニングは、複数の GPU が、しばしば複数のマシンにまたがって一緒に動作することを必要とします。現代の大規模言語モデルは、数週間または数か月実行される数千の GPU を必要とすることがあります。トレーニングは計算集約的でメモリを大量に消費し、利用可能な最速のハードウェアから恩恵を受けます。

推論

推論は、結果を生み出すために、新しいデータに対してトレーニング済みのモデルを実行することです。それは順伝播だけを必要とします — 勾配の計算も重みの更新もありません。推論はリクエストあたりではトレーニングより計算集約的ではありませんが、本番で継続的に実行されるため、速く(低レイテンシ)効率的(クエリあたりの低コスト)でなければなりません。

推論では、GPU の要件は異なります。ピークの計算力よりもレイテンシとスループットがより重要です。より小さく効率的な GPU や量子化されたモデルが、しばしば推論ワークロードを効果的に処理できます。

分散型 GPU ネットワーク

従来の AI では、企業は中央集権的なクラウド提供者 — 少数の大企業によって運用される大規模なデータセンター — から GPU をレンタルします。これは集中のリスク、高いコスト、地理的な制限を生み出します。分散型 GPU ネットワークは、GPU コンピューティングのオープンな市場を作ることを目指します。

  • 供給側。 GPU の所有者(個人、小規模なデータセンター、遊休ハードウェアを転用するマイニング事業)が GPU をネットワークに提供し、報酬を得ます。
  • 需要側。 AI 開発者やプロジェクトが、単一のクラウド提供者にコミットすることなく、トレーニングや推論のために GPU の容量をレンタルします。
  • プロトコルレイヤー。 ブロックチェーンプロトコルが、マッチング、価格設定、ジョブのスケジューリング、支払いの決済、品質保証を調整します。

このモデルは、より広い DePIN(Decentralized Physical Infrastructure Networks、分散型物理インフラネットワーク)のパターンに属します。物理ハードウェアが中央の企業ではなく分散型のプロトコルによって調整されます。

分散型 GPU の課題

分散型 GPU ネットワークは重大な実務的課題に直面します。

  • ハードウェアの異質性。 異なる GPU は異なる能力を持ちます。コンシューマー向けカードとデータセンター向けカードの混在を持つネットワークは、ワークロードのマッチング、互換性、パフォーマンスのばらつきを扱わなければなりません。
  • 信頼性。 個々の GPU 提供者はオフラインになったり、ネットワークの問題を抱えたり、一貫性のないパフォーマンスを提供したりするかもしれません。エンタープライズのクラウド提供者は SLA を提供します。分散型ネットワークはプロトコルレベルで信頼性を解決しなければなりません。
  • 検証。 GPU 提供者が実際に計算を正しく実行したことを、ネットワークはどう検証するのか? アプローチには冗長な計算、TEE アテステーション、計算証明のメカニズムが含まれます。
  • データ転送。 AI ワークロードは大きなデータ転送(モデルの重み、トレーニングデータセット、入力バッチ)を伴います。分散した GPU 提供者へ、そしてそこからデータを動かすことは、中央集権的なデータセンターがコロケーションを通じて避けるレイテンシと帯域幅のコストをもたらします。
  • モデルの機密性。 モデルの所有者が独自のモデルを信頼できない GPU 提供者に送るとき、提供者はモデルの重みをコピーまたは抽出できてしまうかもしれません。解決策には TEE ベースの実行と暗号化された計算が含まれます。

なぜ DecAIHub にとって重要か

GPU コンピューティングは、DecAIHub で評価されるほぼすべての AI プロジェクトの基盤です。AI/コンピューティングカテゴリは、AI ワークロードのために GPU リソースを提供・オーケストレーション・マーケットプレイス化するプロジェクトを特に扱います。GPU のダイナミクスを理解することは、プロジェクトカードのいくつかの側面を評価するのに役立ちます。

  • AI reality。 プロジェクトは本物の GPU コンピューティングへのアクセスを持つのか、それとも AI は純粋に願望的なものか? GPU の利用(ダッシュボード、提供者の数、計算ベンチマーク)のエビデンスは AI reality の主張を支えます。
  • オンチェーン統合。 一部のプロジェクトは、GPU のジョブのマッチング、支払いの決済、計算証明、提供者のステーキングにオンチェーンのメカニズムを使います。オンチェーン統合の洗練度は大きく異なります。
  • DePIN の重なり。 AI/コンピューティングを DePIN と組み合わせるプロジェクトは、分散型 GPU インフラを構築しています。トークンは通常、GPU 提供者がネットワークにハードウェアを提供するインセンティブを与えます。

DecAIHub プロジェクトカードでの表示箇所

GPU 関連の情報はいくつかのフィールドに現れます。

  • Category — AI/コンピューティングのプロジェクトは、GPU の供給とオーケストレーションに直接取り組みます。DePIN のタグはしばしばハードウェアのインセンティブモデルを示します。
  • AI component — 「GPU orchestration」、「decentralized compute」、「GPU marketplace」、「compute network」といった値は GPU 重視のインフラを示します。
  • Evidence 表 — GPU プロジェクトの Tier-1 エビデンスには、提供者のダッシュボード、利用の指標、計算ベンチマーク、オンチェーンの決済記録が含まれます。

GPU だけでは証明できないこと

  • GPU を持つことは、プロジェクトに本物の AI があることを証明しません。GPU はハードウェアです。AI にはモデル、データ、パイプラインが必要です。プロジェクトはいかなる AI 固有のロジックもなしに GPU ネットワークを運用できます。
  • 大きな GPU の数は、その計算が AI ワークロードに使われていることを証明しません。GPU は AI 以外のワークロードを含む任意の並列計算タスクに役立ちます。
  • GPU インフラを提供することは、プロジェクト自身の AI が独自または高度であることを証明しません。プロジェクトは、自身で AI 固有の何かを構築することなく第三者のモデルをホストしているかもしれません。
  • GPU の可用性は token necessity を証明しません。GPU のレンタルは法定通貨やステーブルコインで価格設定・決済されうるものです。ネイティブトークンの役割には別個の正当化が必要です。
  • 分散型 GPU は、それが中央集権的な代替よりもコスト効率が高い、あるいは高性能であることを証明しません。分散型 GPU の比較優位はエビデンスを必要とする主張です。

混同しないでください

  • CPU(Central Processing Unit、中央処理装置) — すべてのコンピュータにある汎用のプロセッサ。CPU は逐次的なタスクをうまく扱いますが、AI が必要とする並列の行列演算には効率的ではありません。
  • TPU(Tensor Processing Unit) — Google によって機械学習ワークロードのために特別に設計されたカスタムのアクセラレータ。TPU は GPU ではありません。テンソル演算のために専用設計されています。TPU は Google Cloud の外では広く利用できません。
  • ASIC(Application-Specific Integrated Circuit、特定用途向け集積回路) — 単一のタスク(例:Bitcoin マイニングの ASIC)のために設計されたカスタムハードウェア。GPU とは異なり、ASIC は異なるワークロードに転用できません。
  • AI/コンピューティング カテゴリ — コンピューティングリソースを提供するプロジェクトのための DecAIHub のカテゴリ。GPU はハードウェアであり、AI/コンピューティングはプロジェクトの分類です。
  • マイニング — proof-of-work ブロックチェーンでは、GPU は暗号通貨をマイニングするために使われました。AI コンピューティングは根本的に異なるワークロードです。一部の GPU 所有者は、マイニングの収益性が変化するにつれて、マイニングから AI コンピューティングの提供へ移行しました。

よくある質問

なぜ AI には CPU ではなく GPU が使われるのですか?

AI ワークロードは、膨大な量のデータにわたって同じ数学演算(通常は行列の乗算)を同時に実行することを伴います。GPU はまさにこのタイプの並列計算のために設計された数千のコアを持つ一方、CPU は逐次的で複雑なタスクのために最適化された少数のコアを持ちます。GPU は、CPU が数分から数時間かかる行列の乗算を数秒で実行できます。GPU のアーキテクチャ — 高いメモリ帯域幅を持つ大規模に並列なコア — は、ニューラルネットワークの数学的構造に適合します。

分散型 GPU ネットワークとは何ですか?

分散型 GPU ネットワークは、GPU の所有者(提供者)を、AI ワークロードのために計算力を必要とするユーザーと結ぶプロトコルです。単一のクラウド提供者からレンタルする代わりに、ユーザーは、マッチング、スケジューリング、価格設定、支払いを扱うブロックチェーンプロトコルによって調整された GPU の分散したプールにアクセスします。GPU 提供者はハードウェアを提供することで(しばしばネットワークのトークンで)報酬を得ます。プロトコルは、GPU コンピューティングのより開かれ、競争的で、アクセスしやすい市場を作ることを目指します。

分散型 GPU ネットワークはクラウド提供者と同じくらい信頼できますか?

信頼性は主要な課題の一つです。中央集権的なクラウド提供者は、保証された稼働率とパフォーマンスを伴うサービスレベル合意(SLA)を提供します。分散型ネットワークは信頼性をプロトコルレベルで解決しなければなりません。提供者の可用性の監視、提供者がオフラインになったときのフェイルオーバーの処理、異質なハードウェアにわたる一貫したパフォーマンスの保証、作業が正しく完了したことの検証です。一部のネットワークは信頼性にインセンティブを与えるためにステーキングとスラッシングのメカニズムを使います。現状はプロジェクトによって大きく異なります — 一部は本番品質に近づいている一方、他は実験的なままです。

GPU は DePIN とどう関係しますか?

DePIN(Decentralized Physical Infrastructure Networks)は、物理インフラを立ち上げ調整するためにトークンのインセンティブを使うプロジェクトの広いカテゴリです。GPU ネットワークは最も顕著な DePIN のサブカテゴリの一つです。GPU の所有者がハードウェアをプロトコルに提供してトークンを得る一方、プロトコルはハードウェアを使用可能なコンピューティングサービスに集約します。GPU は物理インフラであり、DePIN モデルはそれをネットワークに組織するインセンティブと調整のメカニズムです。

外部リンク

  • NVIDIA CUDA Zone — GPU で加速されたコンピューティングのための開発者リソース。NVIDIA のハードウェア上のほとんどの AI ワークロードが使う基盤的な技術スタック。
  • Stanford HAI — AI Index Report — AI の計算トレンド、GPU の利用、AI ハードウェアリソースへの高まる需要についての年次データ。
  • Ethereum.org — Decentralized science (DeSci) — GPU ネットワークモデルを含む、科学と AI のコンピューティングのための分散型インフラについてのより広い文脈。

関連ページ