AI/Inference
Catatan: Dokumen ini adalah terjemahan otomatis dari versi asli bahasa Inggris.
AI/Inference
AI/Inference mengelompokkan proyek yang berfokus pada menjalankan model AI terlatih di produksi — tahap ketika model menerima data input dan menghasilkan sebuah hasil (prediksi, klasifikasi, gambar yang dihasilkan, atau respons teks). Ini adalah "mil terakhir" AI: momen ketika model benar-benar melakukan sesuatu yang berguna.
Dalam registri DecAIHub, proyek berfokus inference sering tumpang-tindih dengan penyedia compute dan lapisan infrastruktur. Faktor pembedanya adalah penekanan: proyek AI/Inference secara spesifik berkepentingan dengan bagaimana model disajikan, diverifikasi, dan dikirimkan ke pengguna, bukan sekadar memasok daya GPU mentah.
Latensi, batching, pemversian, dan observabilitas (mencatat input dan output untuk audit) adalah tema berulang di kategori ini. Proyek dapat menargetkan pengembang yang mengintegrasikan API, atau pengguna akhir yang mengonsumsi konten hasil generasi — benang merahnya adalah penggunaan produksi dari model terlatih, bukan fase pelatihannya sendiri.
Singkatnya: AI/Inference mencakup proyek yang menyajikan, mengeksekusi, atau memverifikasi output model AI di produksi.
Apa artinya
Inference adalah proses memasukkan data ke model terlatih dan mendapatkan hasil. Ketika Anda mengetik prompt ke chatbot dan menerima balasan, balasan itu adalah produk dari inference. Ketika protokol DeFi memanggil model prediksi harga, prakiraan yang dikembalikan adalah output inference.
Ini berbeda dari training (membangun dan menyempurnakan model dengan belajar dari data) dan dari compute (menyediakan perangkat keras mentah). Training terjadi sebelum deployment; compute adalah sumber dayanya; inference adalah tindakan memakai model yang sudah jadi.
Tantangan kunci di kripto adalah inference yang dapat diverifikasi: bagaimana Anda membuktikan bahwa model tertentu memproses input tertentu dan menghasilkan output tertentu, tanpa memercayai satu server tunggal? Ada beberapa pendekatan:
- Konsensus multi-penyedia — input yang sama dikirim ke beberapa penyedia independen, dan output dibandingkan; kesepakatan meningkatkan keyakinan.
- zkML — bukti zero-knowledge dihasilkan bersama hasil inference, memungkinkan siapa pun memverifikasi kebenarannya tanpa menjalankan ulang model.
- TEE (trusted execution environment) — model berjalan di dalam enklave perangkat keras yang mengatestasi kode dan data yang diprosesnya.
AI component tipikal yang ditemukan di proyek AI/Inference meliputi endpoint inference, gateway penyajian model, lapisan verifikasi hasil, router latensi, dan registri model yang melacak versi dan provenans.
Subkombinasi yang umum
DecAIHub memakai kategori komposit. Di bawah ini adalah kombinasi yang paling sering muncul dalam AI/Inference.
| Subkombinasi | Apa artinya |
|---|---|
| AI/Inference | Infra | Jaringan inference terdesentralisasi dan platform penyajian — infrastruktur untuk merutekan permintaan ke penyedia model. |
| AI/Inference | AI/Compute | Infra | Infrastruktur inference yang juga mencakup lapisan compute sendiri — proyek yang memasok GPU sekaligus berspesialisasi dalam penyajian model. |
| AI/Inference | AI/Agents | Proyek di mana inference dikemas sebagai layanan yang dikonsumsi oleh agen otonom. |
Apa yang perlu dicari di kartu proyek
Saat membaca kartu AI/Inference di DecAIHub, perhatikan:
- AI component — apakah kartu mencantumkan AI component yang konkret (endpoint inference, penyajian model, verifikasi hasil, komponen inference), atau hanya bahasa "infrastruktur AI" yang samar?
- Mekanisme verifikasi — apakah proyek mendeskripsikan bagaimana hasil inference diverifikasi? Cari penyebutan konsensus, zkML, TEE, atau jaminan reproducibility.
- Transparansi model — bisakah Anda melihat model mana yang berjalan, versi berapa, dan seperti apa input serta output-nya? Proyek yang menyembunyikan semua detail model membuat verifikasi sulit.
- Tingkat bukti — apakah ada artefak Tier-1 seperti API inference publik, hasil benchmark, atau log bukti on-chain?
- Skor AI reality (
ai_score) — menjalankan model terbuka milik orang lain adalah inference yang valid, tetapi kartu harus memperjelas apakah AI-nya proprietary atau milik pihak ketiga. Lihat AI reality.
Apa yang tidak dibuktikan kategori ini sendirian
Proyek berlabel AI/Inference telah diklasifikasikan sebagai berfokus inference berdasarkan positioning dan artefak yang tersedia. Label itu sendiri tidak mengonfirmasi bahwa:
- model yang disajikan berkualitas tinggi, proprietary, atau dibangun khusus;
- hasil inference benar-benar diverifikasi on-chain atau melalui bukti kriptografis;
- proyek membangun atau melatih model yang disajikannya;
- ada permintaan yang bermakna untuk layanan inference tersebut;
- token diperlukan agar pipeline inference berfungsi.
Selalu periksa skor DecAI Fit selengkapnya dan blok bukti di kartu proyek.
Jangan bingung dengan
- AI/Compute — menyediakan sumber daya komputasi mentah; inference memakai compute, tetapi kedua kategori menangani kepentingan yang berbeda (menyajikan model vs memasok perangkat keras). Lihat AI/Compute.
- AI/Training — membangun dan menyempurnakan model dengan belajar dari data; training menghasilkan model yang kemudian dijalankan oleh inference. Lihat AI/Training.
- AI/Agents — perangkat lunak otonom yang mempersepsi, memutuskan, dan bertindak; agen mungkin memanggil endpoint inference secara internal, tetapi kategori agen adalah soal perilaku, bukan eksekusi model. Lihat AI/Agents.
- API wrapper — proyek yang sekadar mem-proxy panggilan ke model pihak ketiga (mis. OpenAI) tanpa menambahkan logika inference, verifikasi, atau infrastruktur penyajian sendiri. Lihat Otomatisasi vs AI asli.
Pertanyaan yang sering diajukan
Apakah meng-hosting model open-weights milik orang lain tetap “AI/Inference” di DecAIHub?
Ya, jika produknya jelas tentang menyajikan, merutekan, atau memverifikasi inference di produksi. Kartu tetap harus memperjelas provenans — model mana, versi mana, dan apa yang ditambahkan proyek di luar proxy tipis. Lihat AI reality.
Mengapa tag inference dan compute sering muncul bersamaan?
Inference membutuhkan mesin. Proyek yang memiliki baik pasokan (AI/Compute) maupun penyajian (kategori ini) sering membawa tag komposit. Gunakan daftar AI component untuk melihat apakah penekanannya penyewaan perangkat keras, eksekusi model, atau keduanya.
Apa yang harus saya periksa pertama untuk klaim “verifiable”?
Cari mekanisme verifikasi yang terdokumentasi (konsensus, zkML, TEE) dan artefak Tier-1 seperti API, log, atau benchmark yang dapat direproduksi — bukan slogan semata.
Referensi eksternal
- Inference (machine learning) — rangkuman netral tentang bagaimana inference menempati posisinya dalam siklus hidup ML bersama training.
- NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0) — latar belakang tentang deployment dan pemantauan sistem AI yang layak dipercaya di lingkungan nyata.
No comments to display
No comments to display