AI/Inference
Not: Bu belge orijinal İngilizce versiyonun otomatik bir çevirisidir.
AI/Inference
AI/Inference, eğitilmiş AI modellerini üretimde çalıştırmaya odaklanan projeleri gruplar — modelin girdi verisini alıp bir sonuç ürettiği aşama (bir tahmin, bir sınıflandırma, üretilmiş bir görsel veya bir metin yanıtı). Bu, AI'nın "son kilometresidir": modelin gerçekten yararlı bir şey yaptığı an.
DecAIHub kayıt sisteminde çıkarım odaklı projeler genellikle işlem gücü sağlayıcılarıyla ve altyapı katmanlarıyla örtüşür. Ayırt edici etken vurgudur: bir AI/Inference projesi, yalnızca ham GPU gücü sağlamakla değil, özellikle modellerin nasıl sunulduğu, doğrulandığı ve kullanıcılara ulaştırıldığıyla ilgilenir.
Gecikme, toplu işleme, sürümleme ve gözlemlenebilirlik (denetim için girdi ve çıktıların günlüğe kaydedilmesi) bu kategoride yinelenen temalardır. Projeler API entegre eden geliştiricileri veya üretilmiş içerik tüketen son kullanıcıları hedefleyebilir — ortak payda, eğitim aşamasının kendisi değil, eğitilmiş bir modelin üretimde kullanımıdır.
Kısaca: AI/Inference, üretimde AI model çıktılarını sunan, yürüten veya doğrulayan projeleri kapsar.
Ne anlama gelir
Inference (çıkarım), eğitilmiş bir modele veri verip bir sonuç alma sürecidir. Bir sohbet botuna istem yazıp yanıt aldığınızda, o yanıt çıkarımın ürünüdür. Bir DeFi protokolü bir fiyat tahmin modelini çağırdığında, dönen öngörü çıkarım çıktısıdır.
Bu, eğitimden (veriden öğrenerek modeli inşa etmek ve geliştirmek) ve compute'tan (ham donanımı sağlamak) farklıdır. Eğitim devreye almadan önce gerçekleşir; compute kaynaktır; çıkarım ise bitmiş modeli kullanma eylemidir.
Kriptoda kilit bir zorluk doğrulanabilir çıkarımdır: tek bir sunucuya güvenmeden, belirli bir modelin belirli bir girdiyi işleyip belirli bir çıktıyı ürettiğini nasıl kanıtlarsınız? Birkaç yaklaşım mevcuttur:
- Çoklu sağlayıcı mutabakatı — aynı girdi birkaç bağımsız sağlayıcıya gönderilir ve çıktılar karşılaştırılır; uyum güveni artırır.
- zkML — çıkarım sonucuyla birlikte sıfır bilgi kanıtları üretilir; böylece herkes modeli yeniden çalıştırmadan doğruluğu doğrulayabilir.
- TEE (güvenilir yürütme ortamı) — model, işlediği kodu ve veriyi tasdik eden bir donanım yalıtım bölgesinde çalışır.
AI/Inference projelerinde bulunan tipik AI component'ler arasında çıkarım uç noktaları, model sunum ağ geçitleri, sonuç doğrulama katmanları, gecikme yönlendiricileri ve sürümleri ile kaynağı izleyen model kayıtları yer alır.
Yaygın alt kombinasyonlar
DecAIHub bileşik kategoriler kullanır. Aşağıda AI/Inference içindeki en sık kombinasyonlar yer almaktadır.
| Alt kombinasyon | Ne anlama gelir |
|---|---|
| AI/Inference | Infra | Merkeziyetsiz çıkarım ağları ve sunum platformları — istekleri model sağlayıcılarına yönlendirmek için altyapı. |
| AI/Inference | AI/Compute | Infra | Kendi işlem gücü katmanını da içeren çıkarım altyapısı — hem GPU sağlayan hem de model sunumunda uzmanlaşan projeler. |
| AI/Inference | AI/Agents | Çıkarımın, otonom ajanların tükettiği bir hizmet olarak paketlendiği projeler. |
Proje kartında nelere bakılmalı
DecAIHub'da bir AI/Inference kartını okurken şunlara dikkat edin:
- AI component — kart somut bir AI component mi listeliyor (çıkarım uç noktaları, model sunumu, sonuç doğrulama, inference bileşeni), yoksa yalnızca belirsiz bir "AI altyapısı" söylemi mi?
- Doğrulama mekanizması — proje çıkarım sonuçlarının nasıl doğrulandığını tanımlıyor mu? Mutabakat, zkML, TEE veya yeniden üretilebilirlik garantilerinden söz edilip edilmediğine bakın.
- Model şeffaflığı — hangi modelin çalıştığını, hangi sürüm olduğunu ve girdi ile çıktıların neye benzediğini görebiliyor musunuz? Tüm model ayrıntılarını gizleyen bir proje doğrulamayı zorlaştırır.
- Kanıt katmanı — halka açık çıkarım API'leri, benchmark sonuçları veya zincir üstü kanıt günlükleri gibi Tier-1 artefaktlar var mı?
- AI reality puanı (
ai_score) — başkasının açık modelini çalıştırmak geçerli bir çıkarımdır, ancak kart AI'nın tescilli mi yoksa üçüncü taraf mı olduğunu netleştirmelidir. Bkz. AI reality.
Tek başına bu kategori neyi kanıtlamaz
AI/Inference etiketli bir proje, konumlandırması ve mevcut artefaktlarına göre çıkarım odaklı olarak sınıflandırılmıştır. Etiket tek başına şunları doğrulamaz:
- sunulan modelin yüksek kaliteli, tescilli veya amaca özel inşa edilmiş olduğunu;
- çıkarım sonuçlarının gerçekten zincir üstünde veya kriptografik kanıtlarla doğrulandığını;
- projenin sunduğu modeli kendisinin inşa ettiğini veya eğittiğini;
- çıkarım hizmetine anlamlı bir talep olduğunu;
- çıkarım hattının çalışması için tokenın gerekli olduğunu.
Her zaman tam DecAI Fit puanını ve proje kartındaki kanıt bloğunu kontrol edin.
Karıştırmayın
- AI/Compute — ham hesaplama kaynakları sağlar; çıkarım compute kullanır, ancak iki kategori farklı meselelere odaklanır (model sunmak ile donanım sağlamak). Bkz. AI/Compute.
- AI/Training — veriden öğrenerek modelleri inşa eder ve geliştirir; eğitim, çıkarımın sonradan çalıştırdığı modeli üretir. Bkz. AI/Training.
- AI/Agents — algılayan, karar veren ve eyleme geçen otonom yazılım; bir ajan dahili olarak bir çıkarım uç noktası çağırabilir, ancak ajan kategorisi model yürütmeyle değil davranışla ilgilidir. Bkz. AI/Agents.
- API wrapper — kendi çıkarım mantığını, doğrulamasını veya sunum altyapısını eklemeden çağrıları üçüncü taraf bir modele (ör. OpenAI) yalnızca yönlendiren bir proje. Bkz. Otomasyon ve gerçek AI farkı.
Sık sorulan sorular
Başkasının açık ağırlıklı modelini barındırmak DecAIHub'da yine de "AI/Inference" midir?
Evet — ürün açıkça üretimde çıkarımı sunmak, yönlendirmek veya doğrulamakla ilgiliyse. Kart yine de kaynağı netleştirmelidir: hangi model, hangi sürüm ve projenin ince bir vekilin ötesinde ne kattığı. Bkz. AI reality.
Çıkarım ve compute etiketleri neden sık sık birlikte görünür?
Çıkarım makinelere ihtiyaç duyar. Hem arzı (AI/Compute) hem de sunumu (bu kategori) elinde tutan projeler genellikle bileşik etiketler taşır. Vurgunun donanım kiralama mı, model yürütme mi yoksa her ikisi mi olduğunu görmek için AI component listesini kullanın.
"Doğrulanabilir" iddiaları için önce neyi kontrol etmeliyim?
Belgelenmiş doğrulama mekanizmalarına (mutabakat, zkML, TEE) ve API'ler, günlükler veya yeniden üretilebilir benchmark'lar gibi Tier-1 artefaktlara bakın — yalnızca sloganlara değil.
Dış kaynaklar
- Inference (machine learning) — çıkarımın ML yaşam döngüsünde eğitimin yanında nasıl konumlandığına dair tarafsız bir özet.
- NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0) — AI sistemlerinin gerçek ortamlarda güvenilir biçimde devreye alınması ve izlenmesi hakkında arka plan.
No comments to display
No comments to display