Skip to main content

Eğitim (training) nedir

Not: Bu belge orijinal İngilizce versiyonun otomatik bir çevirisidir.

Eğitim (training) nedir

Eğitim, bir AI modeline veriler göstererek desenleri, ilişkileri ve yapıları öğrenmesini sağlama sürecidir. Eğitimden önce bir model, rastgele parametrelere sahip boş bir yapıdır — görüntüleri sınıflandıramaz, cümleler üretemez veya tahminlerde bulunamaz. Eğitimden sonra bu parametreler, veriden çıkarılan bilgiyi kodlar. Eğitim, boş bir sinir ağını yararlı bir araca dönüştüren şeydir.

Bunu birine yemek yapmayı öğretmek gibi düşünün. Hiç bıçak tutmamış bir insanla başlarsınız. Ona binlerce tarif (bir veri kümesi), pratik yapacağı bir mutfak (hesaplama) ve her yemeğin tadına bakıp neyin yanlış gittiğini söyleyen bir şef (kayıp fonksiyonu) verirsiniz. Yeterince pratikten sonra — yemekleri yakma, çorbaları fazla tuzlama, tekniği ayarlama — aşçı, daha önce hiç birleştirmediği malzemelerden bir yemek doğaçlayabilir. Bu doğaçlama, eğitilmiş bir modelin çıkarım sırasında yaptığı şeydir.

Kısaca: eğitim, "ders çalışma" aşamasıdır — model milyonlarca örnek okur ve yeni, görülmemiş girdileri ele alabilene kadar kendini ayarlar. Eğitilmiş model, kazanılan bilgidir.

Eğitim adım adım nasıl çalışır

Son kullanıcılar yalnızca bitmiş bir model görse de eğitim, çok aşamalı bir mühendislik işlem hattıdır. Her aşama, nihai sonucu etkileyen kararlar getirir.

Veri toplama

Her eğitim çalışması veriyle başlar. Proje, modelin gerçekleştireceği görevle ilgili bir veri kümesi derlemelidir. Bir metin modeli için bu, web ölçeğinde bir doğal dil derlemi olabilir. Kriptoya özgü bir model için blok zinciri işlem geçmişlerini, protokol dokümantasyonunu veya sosyal duyarlılık verilerini içerebilir. Veri kümesinin kalitesi, boyutu ve alaka düzeyi, modelin öğrenebileceklerinin üst sınırını belirler — hiçbir mimari, eksik veya bozuk veriyi telafi edemez.

Veri ön işleme

Ham veri nadiren olduğu gibi kullanılabilir. Ön işleme, veriyi modelin alabileceği tek tip bir biçime dönüştürür. Yaygın adımlar arasında tokenizasyon (metni alt kelime birimlerine bölme), normalleştirme (sayısal değerleri ölçekleme), tekilleştirme (neredeyse özdeş kayıtları kaldırma) ve filtreleme (düşük kaliteli, saldırgan veya alakasız örnekleri kaldırma) bulunur. Kötü ön işlenmiş veri, modelin öğrenmek yerine ezberleyebileceği gürültü katar.

Mimari seçimi

Eğitim başlamadan önce mühendisler bir model mimarisi seçer — verinin modelde nasıl aktığını tanımlayan taslak. Metin görevleri için bugün baskın mimari, büyük dil modellerini çalıştıran transformer'dır. Görüntü görevleri için evrişimli sinir ağları (CNN) ve görü transformer'ları (ViT) yaygındır. Mimari; katmanların sayısını ve türünü, dikkatin nasıl hesaplandığını ve modelin kapasitesinin boyutla nasıl ölçeklendiğini belirler. Birçok kripto AI projesi, mevcut bir açık kaynak mimariyi (DeepSeek, Mistral, Stable Diffusion) benimseyip doğrudan ince ayara geçerek bu adımı atlar.

Eğitim döngüsü

Eğitim döngüsü, saatler, günler veya haftalar boyunca çalışan temel optimizasyon döngüsüdür:

  1. Model, ön işlenmiş bir veri yığını alır.
  2. Bir çıktı üretir — bir tahmin, üretilen bir token, bir sınıflandırma.
  3. Çıktı, hatayı hesaplayan bir kayıp fonksiyonu kullanılarak beklenen sonuçla karşılaştırılır.
  4. Bir optimizasyon algoritması (tipik olarak stokastik gradyan inişinin bir çeşidi), hatayı azaltmak için her parametrenin nasıl değişmesi gerektiğini hesaplar.
  5. Modelin iç parametreleri (ağırlıklar), kaybı düşüren yönde hafifçe ayarlanır.
  6. Döngü, bir sonraki yığın için tekrarlanır.

Tüm veri kümesi üzerinden bir tam geçişe epok (epoch) denir. Büyük modeller devasa veri kümelerinde yüzlerce epok eğitilebilir. Eğitim döngüsü, hesaplama açısından en yoğun aşamadır — tek bir büyük dil modeli ön eğitim çalışması, aylarca kesintisiz çalışan binlerce GPU tüketebilir.

Değerlendirme

Eğitim boyunca mühendisler modeli periyodik olarak bir ayrılmış doğrulama kümesi üzerinde değerlendirir — modelin eğitim sırasında hiç görmediği veriler. Bu, modelin gerçekten genellenebilir desenler mi öğrendiğini yoksa yalnızca eğitim örneklerini mi ezberlediğini (aşırı öğrenme (overfitting) denen sorun) ortaya çıkarır. Değerlendirme, göreve uygun kıyaslamalar ve kalite metrikleri kullanır: dil modelleri için perplexity, sınıflandırıcılar için doğruluk veya F1, çeviri ve özetleme için BLEU veya ROUGE.

Dağıtım

Bir model, değerlendirme metriklerinde kabul edilebilir kaliteye ulaştığında üretim için paketlenir. Bu, modeli daha verimli bir biçime dönüştürmeyi, nicemleme (quantization) uygulamayı (bellek ve hesaplama gereksinimlerini azaltmak için sayısal kesinliği düşürme) ve bir çıkarım işlem hattına dağıtmayı içerebilir. Eğitilmiş model — öğrenilmiş ağırlıkların koleksiyonu — kullanıcılara fiilen hizmet veren artefakttır.

Aşama Ne olur Örnek
Veri toplama İlgili veri kümesini derle Web metni, kod, blok zinciri verisi topla
Ön işleme Veriyi temizle ve biçimlendir Metni tokenize et, kopyaları kaldır
Mimari seçimi Model taslağını seç 7B parametreli transformer seç
Eğitim döngüsü Ağırlıkları gradyan inişiyle optimize et 1024 GPU'da 200 epok çalıştır
Değerlendirme Görülmemiş verilerle test et Doğrulama kümesinde perplexity ölç
Dağıtım Modeli üretim için paketle Ağırlıkları nicemle, API'ye dağıt

Eğitim türleri

Tüm eğitimler aynı değildir. Farklı türler farklı amaçlara hizmet eder ve AI yaşam döngüsünün farklı aşamalarında ortaya çıkar.

Ön eğitim

Ön eğitim, bir modeli devasa, genel amaçlı bir veri kümesinde sıfırdan eğitmek anlamına gelir. Amaç, göreve özgü bilgi yerine geniş desenler — dil yapısı, görsel özellikler, istatistiksel düzenlilikler — öğrenmektir. Ön eğitim açık ara en pahalı aşamadır. Öncü bir LLM'i sıfırdan eğitmek on milyonlarca dolara mal olabilir ve aylarca çalışan binlerce üst düzey GPU gerektirebilir. Çok az kripto AI projesi bunu yapar; büyük çoğunluk, açık kaynak ekosisteminden önceden eğitilmiş modelleri alır ve uyarlar.

İnce ayar

İnce ayar, önceden eğitilmiş bir modeli alır ve daha küçük, alana özgü bir veri kümesinde ayarlar. Kripto AI'da en yaygın yaklaşım budur. Bir proje, kriptoya özgü sorulardaki performansını iyileştirmek için bir LLM'i blok zinciri dokümantasyonunda, akıllı sözleşme kodunda veya DeFi protokol verilerinde ince ayardan geçirebilir. İnce ayar, zaten yetenekli bir modelden başladığı ve sıfırdan öğrenmek yerine yalnızca ağırlıkları kaydırması gerektiği için ön eğitimden çok daha ucuzdur.

İnsan geri bildiriminden pekiştirmeli öğrenme (RLHF)

RLHF, bir modelin çıktılarını insan tercihleriyle hizalamak için kullanılan bir eğitim sonrası tekniktir. Ön eğitim ve ilk ince ayardan sonra, insan değerlendiriciler aynı girdi için birden fazla model çıktısını sıralar. Bu sıralamalar bir ödül modeli eğitir; bu model daha sonra ana modelin pekiştirmeli öğrenme yoluyla daha fazla eğitilmesini yönlendirir. RLHF, chatbot'ların talimatları izlemesini, zararlı içerikten kaçınmasını ve insanların yararlı bulduğu yanıtlar üretmesini sağlayan tekniktir. Saf istatistiksel öğrenmenin üzerine bir insan yargısı katmanı ekler.

Bilgi damıtma

Damıtma, daha küçük bir "öğrenci" modeli, daha büyük bir "öğretmen" modelin çıktılarını yeniden üretmek üzere eğitir. Öğrenci, orijinal veriden değil, daha zengin bilgi içeren (katı etiketler yerine yumuşak olasılık dağılımları) öğretmen tahminlerinden öğrenir. Damıtma, modelleri sınırlı donanımda — uç cihazlar veya maliyet kısıtlı merkeziyetsiz çıkarım ağları gibi — çalıştırması gereken projeler için pratiktir ve öğretmen modelin kalitesinin çoğunu korur.

Parametre açısından verimli ince ayar (LoRA ve adaptörler)

LoRA (Low-Rank Adaptation) ve benzeri teknikler, önceden eğitilmiş modelin ağırlıklarının çoğunu dondurur ve yalnızca küçük bir ek parametre kümesini eğitir. Bu, ince ayarı hesaplama ve bellek açısından çarpıcı biçimde ucuzlatır — çoğu zaman tek bir tüketici GPU'sunda mümkündür. LoRA adaptörleri, davranışını belirli bir görev için özelleştirmek üzere temel bir modelin üzerine yüklenebilen hafif dosyalardır (çoğu zaman yalnızca onlarca megabayt). Bu desen, katılımcıların tüm ağırlıkları ince ayarlamanın tam maliyetini üstlenmeden modelleri özelleştirmek isteyebileceği merkeziyetsiz AI ile özellikle ilgilidir.

Dağıtık ve federatif eğitim

Dağıtık eğitim, iş yükünü ya veriyi bölerek (veri paralelliği) ya da modelin kendisini bölerek (model paralelliği) birden fazla GPU veya düğüme dağıtır. Federatif eğitim daha ileri gider: veri her katılımcının cihazında kalır ve yalnızca model güncellemeleri (gradyanlar) paylaşılır. Model, hiçbir taraf tüm veriye erişmeden kolektif olarak gelişir. Bu desen, merkeziyetsizlik ilkeleriyle uyumludur ve AI/Training kategorisindeki projelerde görülür.

Tür Maliyet Kripto AI'da tipik kullanım
Ön eğitim Çok yüksek (milyonlarca dolar) Nadir; çoğu proje mevcut modelleri kullanır
İnce ayar Orta (yüzlerce ila binlerce dolar) Yaygın; modelleri kripto alanına uyarlama
RLHF Yüksek (insan değerlendiriciler gerektirir) Nadir; ajan odaklı projelerde görülür
Damıtma Orta Çıkarım için hafif modeller oluşturmakta kullanılır
LoRA / adaptörler Düşük (tek GPU) Büyüyor; kullanıcı başına özelleştirmeyi mümkün kılar
Dağıtık / federatif Değişken Merkeziyetsiz eğitim ağları için temel desen

Eğitim doğrulanabilirlik için neden önemli

Kendi modellerini eğiten bir proje, yalnızca üçüncü taraf bir API çağıran projeden daha derin bir AI yeteneği sergiler. Eğitim, projenin ilgili verilere, hesaplama kaynaklarına ve makine öğrenmesi uzmanlığına erişimi olduğunu ima eder. Ayrıca doğrulanabilir artefaktlar üretir: eğitim günlükleri, kayıp eğrileri, model kontrol noktaları ve kıyaslama sonuçları.

DecAIHub proje kartlarında AI component alanındaki eğitimle ilgili değerler — distributed training, fine-tuning, model training pipeline gibi — projenin önceden hazırlanmış modelleri sunmaktan fazlasını yaptığını gösterir. Training bileşeni sayfası, bu değerlerin pratikte nasıl göründüğünü açıklar.

Eğitim ne gerektirir

Eğitimin uygulanabilir olup olmadığını üç kaynak belirler:

  • Veri — yeterince büyük ve görevle ilgili kaliteli bir veri kümesi. Veri kalitesi, model kalitesini belirler.
  • Hesaplama — GPU'lar veya özel donanım. Daha fazla veri ve daha büyük modeller daha fazla hesaplama gerektirir. Ana maliyet etkeni budur.
  • Uzmanlık — mimarileri seçmek, hiperparametreleri ayarlamak, sonuçları değerlendirmek ve hataları gidermek makine öğrenmesi bilgisi gerektirir.

Eğitim altyapısı sunduğunu iddia eden projeler, üçünün de kanıtını göstermelidir.

Eğitim DecAIHub proje kartlarında nerede görünür

Eğitim, bir DecAIHub proje kartının birden fazla bölümünde yüzeye çıkar:

  • AI component — "distributed training", "fine-tuning" veya "model training pipeline" gibi eğitimle ilgili değerler, projenin yalnızca önceden hazırlanmış modelleri tüketmek yerine aktif olarak model eğittiğini veya model eğitimini desteklediğini gösterir.
  • Category — AI/Training kategorisindeki projeler, özellikle eğitim altyapısı veya hizmetleri sağlamaya odaklanır.
  • Kanıt tablosu — eğitim için Tier-1 kanıt; herkese açık eğitim günlüklerini, kayıp eğrilerini, Hugging Face veya benzeri depolarda yayımlanan model kontrol noktalarını ve yayımlanmış kıyaslama karşılaştırmalarını içerir.
  • ai_score — DecAI Fit algoritması içinde, yayımlanmış kanıtla gerçek eğitimi göstermek ai_score'u yükseltir. Artefaktlar olmadan yalnızca "model eğitiyoruz" demek yükseltmez.

Eğitim tek başına neyi kanıtlamaz

  • Bir modeli eğitmek, modelin iyi olduğu anlamına gelmez. Kıyaslamalar veya değerlendirme olmadan kaliteyi ölçmenin yolu yoktur.
  • Eğitim, modelin kullanımda olduğunu kanıtlamaz. Eğitilmiş ancak çıkarım için hiç dağıtılmamış bir model, kullanıcılar için değer üretmez.
  • Başkasının açık kaynak modeli üzerinde eğitim yapmak geçerlidir; ancak sıfırdan inşa etmek olarak sunulmamalı, açıklanmalıdır.
  • Eğitim, süreç için bir tokenın neden gerekli olduğunu açıklamaz.
  • Fiilen hesaplama katkısı yapan birden fazla bağımsız katılımcıya dair kanıt olmadan "merkeziyetsiz eğitim" iddia etmek doğrulanamaz. Eğitim görevlerinin zincir üstü kayıtlarını, sağlayıcı kayıtlarını veya doğrulanabilir hesaplama günlüklerini arayın.

Eğitim iddialarını değerlendirirken kanıt tablosunu ve Tier-1/2/3 kanıtları kontrol edin.

Karıştırmayın

  • Çıkarım, bir sonraki aşamadır — eğitilmiş modeli yeni veriler üzerinde çalıştırmak. Eğitim modeli üretir; çıkarım onu kullanır.
  • AI bileşeni olarak eğitim, eğitimin DecAIHub proje kartlarında nasıl göründüğünü tanımlar. Bu sayfa ise kavramın kendisini açıklar.
  • AI/Training kategorisi, eğitim altyapısına odaklanan projeleri sınıflandırır. Eğitim kavramı daha geniş bir alana uygulanır.
  • Veri toplama ve etiketleme, eğitimin tükettiği veriyi hazırlar. Birbirleriyle ilişkili ancak ayrı aşamalardır.
  • AI modeli, eğitimin ürettiği artefakttır — öğrenilmiş ağırlıklar kümesi. Eğitim süreçtir; model sonuçtur.

Sık sorulan sorular

AI eğitimi ne kadar sürer?

Modelin boyutuna, veri kümesinin boyutuna ve mevcut donanıma bağlıdır. Küçük bir modelin odaklı bir veri kümesinde ince ayarı, tek bir GPU'da saatler içinde bitebilir. Öncü bir LLM'i sıfırdan ön eğitmek, binlerce GPU'dan oluşan kümelerde haftalar ila aylar sürer. Referans olarak, öncü bir 70B parametreli LLM'i eğitmek, NVIDIA A100 donanımında yaklaşık 1–2 milyon GPU-saati gerektirir. Dağıtık ve federatif eğitim, iş yükünü yayarak duvar saati süresini kısaltabilir; ancak koordinasyon ek yükü getirir.

Ön eğitim ile ince ayar arasındaki fark nedir?

Ön eğitim, bir modele devasa, geniş bir veri kümesinden genel bilgi öğretir — dil yapısını, görsel özellikleri veya istatistiksel desenleri sıfırdan öğrenir. İnce ayar, o önceden eğitilmiş modeli alır ve belirli bir görevde daha iyi performans göstermesi için daha küçük, alana özgü bir veri kümesinde uzmanlaştırır. Ön eğitim pahalıdır ve bir kez yapılır; ince ayar daha ucuzdur ve farklı alanlar için tekrarlanabilir.

Eğitim neden bu kadar pahalı?

Baskın maliyet, hesaplama donanımıdır. Büyük modelleri eğitmek, önemli miktarda elektrik tüketerek kesintisiz çalışan binlerce üst düzey GPU gerektirir. Veri hazırlama, insan etiketlemesi ve uzman mühendislik zamanı ek maliyetler ekler. Tek bir öncü modelin ön eğitimi on milyonlarca dolara mal olabilir. LoRA, damıtma ve ince ayar yoluyla aktarımlı öğrenme gibi teknikler, sıfırdan başlamak yerine mevcut önceden eğitilmiş modelleri yeniden kullanarak maliyetleri çarpıcı biçimde düşürür.

Bir blok zincirinde AI eğitilebilir mi?

Tam bir eğitim döngüsünü doğrudan zincir üstünde çalıştırmak pratik değildir — blok zinciri yürütme ortamları, eğitimin gerektirdiği milyarlarca matris işlemi için fazlasıyla yavaş ve pahalıdır. Ancak blok zincirleri eğitimi koordine edebilir. Merkeziyetsiz eğitim ağları; görevleri atamak, katkıları doğrulamak, ödülleri dağıtmak ve kaynağı kaydetmek için zincir üstü mekanizmalar kullanırken, fiilî hesaplama zincir dışında, katılımcı GPU'larda gerçekleşir. Bu desen, AI/Training kategorisindeki projelerde görülür.

RLHF nedir?

İnsan geri bildiriminden pekiştirmeli öğrenme, bir modelin davranışını insan tercihleriyle hizalayan bir eğitim sonrası tekniktir. İlk eğitimden sonra insan değerlendiriciler modelin çıktılarını sıralar. Bu sıralamalar bir ödül modeli eğitir; ödül modeli de ana modelin pekiştirmeli öğrenme yoluyla daha fazla optimize edilmesini yönlendirir. RLHF, modern chatbot'ların ham istatistiksel tamamlamalar yerine talimatları izlemesini ve yararlı, güvenli yanıtlar üretmesini sağlayan şeydir.

Ayrıca bakınız

Dış kaynaklar

No comments to display

Back to top