Apakah itu latihan

Nota: Dokumen ini adalah terjemahan automatik daripada versi asal bahasa Inggeris.

Apakah itu latihan

Latihan (training) ialah proses mengajar model AI dengan mendedahkannya kepada data supaya ia mempelajari corak, hubungan dan struktur. Sebelum latihan, model ialah struktur kosong dengan parameter rawak — ia tidak boleh mengelaskan imej, menjana ayat, atau membuat ramalan. Selepas latihan, parameter tersebut mengekod pengetahuan yang diekstrak daripada data. Latihan ialah apa yang mengubah rangkaian neural yang kosong menjadi alat yang berguna.

Bayangkan ia seperti mengajar seseorang memasak. Anda bermula dengan orang yang tidak pernah memegang pisau. Anda memberikan mereka beribu-ribu resipi (dataset), dapur untuk berlatih (pengiraan), dan seorang cef yang merasa setiap hidangan dan memberitahu apa yang salah (fungsi kerugian). Selepas latihan yang mencukupi — masakan hangus, sup terlebih garam, teknik dilaraskan — tukang masak itu boleh mengimprovisasi hidangan daripada bahan-bahan yang tidak pernah mereka gabungkan sebelum ini. Improvisasi itulah yang dilakukan oleh model terlatih semasa inferens.

Ringkasnya: latihan ialah fasa "belajar" — model membaca berjuta-juta contoh dan melaraskan dirinya sehingga ia boleh mengendalikan input baharu yang belum pernah dilihat. Model terlatih ialah pengetahuan yang diperoleh.

Bagaimana latihan berfungsi langkah demi langkah

Walaupun pengguna akhir hanya melihat model yang siap, latihan ialah saluran paip kejuruteraan berbilang peringkat. Setiap peringkat memperkenalkan keputusan yang mempengaruhi hasil akhir.

Pengumpulan data

Setiap larian latihan bermula dengan data. Projek mesti mengumpulkan dataset yang relevan dengan tugas yang akan dilakukan oleh model. Untuk model teks, ini mungkin korpus bahasa semula jadi berskala web. Untuk model khusus kripto, ia mungkin merangkumi sejarah transaksi blockchain, dokumentasi protokol, atau data sentimen sosial. Kualiti, saiz dan keberkaitan dataset menetapkan had atas apa yang boleh dipelajari oleh model — tiada seni bina yang dapat menampung data yang hilang atau rosak.

Prapemprosesan data

Data mentah jarang boleh digunakan begitu sahaja. Prapemprosesan mengubahnya menjadi format seragam yang boleh diterima oleh model. Langkah biasa termasuk pentokenan (memecahkan teks kepada unit sub-perkataan), penormalan (menskala nilai berangka), penyahduplikasian (membuang rekod yang hampir serupa), dan penapisan (membuang contoh berkualiti rendah, menyinggung, atau tidak relevan). Data yang diprapemproseskan dengan buruk memperkenalkan hingar yang mungkin dihafal oleh model dan bukannya dipelajari.

Pemilihan seni bina

Sebelum latihan bermula, jurutera memilih seni bina model — pelan tindak yang mentakrifkan bagaimana data mengalir melalui model. Untuk tugas teks, seni bina dominan hari ini ialah transformer, yang menggerakkan model bahasa besar. Untuk tugas imej, rangkaian neural konvolusi (CNN) dan vision transformer (ViT) adalah biasa. Seni bina menentukan bilangan dan jenis lapisan, bagaimana perhatian dikira, dan bagaimana kapasiti model berskala dengan saiz. Banyak projek AI kripto melangkau langkah ini dengan menerima pakai seni bina sumber terbuka sedia ada (DeepSeek, Mistral, Stable Diffusion) dan terus kepada penalaan halus.

Gelung latihan

Gelung latihan ialah kitaran pengoptimuman teras yang berjalan selama berjam-jam, berhari-hari, atau berminggu-minggu:

Model menerima kelompok data yang telah diprapemproseskan.
Ia menghasilkan output — ramalan, token yang dijana, pengelasan.
Output dibandingkan dengan hasil yang dijangkakan menggunakan fungsi kerugian, yang mengira ralat.
Algoritma pengoptimuman (biasanya varian penurunan kecerunan stokastik) mengira bagaimana setiap parameter harus berubah untuk mengurangkan ralat.
Parameter dalaman model (pemberat) dilaraskan sedikit ke arah yang menurunkan kerugian.
Kitaran berulang untuk kelompok seterusnya.

Satu laluan penuh melalui keseluruhan dataset dipanggil epok. Model besar mungkin berlatih selama ratusan epok pada dataset yang sangat besar. Gelung latihan ialah peringkat yang paling intensif pengiraan — satu larian pralatihan model bahasa besar boleh menggunakan beribu-ribu GPU yang berjalan berterusan selama berbulan-bulan.

Penilaian

Sepanjang latihan, jurutera menilai model secara berkala pada set pengesahan yang diketepikan — data yang tidak pernah dilihat oleh model semasa latihan. Ini mendedahkan sama ada model benar-benar mempelajari corak yang boleh digeneralisasikan atau sekadar menghafal contoh latihan (masalah yang dipanggil pemasangan lampau). Penilaian menggunakan penanda aras dan metrik kualiti yang sesuai dengan tugas: perpleksiti untuk model bahasa, ketepatan atau F1 untuk pengelas, BLEU atau ROUGE untuk terjemahan dan peringkasan.

Penggunaan

Setelah model mencapai kualiti yang boleh diterima pada metrik penilaian, ia dibungkus untuk pengeluaran. Ini mungkin melibatkan penukaran model kepada format yang lebih cekap, penerapan pengkuantuman (mengurangkan ketepatan berangka untuk memotong keperluan memori dan pengiraan), dan penggunaannya ke saluran paip inferens. Model terlatih — koleksi pemberat yang dipelajari — ialah artifak yang benar-benar melayani pengguna.

Peringkat	Apa yang berlaku	Contoh
Pengumpulan data	Kumpulkan dataset yang relevan	Kumpul teks web, kod, data blockchain
Prapemprosesan	Bersih dan formatkan data	Tokenkan teks, buang pendua
Pemilihan seni bina	Pilih pelan tindak model	Pilih transformer dengan 7B parameter
Gelung latihan	Optimumkan pemberat melalui penurunan kecerunan	Jalankan 200 epok pada 1024 GPU
Penilaian	Uji pada data yang belum dilihat	Ukur perpleksiti pada set pengesahan
Penggunaan	Bungkus model untuk pengeluaran	Kuantumkan pemberat, gunakan ke API

Jenis-jenis latihan

Bukan semua latihan adalah sama. Jenis yang berbeza memenuhi tujuan yang berbeza dan muncul pada peringkat kitaran hayat AI yang berbeza.

Pralatihan

Pralatihan bermaksud melatih model dari kosong pada dataset tujuan umum yang sangat besar. Matlamatnya adalah untuk mempelajari corak yang luas — struktur bahasa, ciri visual, keteraturan statistik — dan bukannya pengetahuan khusus tugas. Pralatihan setakat ini adalah peringkat yang paling mahal. Melatih LLM peneraju dari kosong boleh menelan kos berpuluh juta dolar dan memerlukan beribu-ribu GPU mewah yang berjalan selama berbulan-bulan. Sangat sedikit projek AI kripto yang melakukan ini; majoriti besar menggunakan model pralatih daripada ekosistem sumber terbuka dan menyesuaikannya.

Penalaan halus

Penalaan halus mengambil model pralatih dan melaraskannya pada dataset khusus domain yang lebih kecil. Ini adalah pendekatan yang paling biasa dalam AI kripto. Sesebuah projek mungkin menala halus LLM pada dokumentasi blockchain, kod kontrak pintar, atau data protokol DeFi untuk meningkatkan prestasinya pada soalan khusus kripto. Penalaan halus jauh lebih murah daripada pralatihan kerana ia bermula daripada model yang sudah berkebolehan dan hanya perlu mengalihkan pemberat dan bukannya belajar dari sifar.

Pembelajaran pengukuhan daripada maklum balas manusia (RLHF)

RLHF ialah teknik pasca latihan yang digunakan untuk menjajarkan output model dengan keutamaan manusia. Selepas pralatihan dan penalaan halus awal, penilai manusia menarafkan berbilang output model untuk input yang sama. Penarafan ini melatih model ganjaran, yang kemudiannya membimbing latihan lanjut model utama melalui pembelajaran pengukuhan. RLHF ialah teknik yang membuat chatbot mengikut arahan, mengelakkan kandungan berbahaya, dan menghasilkan respons yang dianggap membantu oleh manusia. Ia menambah lapisan pertimbangan manusia di atas pembelajaran statistik semata-mata.

Penyulingan pengetahuan

Penyulingan melatih model "pelajar" yang lebih kecil untuk menghasilkan semula output model "guru" yang lebih besar. Pelajar belajar bukan daripada data asal tetapi daripada ramalan guru, yang mengandungi maklumat yang lebih kaya (taburan kebarangkalian lembut dan bukannya label keras). Penyulingan praktikal untuk projek yang perlu menjalankan model pada perkakasan terhad — seperti peranti pinggir atau rangkaian inferens terdesentralisasi yang terkekang kos — sambil mengekalkan sebahagian besar kualiti model guru.

Penalaan halus cekap parameter (LoRA dan penyesuai)

LoRA (Low-Rank Adaptation) dan teknik serupa membekukan kebanyakan pemberat model pralatih dan hanya melatih set kecil parameter tambahan. Ini menjadikan penalaan halus jauh lebih murah dari segi pengiraan dan memori — sering boleh dilakukan pada satu GPU pengguna. Penyesuai LoRA ialah fail ringan (sering hanya berpuluh megabait) yang boleh dimuatkan di atas model asas untuk menyesuaikan tingkah lakunya bagi tugas tertentu. Corak ini sangat relevan dengan AI terdesentralisasi, di mana peserta mungkin ingin menyesuaikan model tanpa menanggung kos penuh menala halus semua pemberat.

Latihan teragih dan bersekutu

Latihan teragih memecahkan beban kerja merentas berbilang GPU atau nod, sama ada dengan membahagikan data (keselarian data) atau model itu sendiri (keselarian model). Latihan bersekutu melangkah lebih jauh: data kekal pada peranti setiap peserta dan hanya kemas kini model (kecerunan) yang dikongsi. Model bertambah baik secara kolektif tanpa mana-mana pihak tunggal mengakses semua data. Corak ini sejajar dengan prinsip pendesentralisasian dan muncul dalam projek dalam kategori AI/Training.

Jenis	Kos	Penggunaan tipikal dalam AI kripto
Pralatihan	Sangat tinggi (berjuta-juta dolar)	Jarang; kebanyakan projek menggunakan model sedia ada
Penalaan halus	Sederhana (ratusan hingga ribuan dolar)	Biasa; menyesuaikan model kepada domain kripto
RLHF	Tinggi (memerlukan penilai manusia)	Tidak biasa; dilihat dalam projek berorientasikan ejen
Penyulingan	Sederhana	Digunakan untuk mencipta model ringan untuk inferens
LoRA / penyesuai	Rendah (satu GPU)	Berkembang; membolehkan penyesuaian per pengguna
Teragih / bersekutu	Berbeza-beza	Corak teras untuk rangkaian latihan terdesentralisasi

Mengapa latihan penting untuk kebolehsahihan

Projek yang melatih modelnya sendiri menunjukkan keupayaan AI yang lebih mendalam berbanding projek yang hanya memanggil API pihak ketiga. Latihan membayangkan projek itu mempunyai akses kepada data yang relevan, sumber pengiraan, dan kepakaran pembelajaran mesin. Ia juga menghasilkan artifak yang boleh disahkan: log latihan, keluk kerugian, titik semak model, dan keputusan penanda aras.

Dalam kad projek DecAIHub, nilai berkaitan latihan dalam medan AI component — seperti distributed training, fine-tuning, model training pipeline — menunjukkan projek itu melakukan lebih daripada sekadar menyajikan model siap. Halaman komponen latihan menerangkan bagaimana nilai-nilai ini muncul dalam praktik.

Apa yang diperlukan oleh latihan

Tiga sumber menentukan sama ada latihan boleh dilaksanakan:

Data — dataset berkualiti yang cukup besar dan relevan dengan tugas. Kualiti data menentukan kualiti model.
Pengiraan — GPU atau perkakasan khusus. Lebih banyak data dan model yang lebih besar memerlukan lebih banyak pengiraan. Ini adalah pemacu kos utama.
Kepakaran — memilih seni bina, menala hiperparameter, menilai keputusan, dan menyahpepijat kegagalan memerlukan pengetahuan pembelajaran mesin.

Projek yang mendakwa menawarkan infrastruktur latihan harus menunjukkan bukti ketiga-tiganya.

Di mana latihan muncul dalam kad projek DecAIHub

Latihan muncul di beberapa bahagian kad projek DecAIHub:

AI component — nilai berkaitan latihan seperti "distributed training," "fine-tuning," atau "model training pipeline" menunjukkan projek itu melatih secara aktif atau menyokong latihan model dan bukannya hanya menggunakan model siap.
Kategori — projek dalam kategori AI/Training memberi tumpuan khusus kepada penyediaan infrastruktur atau perkhidmatan latihan.
Jadual bukti — bukti Tier-1 untuk latihan merangkumi log latihan awam, keluk kerugian, titik semak model yang dikeluarkan ke Hugging Face atau repositori serupa, dan perbandingan penanda aras yang diterbitkan.
ai_score — dalam algoritma DecAI Fit, menunjukkan latihan sebenar dengan bukti yang diterbitkan menaikkan ai_score. Sekadar mendakwa "kami melatih model" tanpa artifak tidak.

Apa yang tidak dibuktikan oleh latihan semata-mata

Melatih model tidak bermakna model itu bagus. Tanpa penanda aras atau penilaian, tiada cara untuk menilai kualiti.
Latihan tidak membuktikan model itu sedang digunakan. Model yang dilatih tetapi tidak pernah digunakan untuk inferens tidak menghasilkan nilai untuk pengguna.
Melatih di atas model sumber terbuka orang lain adalah sah tetapi harus didedahkan, bukan dipersembahkan sebagai membina dari kosong.
Latihan tidak menerangkan mengapa token diperlukan untuk proses tersebut.
Mendakwa "latihan terdesentralisasi" tanpa bukti berbilang peserta bebas yang benar-benar menyumbangkan pengiraan adalah tidak boleh disahkan. Semak rekod on-chain bagi tugas latihan, pendaftaran penyedia, atau log pengiraan yang boleh disahkan.

Semak jadual bukti dan bukti Tier-1/2/3 apabila menilai dakwaan latihan.

Jangan kelirukan dengan

Inferens ialah peringkat seterusnya — menjalankan model terlatih pada data baharu. Latihan menghasilkan model; inferens menggunakannya.
Latihan sebagai AI component menerangkan bagaimana latihan muncul dalam kad projek DecAIHub. Halaman ini menerangkan konsepnya sendiri.
Kategori AI/Training mengelaskan projek yang memberi tumpuan kepada infrastruktur latihan. Konsep latihan terpakai dengan lebih luas.
Pengumpulan dan pelabelan data menyediakan data yang digunakan oleh latihan. Ia berkaitan tetapi peringkat yang berbeza.
Model AI ialah artifak yang dihasilkan oleh latihan — set pemberat yang dipelajari. Latihan ialah proses; model ialah hasilnya.

Soalan lazim

Berapa lama masa yang diambil untuk latihan AI?

Ia bergantung pada saiz model, saiz dataset dan perkakasan yang tersedia. Menala halus model kecil pada dataset yang tertumpu boleh selesai dalam beberapa jam pada satu GPU. Pralatihan LLM peneraju dari kosong mengambil masa berminggu-minggu hingga berbulan-bulan pada kluster beribu-ribu GPU. Sebagai rujukan, melatih LLM peneraju 70B parameter memerlukan kira-kira 1–2 juta jam GPU pada perkakasan NVIDIA A100. Latihan teragih dan bersekutu boleh mengurangkan masa jam dinding dengan mengagihkan beban kerja tetapi memperkenalkan overhed penyelarasan.

Apakah perbezaan antara pralatihan dan penalaan halus?

Pralatihan mengajar model pengetahuan umum daripada dataset yang sangat besar dan luas — ia mempelajari struktur bahasa, ciri visual, atau corak statistik dari kosong. Penalaan halus mengambil model pralatih itu dan mengkhususkannya pada dataset khusus domain yang lebih kecil supaya ia berprestasi lebih baik pada tugas tertentu. Pralatihan mahal dan dilakukan sekali; penalaan halus lebih murah dan boleh diulang untuk domain yang berbeza.

Mengapa latihan begitu mahal?

Kos dominan ialah perkakasan pengiraan. Melatih model besar memerlukan beribu-ribu GPU mewah yang berjalan berterusan, menggunakan elektrik yang banyak. Penyediaan data, pelabelan manusia dan masa kejuruteraan pakar menambah kos selanjutnya. Pralatihan satu model peneraju boleh menelan kos berpuluh juta dolar. Teknik seperti LoRA, penyulingan dan pembelajaran pemindahan melalui penalaan halus mengurangkan kos secara dramatik dengan menggunakan semula model pralatih sedia ada dan bukannya bermula dari sifar.

Bolehkah anda melatih AI di atas blockchain?

Menjalankan gelung latihan penuh secara langsung on-chain adalah tidak praktikal — persekitaran pelaksanaan blockchain terlalu perlahan dan mahal untuk berbilion operasi matriks yang diperlukan oleh latihan. Walau bagaimanapun, blockchain boleh menyelaraskan latihan. Rangkaian latihan terdesentralisasi menggunakan mekanisme on-chain untuk menetapkan tugas, mengesahkan sumbangan, mengagihkan ganjaran, dan merekodkan provenans, manakala pengiraan sebenar berlaku di luar rantaian pada GPU yang menyertai. Corak ini muncul dalam projek dalam kategori AI/Training.

Apakah itu RLHF?

Pembelajaran pengukuhan daripada maklum balas manusia ialah teknik pasca latihan yang menjajarkan tingkah laku model dengan keutamaan manusia. Selepas latihan awal, penilai manusia menarafkan output model. Penarafan ini melatih model ganjaran, yang kemudiannya membimbing pengoptimuman lanjut model utama melalui pembelajaran pengukuhan. RLHF ialah apa yang membuat chatbot moden mengikut arahan dan menghasilkan respons yang membantu dan selamat dan bukannya pelengkapan statistik mentah.

Lihat juga

Rujukan luaran

Hugging Face -- Training documentation -- panduan dan contoh untuk melatih dan menala halus model transformer menggunakan pustaka sumber terbuka yang popular.
Stanford HAI -- AI Index Report -- data tahunan tentang kos latihan, trend pengiraan dan keadaan pembangunan AI di seluruh dunia.
Papers With Code -- Training methods -- katalog teknik latihan dengan kertas berpaut dan keputusan penanda aras.
Google AI Blog -- Training at scale -- kiriman penyelidikan yang merangkumi latihan berskala besar, sistem teragih dan peningkatan kecekapan.
Wikipedia -- Training, validation, and test data sets -- penerangan asas tentang pembahagian data dan peranannya dalam proses latihan.