Skip to main content

Che cos'è il training

Nota: Questo documento è una traduzione automatica della versione originale in inglese.

Che cos'è il training

Il training (addestramento) è il processo con cui si insegna a un modello AI esponendolo a dati affinché apprenda pattern, relazioni e strutture. Prima del training, un modello è una struttura vuota con parametri casuali — non può classificare immagini, generare frasi o fare previsioni. Dopo il training, quei parametri codificano la conoscenza estratta dai dati. Il training è ciò che trasforma una rete neurale vuota in uno strumento utile.

Pensalo come insegnare a qualcuno a cucinare. Parti da una persona che non ha mai tenuto in mano un coltello. Le dai migliaia di ricette (il dataset), una cucina dove esercitarsi (il calcolo) e uno chef che assaggia ogni piatto e dice cosa è andato storto (la loss function). Dopo abbastanza pratica — pietanze bruciate, zuppe troppo salate, tecnica aggiustata — il cuoco sa improvvisare un piatto da ingredienti che non ha mai combinato prima. Quell'improvvisazione è ciò che un modello addestrato fa durante l'inferenza.

In sintesi: il training è la fase di «studio» — il modello legge milioni di esempi e si aggiusta finché non riesce a gestire input nuovi e mai visti. Il modello addestrato è la conoscenza acquisita.

Come funziona il training passo dopo passo

Sebbene gli utenti finali vedano solo un modello finito, il training è una pipeline ingegneristica a più stadi. Ogni stadio introduce decisioni che influenzano il risultato finale.

Raccolta dei dati

Ogni run di training inizia con i dati. Il progetto deve assemblare un dataset rilevante per il task che il modello dovrà svolgere. Per un modello testuale, potrebbe essere un corpus di linguaggio naturale su scala web. Per un modello specifico per il crypto, potrebbe includere cronologie di transazioni blockchain, documentazione di protocolli o dati di sentiment social. La qualità, la dimensione e la rilevanza del dataset fissano il limite superiore di ciò che il modello può imparare — nessuna architettura può compensare dati mancanti o corrotti.

Preprocessing dei dati

I dati grezzi sono raramente utilizzabili così come sono. Il preprocessing li trasforma in un formato uniforme che il modello può ingerire. I passaggi comuni includono la tokenizzazione (suddividere il testo in unità sub-word), la normalizzazione (scalare i valori numerici), la deduplicazione (rimuovere record quasi identici) e il filtraggio (rimuovere esempi di bassa qualità, offensivi o irrilevanti). Dati mal preprocessati introducono rumore che il modello può memorizzare anziché imparare.

Selezione dell'architettura

Prima che il training inizi, gli ingegneri scelgono un'architettura del modello — il progetto che definisce come i dati fluiscono attraverso il modello. Per i task testuali, l'architettura dominante oggi è il transformer, che alimenta i large language model. Per i task su immagini, sono comuni le reti neurali convoluzionali (CNN) e i vision transformer (ViT). L'architettura determina il numero e il tipo di layer, come viene calcolata l'attention e come la capacità del modello scala con le dimensioni. Molti progetti crypto AI saltano questo passo adottando un'architettura open-source esistente (DeepSeek, Mistral, Stable Diffusion) e procedendo direttamente al fine-tuning.

Ciclo di training

Il ciclo di training è il ciclo di ottimizzazione centrale che gira per ore, giorni o settimane:

  1. Il modello riceve un batch di dati preprocessati.
  2. Produce un output — una previsione, un token generato, una classificazione.
  3. L'output viene confrontato con il risultato atteso usando una loss function, che calcola l'errore.
  4. Un algoritmo di ottimizzazione (tipicamente una variante della discesa stocastica del gradiente) calcola come ogni parametro dovrebbe cambiare per ridurre l'errore.
  5. I parametri interni del modello (i pesi) vengono aggiustati leggermente nella direzione che abbassa la loss.
  6. Il ciclo si ripete per il batch successivo.

Un passaggio completo sull'intero dataset si chiama epoca. I modelli grandi possono allenarsi per centinaia di epoche su dataset enormi. Il ciclo di training è lo stadio più intensivo dal punto di vista computazionale — un singolo run di pre-training di un large language model può consumare migliaia di GPU in funzione continua per mesi.

Valutazione

Durante il training, gli ingegneri valutano periodicamente il modello su un validation set tenuto da parte — dati che il modello non ha mai visto durante il training. Questo rivela se il modello sta davvero imparando pattern generalizzabili o sta solo memorizzando gli esempi di training (un problema chiamato overfitting). La valutazione usa benchmark e metriche di qualità appropriati al task: perplexity per i modelli linguistici, accuracy o F1 per i classificatori, BLEU o ROUGE per traduzione e riassunto.

Deployment

Una volta che un modello raggiunge una qualità accettabile sulle metriche di valutazione, viene impacchettato per la produzione. Questo può comportare la conversione del modello in un formato più efficiente, l'applicazione della quantizzazione (riduzione della precisione numerica per tagliare i requisiti di memoria e calcolo) e il deployment in una pipeline di inferenza. Il modello addestrato — la collezione di pesi appresi — è l'artefatto che serve effettivamente gli utenti.

Stadio Cosa succede Esempio
Raccolta dei dati Assemblare un dataset rilevante Raccogliere testo web, codice, dati blockchain
Preprocessing Pulire e formattare i dati Tokenizzare il testo, rimuovere i duplicati
Selezione dell'architettura Scegliere il progetto del modello Selezionare un transformer da 7B parametri
Ciclo di training Ottimizzare i pesi via discesa del gradiente Girare per 200 epoche su 1024 GPU
Valutazione Testare su dati mai visti Misurare la perplexity sul validation set
Deployment Impacchettare il modello per la produzione Quantizzare i pesi, effettuare il deploy su API

Tipi di training

Non tutto il training è uguale. Tipi diversi servono scopi diversi e compaiono in fasi diverse del ciclo di vita dell'AI.

Pre-training

Il pre-training significa addestrare un modello da zero su un dataset massiccio e generalista. L'obiettivo è apprendere pattern ampi — struttura del linguaggio, caratteristiche visive, regolarità statistiche — anziché conoscenza specifica di un task. Il pre-training è di gran lunga lo stadio più costoso. Addestrare un LLM di frontiera da zero può costare decine di milioni di dollari e richiedere migliaia di GPU di fascia alta in funzione per mesi. Pochissimi progetti crypto AI lo fanno; la stragrande maggioranza usa modelli pre-addestrati dall'ecosistema open-source e li adatta.

Fine-tuning

Il fine-tuning prende un modello pre-addestrato e lo aggiusta su un dataset più piccolo e specifico di dominio. È l'approccio più comune nel crypto AI. Un progetto potrebbe fare fine-tuning di un LLM su documentazione blockchain, codice di smart contract o dati di protocolli DeFi per migliorarne le prestazioni su domande specifiche del crypto. Il fine-tuning è molto più economico del pre-training perché parte da un modello già capace e deve solo spostare i pesi anziché imparare da zero.

Reinforcement learning from human feedback (RLHF)

L'RLHF è una tecnica post-training usata per allineare gli output di un modello alle preferenze umane. Dopo il pre-training e il fine-tuning iniziale, valutatori umani classificano più output del modello per lo stesso input. Queste classifiche addestrano un reward model, che poi guida l'ulteriore training del modello principale tramite reinforcement learning. L'RLHF è la tecnica che fa sì che i chatbot seguano le istruzioni, evitino contenuti dannosi e producano risposte che gli umani trovano utili. Aggiunge un livello di giudizio umano sopra l'apprendimento puramente statistico.

Knowledge distillation

La distillazione addestra un modello «studente» più piccolo a riprodurre gli output di un modello «insegnante» più grande. Lo studente impara non dai dati originali ma dalle previsioni dell'insegnante, che contengono informazioni più ricche (distribuzioni di probabilità morbide anziché etichette rigide). La distillazione è pratica per i progetti che devono eseguire modelli su hardware limitato — come dispositivi edge o reti di inferenza decentralizzate con vincoli di costo — preservando la maggior parte della qualità del modello insegnante.

Fine-tuning efficiente in parametri (LoRA e adapter)

LoRA (Low-Rank Adaptation) e tecniche simili congelano la maggior parte dei pesi del modello pre-addestrato e addestrano solo un piccolo insieme di parametri aggiuntivi. Questo rende il fine-tuning drasticamente più economico in calcolo e memoria — spesso possibile su una singola GPU consumer. Gli adapter LoRA sono file leggeri (spesso solo decine di megabyte) che possono essere caricati sopra un modello base per personalizzarne il comportamento per un task specifico. Questo pattern è particolarmente rilevante per l'AI decentralizzata, dove i partecipanti possono voler personalizzare i modelli senza sostenere il costo completo del fine-tuning di tutti i pesi.

Training distribuito e federato

Il training distribuito suddivide il carico di lavoro tra più GPU o nodi, dividendo i dati (data parallelism) o il modello stesso (model parallelism). Il training federato va oltre: i dati restano sul dispositivo di ciascun partecipante e solo gli aggiornamenti del modello (i gradienti) vengono condivisi. Il modello migliora collettivamente senza che alcuna singola parte acceda a tutti i dati. Questo pattern si allinea ai principi di decentralizzazione e compare nei progetti della categoria AI/Training.

Tipo Costo Uso tipico nel crypto AI
Pre-training Molto alto (milioni di dollari) Raro; la maggior parte dei progetti usa modelli esistenti
Fine-tuning Moderato (da centinaia a migliaia di dollari) Comune; adattamento dei modelli al dominio crypto
RLHF Alto (richiede valutatori umani) Poco comune; visto in progetti orientati agli agenti
Distillazione Moderato Usata per creare modelli leggeri per l'inferenza
LoRA / adapter Basso (singola GPU) In crescita; abilita la personalizzazione per utente
Distribuito / federato Variabile Pattern centrale per le reti di training decentralizzate

Perché il training conta per la verificabilità

Un progetto che addestra i propri modelli dimostra una capacità AI più profonda di uno che si limita a chiamare un'API di terze parti. Il training implica che il progetto abbia accesso a dati rilevanti, risorse di calcolo e competenza in machine learning. Produce anche artefatti verificabili: log di training, curve di loss, checkpoint dei modelli e risultati di benchmark.

Nelle schede progetto di DecAIHub, i valori legati al training nel campo AI component — come distributed training, fine-tuning, model training pipeline — indicano che il progetto fa più che servire modelli pre-costruiti. La pagina sul training come componente descrive come questi valori compaiono nella pratica.

Cosa richiede il training

Tre risorse determinano se il training è fattibile:

  • Dati — un dataset di qualità, abbastanza grande e rilevante per il task. La qualità dei dati determina la qualità del modello.
  • Calcolo — GPU o hardware specializzato. Più dati e modelli più grandi richiedono più calcolo. È il principale fattore di costo.
  • Competenza — scegliere le architetture, regolare gli iperparametri, valutare i risultati e fare debug dei fallimenti richiede conoscenza di machine learning.

I progetti che dichiarano di offrire infrastruttura di training dovrebbero mostrare evidenze di tutte e tre.

Dove compare il training nelle schede progetto di DecAIHub

Il training emerge in più parti di una scheda progetto DecAIHub:

  • AI component — valori legati al training come «distributed training», «fine-tuning» o «model training pipeline» indicano che il progetto addestra attivamente o supporta il training dei modelli anziché limitarsi a consumare modelli pre-costruiti.
  • Category — i progetti nella categoria AI/Training si concentrano specificamente sul fornire infrastruttura o servizi di training.
  • Tabella delle evidenze — le evidenze Tier-1 per il training includono log di training pubblici, curve di loss, checkpoint dei modelli rilasciati su Hugging Face o repository simili, e confronti di benchmark pubblicati.
  • ai_score — all'interno dell'algoritmo DecAI Fit, dimostrare training reale con evidenze pubblicate alza l'ai_score. Dichiarare semplicemente «addestriamo modelli» senza artefatti non lo fa.

Cosa il training da solo non dimostra

  • Addestrare un modello non significa che il modello sia buono. Senza benchmark o valutazione, non c'è modo di stimarne la qualità.
  • Il training non dimostra che il modello sia in uso. Un modello addestrato ma mai deployato per l'inferenza non produce valore per gli utenti.
  • Fare training sul modello open-source di qualcun altro è legittimo ma dovrebbe essere dichiarato, non presentato come costruzione da zero.
  • Il training non spiega perché un token sia necessario per il processo.
  • Dichiarare «training decentralizzato» senza evidenze di più partecipanti indipendenti che contribuiscono effettivamente con calcolo è non verificabile. Cerca record on-chain di task di training, registrazioni dei provider o log di calcolo verificabili.

Verifica la tabella delle evidenze e le evidenze Tier-1/2/3 quando valuti dichiarazioni sul training.

Da non confondere con

  • Inferenza è lo stadio successivo — eseguire il modello addestrato su dati nuovi. Il training produce il modello; l'inferenza lo usa.
  • Il training come componente AI descrive come il training compare nelle schede progetto di DecAIHub. Questa pagina spiega il concetto in sé.
  • Categoria AI/Training classifica i progetti focalizzati sull'infrastruttura di training. Il concetto di training si applica in modo più ampio.
  • Raccolta ed etichettatura dei dati prepara i dati che il training consuma. Sono fasi correlate ma distinte.
  • Modello AI è l'artefatto prodotto dal training — l'insieme dei pesi appresi. Il training è il processo; il modello è il risultato.

Domande frequenti

Quanto dura il training di un'AI?

Dipende dalle dimensioni del modello, dalle dimensioni del dataset e dall'hardware disponibile. Il fine-tuning di un modello piccolo su un dataset mirato può concludersi in ore su una singola GPU. Il pre-training di un LLM di frontiera da zero richiede da settimane a mesi su cluster di migliaia di GPU. Come riferimento, addestrare un LLM di frontiera da 70B parametri richiede approssimativamente 1–2 milioni di GPU-ora su hardware NVIDIA A100. Il training distribuito e federato può ridurre il tempo effettivo distribuendo il carico ma introduce overhead di coordinamento.

Qual è la differenza tra pre-training e fine-tuning?

Il pre-training insegna a un modello conoscenza generale da un dataset enorme e ampio — apprende la struttura del linguaggio, le caratteristiche visive o i pattern statistici da zero. Il fine-tuning prende quel modello pre-addestrato e lo specializza su un dataset più piccolo e specifico di dominio affinché renda meglio su un task particolare. Il pre-training è costoso e si fa una volta; il fine-tuning è più economico e può essere ripetuto per domini diversi.

Perché il training è così costoso?

Il costo dominante è l'hardware di calcolo. Addestrare modelli grandi richiede migliaia di GPU di fascia alta in funzione continua, con un consumo significativo di elettricità. La preparazione dei dati, l'etichettatura umana e il tempo degli ingegneri esperti aggiungono ulteriori costi. Il pre-training di un singolo modello di frontiera può costare decine di milioni di dollari. Tecniche come LoRA, distillazione e transfer learning via fine-tuning riducono drasticamente i costi riutilizzando modelli pre-addestrati esistenti anziché partire da zero.

Si può addestrare un'AI su una blockchain?

Eseguire un ciclo di training completo direttamente on-chain è impraticabile — gli ambienti di esecuzione blockchain sono troppo lenti e costosi per i miliardi di operazioni matriciali che il training richiede. Tuttavia, le blockchain possono coordinare il training. Le reti di training decentralizzate usano meccanismi on-chain per assegnare task, verificare i contributi, distribuire ricompense e registrare la provenienza, mentre il calcolo effettivo avviene off-chain sulle GPU dei partecipanti. Questo pattern compare nei progetti della categoria AI/Training.

Che cos'è l'RLHF?

Il reinforcement learning from human feedback è una tecnica post-training che allinea il comportamento di un modello alle preferenze umane. Dopo il training iniziale, valutatori umani classificano gli output del modello. Queste classifiche addestrano un reward model, che poi guida l'ulteriore ottimizzazione del modello principale tramite reinforcement learning. L'RLHF è ciò che fa sì che i chatbot moderni seguano le istruzioni e producano risposte utili e sicure anziché completamenti statistici grezzi.

Vedi anche

Riferimenti esterni

No comments to display

Back to top