LLM sta per Large Language Model, in italiano modello linguistico di grandi dimensioni, e indica un modello di intelligenza artificiale progettato per elaborare e generare linguaggio naturale. È un’applicazione del machine learning e, in particolare, delle reti neurali profonde (deep learning), ed è la tecnologia su cui si basano assistenti come ChatGPT, Claude, Gemini e Microsoft 365 Copilot.
L’espressione “grandi dimensioni” si riferisce a due aspetti: la quantità di dati usati per l’addestramento, a partire da grandi raccolte di testi, e il numero di parametri, i valori numerici regolati durante l’addestramento, che nei modelli più diffusi si contano in miliardi.
Ai testi, nei modelli più recenti, si affiancano spesso immagini, audio e video: si parla allora di modelli multimodali, in grado di elaborare anche questi formati.
Come funziona un LLM?
Un LLM elabora i dati scomponendoli in unità chiamate token: nel caso del testo sono parole o parti di parole, nei modelli multimodali anche porzioni di immagini o di audio. Durante l’addestramento impara a prevedere quale token è più probabile che segua quelli precedenti. Quando riceve una richiesta, genera la risposta un token alla volta, sulla base delle probabilità apprese.
Gran parte degli LLM attuali si basa sull’architettura Transformer, presentata nel 2017 da un gruppo di ricercatori in gran parte di Google nello studio Attention Is All You Need. Il suo elemento centrale è il meccanismo di attenzione (self-attention), che permette al modello di valutare le relazioni tra le diverse parti di un testo e di tenere conto, per ogni parola, del contesto in cui compare.
Lo sviluppo di un LLM passa in genere da più fasi successive:
- Preaddestramento: il modello viene esposto a grandi raccolte di dati, a partire dai testi, e impara a prevedere il token successivo, acquisendo le regolarità della lingua e una grande quantità di informazioni;
- Affinamento (fine-tuning): viene addestrato su esempi di istruzioni e risposte, per imparare a seguire le richieste di chi lo usa;
- Allineamento con il feedback umano: alcune persone valutano e confrontano le risposte del modello, e le loro valutazioni guidano un ulteriore addestramento. È la tecnica nota come RLHF (Reinforcement Learning from Human Feedback).
Le tecniche usate in ciascuna fase variano da uno sviluppatore all’altro. La distinzione tra preaddestramento e fasi successive è descritta, per esempio, da OpenAI per i modelli alla base di ChatGPT.
Lo studio di OpenAI su InstructGPT, pubblicato nel 2022, ha mostrato quanto contino queste ultime fasi. I valutatori hanno preferito le risposte di un modello da 1,3 miliardi di parametri addestrato con il feedback umano a quelle di GPT-3, che ne aveva 175 miliardi.
Cosa può fare un LLM e quali sono i suoi limiti?
Un LLM può svolgere compiti molto diversi a partire da richieste espresse in linguaggio naturale (i prompt), che possono includere anche immagini, documenti o audio. Tra questi compiti:
- scrivere, riassumere, tradurre e riformulare testi;
- rispondere a domande e spiegare concetti;
- scrivere, correggere e commentare codice;
- classificare documenti ed estrarre informazioni, anche da immagini e file;
- generare, oltre al testo, anche immagini e audio;
- fare da componente di sistemi più complessi, come gli agenti di intelligenza artificiale, che usano l’LLM per interpretare una richiesta e decidere i passaggi successivi.
La capacità di produrre testi fluenti non garantisce che le informazioni siano corrette. Un LLM può generare allucinazioni, cioè informazioni false presentate come vere. Le informazioni su cui si basa si fermano al momento dell’addestramento, a meno che non venga collegato a fonti aggiornate, per esempio attraverso la ricerca web o la RAG. Può inoltre riprodurre le distorsioni (bias) presenti nei dati di addestramento, come riconosce anche Google per Gemini, e tendere ad assecondare l’utente, un comportamento noto come AI sycophancy. Per questo i risultati vanno verificati, soprattutto quando servono a prendere una decisione o vengono condivisi con altre persone.
Che cosa prevede l’AI Act per gli LLM?
L’AI Act non prevede una categoria specifica per gli LLM. I modelli di questo tipo rientrano generalmente tra i modelli di IA per finalità generali (GPAI), per i quali gli obblighi dei fornitori si applicano dal 2 agosto 2025.
Nelle linee guida pubblicate il 18 luglio 2025, la Commissione europea indica un criterio orientativo: rientrano in questa categoria i modelli addestrati con una potenza di calcolo superiore a 10²³ FLOP e in grado di generare linguaggio. Oltre la soglia di 10²⁵ FLOP si presume che il modello presenti un rischio sistemico, con obblighi aggiuntivi. Il quadro complessivo del Regolamento è spiegato nella FAQ Che cos’è l’AI Act?.
Altre risorse per approfondire
- Attention Is All You Need (arXiv) – Lo studio del 2017 che ha introdotto l’architettura Transformer, alla base di gran parte degli LLM attuali.
- Training language models to follow instructions with human feedback (arXiv) – Lo studio di OpenAI su InstructGPT e sull’addestramento con feedback umano.
- Commissione europea: linee guida per i fornitori di modelli di IA per finalità generali – Criteri e obblighi previsti dall’AI Act per i modelli come gli LLM.
- NIST AI 600-1: Generative Artificial Intelligence Profile – Il profilo di rischio dell’IA generativa pubblicato dall’istituto statunitense per gli standard e la tecnologia.
- OpenAI: How ChatGPT and our foundation models are developed – Come OpenAI sviluppa i modelli alla base di ChatGPT, dal preaddestramento al post-addestramento.
- Anthropic: Mapping the Mind of a Large Language Model – La ricerca di Anthropic sul funzionamento interno di Claude Sonnet, uno dei suoi LLM.
- Google: panoramica dell’app Gemini – Come funziona Gemini e su quali modelli linguistici si basa, con i suoi limiti dichiarati.
- Microsoft: nota di trasparenza su Microsoft 365 Copilot – Come Microsoft 365 Copilot utilizza gli LLM insieme ai dati e alle app di Microsoft 365.
- Google Cloud Skills Boost: Introduction to Large Language Models – Un corso introduttivo gratuito di Google su cosa sono gli LLM e come si usano.