Filtra per la tua RAM
Inserisci RAM, processore e GPU per ottenere una stima indicativa di memoria e velocità. I risultati non sono benchmark: controlla il modello, la quantizzazione, il contesto e la memoria libera sul tuo PC. Il calcolo avviene nel browser.
Guida rapida: quale scegliere
Se non vuoi leggere tutto, questa è la parte che ti serve. Cinque righe, una per livello di hardware.
| Il tuo PC | RAM | Scegli questo | Perché |
|---|---|---|---|
| PC con memoria molto limitata | 2 GB | Esempio: modello 0,5-1B | La compatibilità del runtime e il contesto possono rendere il carico non pratico. |
| PC con 4 GB | 4 GB | Esempio: modello 1-2B | Lascia memoria per sistema, runtime e contesto; i risultati dipendono anche dalle istruzioni CPU. |
| PC con 8 GB | 8 GB | Esempio: modello 3-8B | Un 7-8B Q4 può essere al limite; verifica memoria libera e runtime. |
| PC con 16 GB | 16 GB | Esempio: modello 7-14B | La memoria richiesta cambia con pesi, quantizzazione e contesto. |
| PC con molta RAM o GPU | variabile | Modello più grande compatibile | Controlla memoria, licenza, runtime e qualità sul tuo compito. |
| Con GPU dedicata | VRAM variabile | Modello supportato dal backend | La VRAM limita i pesi caricabili; velocità e compatibilità dipendono dalla scheda e dal runtime. |
La regola dei due limiti
Valuta se il modello entra in memoria e se la velocità è adeguata al tuo uso. La tabella offre solo esempi: i requisiti e il throughput dipendono da file, runtime, CPU/GPU, contesto e applicazioni aperte.
La quantizzazione spiegata
È il concetto che rende l'AI locale possibile su PC normali. Se lo capisci, capisci anche perché esistono file da 0,4 GB e da 40 GB con lo stesso modello.
Un modello conserva i suoi «pesi» con un formato numerico scelto durante la pubblicazione. Quantizzare riduce la memoria occupata, ma può cambiare la qualità in modo diverso in base al modello, al formato e al compito. Le dimensioni effettive variano anche tra file dello stesso modello.
| Formato | Bit per peso | Dimensione di un 7B | Qualità | Quando usarlo |
|---|---|---|---|---|
| Q8_0 | 8 | varia | Riduce meno la precisione, ma non è identico in ogni test | Se la memoria disponibile lo consente |
| Q6_K | 6 | varia | Compromesso di memoria e precisione | Con margine per contesto e sistema |
| Q5_K_M | 5 | varia | Compromesso intermedio; qualità dipendente dal modello | Confronta sul compito desiderato |
| Q4_K_M | 4 | varia | Scelta comune per ridurre la memoria; la perdita varia | Valuta memoria e qualità nel tuo uso |
| Q3_K_M | 3 | varia | Più compatto, con possibili penalità maggiori | Prova se i formati più grandi non entrano |
| Q2_K | 2 | varia | Formato più compresso, qualità potenzialmente inferiore | Confronta prima di sceglierlo |
Dimensione e precisione sono compromessi diversi
Un modello più grande può ottenere risultati migliori in alcuni compiti, ma non è una regola universale. La quantizzazione può incidere in modo diverso su codice, lingua, ragionamento e altri test. Confronta versioni specifiche sul tuo uso invece di scegliere solo in base ai parametri o ai bit.
Dimensione del modello: cosa cambia davvero
Una taglia maggiore richiede in genere più memoria, ma qualità e velocità dipendono dal modello, dalla quantizzazione, dal compito e dall’hardware.
| Taglia | File Q4 indicativo | RAM indicativa | Velocità | Uso |
|---|---|---|---|---|
| 0,5-1B | circa 0,5-1 GB | superiore al file | Dipende dall'hardware | Compiti brevi e semplici |
| 2-3B | circa 1,5-2,5 GB | superiore al file | Dipende dall'hardware | Uso generale leggero |
| 4B | circa 2,5-4 GB | file + contesto | Dipende dall'hardware | Uso generale; verifica qualità e lingua |
| 7-8B | circa 4-6 GB | file + contesto | Dipende dall'hardware | Può essere al limite su PC con 8 GB totali |
| 12-14B | circa 8-11 GB | più del file | Dipende dall'hardware | Considera sistema, contesto e margine |
| 24-32B | circa 15-22 GB | più del file | Dipende dall'hardware | Serve memoria adeguata; alcuni modelli sono MoE |
| 70B | circa 40 GB o più | molto più del file | Dipende dall'hardware | Richiede molta memoria; 24 GB VRAM non bastano per tutti i pesi |
La taglia condiziona memoria e tempi
La generazione richiede lavoro ripetuto sui pesi e sui dati del contesto, quindi modelli più grandi tendono a richiedere più memoria e tempo. Il throughput reale dipende da banda, CPU/GPU, backend, quantizzazione e lunghezza del contesto: non si può dedurre con precisione dalla sola taglia.
Modelli per compiti specifici
Un modello specializzato può essere più adatto a un compito, ma la qualità dipende dalla versione e dalla richiesta. Prova il modello sul lavoro che vuoi svolgere.
Qwen2.5-Coder 7B
Famiglia orientata alla programmazione. Le varianti e le quantizzazioni disponibili cambiano; confronta la scheda del modello con il tuo compito e il runtime.
DeepSeek-R1-Distill-Qwen-7B
Una variante distillata della famiglia DeepSeek-R1. La qualità varia per compito e versione; controlla requisiti e comportamento del modello prima di usarlo.
Qwen2.5 7B Instruct
Modello instruct della famiglia Qwen. Può essere usato per testo e scrittura; confronta la qualità in italiano con richieste rappresentative del tuo caso.
Gemma 3 4B
Variante multimodale che può elaborare immagini con un runtime compatibile. Verifica dimensione, memoria, backend e modalità di trattamento dei dati dell’applicazione.
Qwen3 30B-A3B
Modello MoE con circa 3 miliardi di parametri attivi per token. Per caricarlo servono comunque memoria per i pesi complessivi, il runtime e il contesto; velocità e qualità dipendono da hardware, quantizzazione e backend. Non è una scelta universale: verifica il fabbisogno della variante precisa.
Granite 3.3 2B Instruct
Variante instruct della famiglia Granite. Caratteristiche, formati e condizioni d’uso vanno controllati nella scheda e nella licenza dello specifico artefatto.
Tabella completa
Tutti i modelli del catalogo con i dati tecnici. La soglia CPU è un indice interno euristico, non un requisito del produttore né una misura di velocità garantita.
| Modello | Compito | Parametri | File Q4 | RAM | Soglia CPU stimata | Perché sceglierlo |
|---|
Licenze e uso commerciale
La licenza può variare fra famiglie, versioni e file distribuiti da terzi. Per un uso commerciale controlla i termini associati allo specifico modello e alla specifica quantizzazione, inclusi eventuali obblighi e restrizioni.
Controlla la fonte del file che scarichi
La scheda del modello deve indicare autore, licenza, condizioni d’uso e provenienza. Non dedurre la licenza dal solo nome della famiglia o dall’app usata per scaricarlo. Se l’impiego è rilevante per un’attività, conserva una copia dei termini applicabili e chiedi consulenza qualificata quando necessario.
Domande frequenti
Qual è il modello migliore per 8 GB di RAM?
Con 8 GB totali la memoria libera dipende da sistema, applicazioni e contesto. Modelli quantizzati piccoli o medi sono un punto di partenza; alcuni 7-8B possono essere al limite. Gli esempi nel catalogo non sono una classifica aggiornata: verifica file, runtime e requisiti prima del download.
Che differenza c'è fra un 7B e un 14B?
Il risultato varia con modello e compito: più parametri non garantiscono una risposta migliore. Un 14B quantizzato richiede in genere più memoria di un 7B; considera anche contesto, runtime e sistema operativo. Controlla la dimensione effettiva e lascia spazio aggiuntivo.
Cos'è la quantizzazione Q4_K_M e serve davvero?
La quantizzazione riduce la memoria occupata dai pesi rispetto a precisioni più alte. Q4_K_M è un compromesso comune, ma l'impatto sulla qualità varia per modello e compito; confronta la variante specifica. Formati più compressi richiedono meno memoria ma possono degradare maggiormente alcune capacità.
Un modello più grande dà sempre risultati migliori?
No. Dimensione, qualità e velocità non hanno una relazione semplice: il risultato dipende da modello, compito, quantizzazione e hardware. Più parametri aumentano spesso memoria e tempi, ma la qualità va valutata sul tuo caso d’uso.
Quale modello parla meglio in italiano?
Non c'è un vincitore universale: lingua, versione, prompt e compito cambiano i risultati. Qwen, Llama, Gemma e altre famiglie hanno varianti instruct che possono rispondere in italiano; prova le versioni disponibili con le tue richieste.
Come libero memoria per un modello più grande?
Chiudi applicazioni non necessarie, riduci il contesto e scegli una quantizzazione più leggera se disponibile. Un sistema operativo leggero può aiutare, ma non garantisce che un modello entri: considera cache, buffer e memoria libera reale.
Dove li scarico?
Da Hugging Face, che è il magazzino di riferimento, oppure direttamente da LM Studio o con un comando di Ollama. Il configuratore di LM Studio indica quale formato scaricare per il tuo hardware; se preferisci il terminale e vuoi servire modelli ad altri programmi, la guida è nella pagina Ollama vs LM Studio.