Ollama vs LM Studio: quale dei due sul tuo PC datato

Confronto riga per riga

Nessun vincitore assoluto: cambia in base a quanta memoria hai e a cosa serve. La colonna «su PC datato» è la sola che conta per chi sta qui.

Quale dei due per il tuo PC

Seleziona il tuo hardware e la risposta tiene conto della memoria che hai davvero, non della regola generica.

Installazione passo passo

Passaggi di base e collegamenti alla documentazione ufficiale. I requisiti e le opzioni d’installazione possono cambiare per sistema e versione.

LM Studio

1. Scarica la versione per il tuo sistema da lmstudio.ai/download e controlla i requisiti pubblicati.
2. Installa con le impostazioni predefinite. Al primo avvio scegli la modalità «My Documents» solo se il disco di sistema è quasi pieno: i modelli sono grandi.
3. Cerca un modello adatto alla tua RAM e al tuo uso; la dimensione del download e il tempo dipendono dalla variante e dalla connessione.
4. Nel menu a sinistra apri «Local Server» e premi Start. LM Studio espone un server compatibile con le API di OpenAI su localhost:1234: qualunque programma che accetti un endpoint OpenAI può usarlo.
5. Avvia il modello con un contesto adatto alla memoria disponibile e controlla l’uso di RAM durante una prova.

Ollama

1. Windows o macOS: scarica OllamaSetup.exe da ollama.com/download e installa. Su Windows diventa un'applicazione in background con icona nella barra di stato.
2. Linux: un solo comando, che installa il binario e crea il servizio di sistema:

   curl -fsSL https://ollama.com/install.sh | sh
   sudo systemctl enable --now ollama

3. Scarica e avvia un modello con un comando:

   ollama run qwen2.5:7b

4. Per l'uso quotidiano conviene precaricare il modello senza avviarlo: ollama pull qwen2.5:7b. Così l'avvio successivo è immediato.
5. Elenca i modelli installati con ollama list e cancellane uno che non usi con ollama rm nome-modello: ogni modello occupa gigabyte che non tornano indietro.

Usare Ollama dagli altri programmi

È la ragione principale per cui si sceglie Ollama: un modello in locale diventa utilizzabile da qualsiasi programma, anche scritto in qualsiasi linguaggio, senza account né costi.

Il comando minimo

Ollama ascolta sulla porta 11434 dell'indirizzo localhost. La richiesta più semplice si fa con curl:

curl http://localhost:11434/api/chat \
  -d '{
    "model": "qwen2.5:7b",
    "messages": [{"role": "user", "content": "Riassumi il teorema di Bayes in tre righe"}],
    "stream": false
  }'

Con "stream": false ricevi un unico blocco JSON quando il modello ha finito. Con true, che è ildefault, ricevi un pezzo di risposta alla volta, esattamente come in una chat: per un'interfaccia web è quello che ti serve.

Endpoint compatibili con OpenAI

Ollama espone anche un percorso /v1 compatibile con alcune API OpenAI. Verifica i parametri supportati dal tuo programma e non esporre la porta in Internet: limita l’accesso alla rete locale fidata o aggiungi un livello di autenticazione adeguato.

Esempio in Python

Con la libreria ufficiale ollama la richiesta è di tre righe:

import ollama

risposta = ollama.chat(
    model="qwen2.5:7b",
    messages=[{"role": "user", "content": "Ciao, chi sei?"}]
)
print(risposta["message"]["content"])

Confermare che funziona

Il test più rapido per capire se il servizio è attivo, con un comando che funziona su Windows, Linux e macOS:

curl http://localhost:11434/api/tags

Se risponde con un JSON che elenca i modelli che hai scaricato, tutto è in ordine. Se ricevi un errore di connessione, il servizio non è in esecuzione: su Linux controlla con systemctl status ollama.

Un modello, due PC

Su una casa con più computer, il PC vecchio non serve a girare modelli: serve a fare da server per gli altri. È un uso che funziona anche su hardware del 2012.

Ollama è pensato per questo: basta esporlo sulla rete locale e ogni PC della casa potrà chiedergli risposte. Il modello gira una volta sola, su una sola macchina, e gli altri ne approfittano.

1. Scegli la macchina che ospita il modello. Meglio un mini PC o un portatile con 16 GB e una GPU anche modesta: la GPU serve perché l'inferenza è legata alla banda di memoria.
2. Rendilo raggiungibile dagli altri PC. Su macOS e Windows l'impostazione è nelle opzioni dell'applicazione. Su Linux, in via di principio per localhost, devi esporlo esplicitamente:

   sudo systemctl edit ollama
   
   [Service]
   Environment="OLLAMA_HOST=0.0.0.0:11434"

   poi sudo systemctl daemon-reload && sudo systemctl restart ollama.
3. Apri la porta nel firewall solo sulla rete locale, mai su Internet:

   sudo ufw allow from 192.168.1.0/24 to any port 11434

4. Dai agli altri PC l'indirizzo della macchina che ospita: se il suo IP è 192.168.1.50, gli altri programmi useranno http://192.168.1.50:11434/v1.

Problemi frequenti

Quattro errori che si incontrano quasi sempre, con la causa vera e la soluzione.

Domande frequenti