Il Suo ChatGPT personale, offline: l’intelligenza artificiale senza il cloud sul Suo portatile

Ogni volta che ponete una domanda a ChatGPT o a un altro servizio cloud, il vostro input lascia il vostro computer. Finisce sui server del fornitore, dove viene elaborato e, a seconda del servizio e delle vostre impostazioni, può anche essere archiviato o utilizzato per l’addestramento. Per la maggior parte delle domande, ciò non ha importanza. Tuttavia, quando si tratta di informazioni sensibili, documenti interni o semplicemente per una questione di principio, potreste preferire che ciò non avvenga. La buona notizia è che potete far funzionare un’intelligenza artificiale di chat completamente offline sul vostro portatile. Nessun account, nessun abbonamento, nessun cloud. Entro il 2026, non avrete nemmeno bisogno di un computer ad alte prestazioni per farlo.

Perché eseguirlo in locale?

La ragione principale è l e tutela della privacy dei dati, ed è più tangibile rispetto a qualsiasi servizio cloud. Quando il modello gira sul vostro dispositivo, non vi è alcuna intercettazione da parte dei server, nessun termine di servizio che potrebbe cambiare da un giorno all’altro e nessuna violazione dei dati presso un fornitore che possa riguardarvi. I vostri input rimangono privati perché, tecnicamente, non possono uscire dal vostro dispositivo. Inoltre: non costa nulla se non l’elettricità, funziona senza connessione a Internet e la risposta è spesso più rapida senza dover passare attraverso il cloud. È necessario, tuttavia, essere onesti riguardo ai suoi limiti. Un modello locale non è intelligente quanto i modelli di punta basati sul cloud di OpenAI o Google e raggiunge i propri limiti più rapidamente quando si tratta di documenti molto lunghi. Ma per le attività quotidiane che coinvolgono testi, sintesi, traduzioni e codice, offre prestazioni sorprendentemente buone.

Cosa serve al Suo portatile per questo

Il fattore chiave non è il processore, ma la RAM e, se disponibile, la memoria grafica. Ed è proprio qui che molte regole empiriche risultano fuorvianti: un modello da 8 miliardi di parametri semplicemente non funzionerà con 8 GB di RAM. Senza una scheda grafica, il modello condivide la RAM con Windows e i programmi in esecuzione, e da 4 a 6 GB di questa memoria vengono rapidamente esauriti prima ancora che il modello venga caricato. In realtà, un modello di questo tipo necessita quindi di circa 16 GB di RAM. Con una scheda grafica, il problema è meno rilevante poiché il modello risiede nella memoria della scheda grafica, lasciando libera la RAM di sistema. In sintesi: 8 GB sono sufficienti solo per i modelli più piccoli; la memoria diventa realmente utilizzabile a partire da 16 GB, e una scheda grafica o un moderno chip NPU garantiscono notevoli miglioramenti in termini di prestazioni. I Mac con chip Apple rappresentano un caso particolare. Su questi sistemi, il processore e la scheda grafica condividono la stessa memoria: si tratta della cosiddetta memoria unificata. Ciò significa che quasi tutta la RAM può fungere da memoria grafica per il modello. In pratica, i programmi ne riservano circa il 70% per impostazione predefinita, quindi un Mac con 32 GB ha all’incirca 24 GB disponibili per il modello. Ecco perché i Mac rappresentano spesso la scelta più semplice per l’IA integrata nel dispositivo: un Mac con 64 GB è in grado di gestire modelli che su un PC Windows richiederebbero due costose schede grafiche. È sufficiente acquistare una quantità sufficiente di RAM, anziché preoccuparsi di una scheda grafica separata.

La tabella mostra quali modelli funzionano su quali dispositivi.

I programmi: da dove iniziare

Avete bisogno di due cose: un programma e un modello. Tutti i programmi sono gratuiti e funzionano su Windows, Mac e Linux. LM Studio è il punto di partenza ideale per la maggior parte delle persone: dispone di un’interfaccia grafica, quindi non è necessario utilizzare il terminale; basta selezionare un modello dall’elenco e iniziare a chattare. Sembra quasi una versione locale di ChatGPT. Jan adotta un approccio simile ed è open source. GPT4All è ancora più semplice per effettuare rapidi test. Ollama è la scelta indicata per gli utenti esperti; funziona tramite riga di comando e può essere integrato nei propri programmi, sebbene ciò non sia necessario per iniziare. Dal punto di vista tecnico, utilizzano per lo più la stessa tecnologia, pertanto raramente si riscontrano differenze significative in termini di velocità. La scelta dipenderà principalmente dall’interfaccia utente.

I modelli: quale fa al caso vostro?

Il modello rappresenta essenzialmente il cervello del sistema. Per il tedesco e le attività d’ufficio standard, Qwen3 nella variante 8B o 14B rappresenta un’ottima scelta; parla un tedesco chiaro e funziona su hardware di fascia media. Gemma 3 di Google, nella versione 12B, offre buone prestazioni con 16 GB di RAM o più, mentre Llama 4 Scout è un solido modello versatile. Se il Suo portatile non è particolarmente potente, opti per un modello più piccolo come Phi-4-mini con 3,8 miliardi di parametri, che funziona anche senza una scheda grafica dedicata. Il numero che segue il nome indica la dimensione del modello. A titolo indicativo, con l’impostazione standard Q4, occorrerà mezzo gigabyte di memoria per ogni miliardo di parametri. Un modello 8B, ad esempio, richiede circa 5 GB, più un po’ di buffer per il contesto e l’overhead di sistema. Ecco perché anche i modelli più grandi funzionano su hardware standard, ma non su sistemi con la quantità minima assoluta di RAM.

Se il modello non rientra completamente nella scheda grafica

Cosa succede se il modello che desiderate è leggermente più grande della memoria grafica? Non dovete rinunciare. I programmi possono suddividere il modello in modo che una parte di esso venga eseguita sulla scheda grafica e il resto nella RAM standard. Questo processo è denominato offloading o GPU offloading. In LM Studio è sufficiente regolare un cursore; in Ollama si tratta di un’impostazione. In questo modo, è possibile eseguire anche un modello che da solo non sarebbe entrato nella memoria della scheda grafica. Il rovescio della medaglia: la parte trasferita viene elaborata dalla CPU ed è più lenta, come potrete notare dalla velocità di risposta. È comunque più veloce rispetto all’esecuzione senza alcuna scheda grafica, ma non raggiunge la velocità massima. Altre due precisazioni: è comunque necessaria una quantità sufficiente di RAM per l’intero modello; l’offloading si limita a spostare il carico, non crea magicamente più memoria. E sebbene l’offloading sul disco rigido sia teoricamente possibile, è talmente lento che non ne vale la pena.

Configurazione in sei passaggi

Utilizzando LM Studio come esempio, il processo funziona in modo quasi identico per gli altri programmi. Innanzitutto, scarichi e installi LM Studio dal sito web ufficiale. In secondo luogo, aprite la ricerca dei modelli nel programma e selezionate un modello consigliato, come ad esempio Qwen3 8B. In terzo luogo, scaricate il modello; l’operazione richiede alcuni minuti, a seconda delle sue dimensioni. In quarto luogo, caricate il modello e ponete la vostra prima domanda nella finestra di chat. In quinto luogo, se lo desiderate, collegate i vostri file in modo che l’IA possa lavorare con i vostri appunti. In sesto luogo, rendete sicura la vostra configurazione, ovvero caricate solo modelli affidabili e mantenete il programma aggiornato. È tutto qui. In dieci minuti avrete a disposizione un’IA privata che funziona senza connessione a Internet.

Quando il cloud è ancora la scelta giusta

L’approccio locale è ottimo per la privacy dei dati, l’uso quotidiano e l’accesso offline. Tuttavia, se desiderate il modello più potente in assoluto, dovete elaborare documenti di grandi dimensioni o avete bisogno di generare immagini e video, non potete fare a meno dei servizi cloud. Abbiamo illustrato in dettaglio i relativi costi e quale abbonamento sia più adatto a chi all’indirizzo https://www.notebookcheck.com/index.php?id=1334996. Molte persone adottano un approccio su due fronti: conservare i dati sensibili in locale e archiviare il resto nel cloud.

A chi è vantaggioso l’approccio locale?

Se la privacy dei dati è importante per voi, se lavorate spesso senza connessione a Internet o se non volete sostenere costi di abbonamento ricorrenti, l’IA locale è l’ideale. Per iniziare, utilizzate LM Studio e Qwen3 8B: funzionano sulla maggior parte dei portatili ragionevolmente aggiornati e offrono prestazioni più che sufficienti per l’uso quotidiano. Provarli non costa nulla, se non un po’ di spazio di archiviazione.

A proposito, non è solo l’IA di chat a funzionare in locale. Anche la generazione di immagini e la conversione del parlato in testo possono essere eseguite completamente offline sul proprio computer. Ne parleremo più approfonditamente a breve.