Un milione di token corrisponde a un numero di parole inferiore a quanto si possa pensare: lo abbiamo misurato

L’obiezione emerge immancabilmente non appena qualcuno menziona un «secondo cervello». Gli attuali modelli linguistici sono in grado di elaborare un milione di token, alcuni addirittura di più. Allora perché smistare, etichettare e collegare le note quando si può semplicemente affidare l’intera pila all’intelligenza artificiale?

La risposta si riduce a un numero che quasi nessuno verifica. I token sono le parti in cui un modello suddivide il testo e l’unità in base alla quale viene addebitato il costo. La quantità di testo contenuta in un milione di token dipende dalla lingua e dal metodo utilizzato per la suddivisione, ovvero il tokenizzatore. Abbiamo quindi effettuato una misurazione anziché limitarsi a formulare ipotesi.

Come abbiamo effettuato il conteggio

Siamo partiti da due testi dal contenuto identico: le versioni in tedesco e in inglese di uno dei nostri articoli di rivista. La versione tedesca contava 1.134 parole, mentre quella inglese ne contava 1.276. Entrambe le conteggiature comprendono solo il corpo del testo e i sottotitoli, senza didascalie né elenco delle fonti. Qualsiasi elemento compreso tra due spazi viene conteggiato come una parola. Entrambe le versioni sono state elaborate utilizzando la libreria js-tiktoken, versione 1.0.20, una volta con la codifica o200k_base che OpenAI utilizza per i suoi modelli attuali e una volta con cl100k_base, la codifica precedente utilizzata da GPT-4 e GPT-3.5.

La regola empirica ampiamente citata è che un milione di token equivale a 750.000 parole. Per l’inglese, questa stima è troppo prudente; per il tedesco, è invece decisamente troppo generosa. Il confronto tra le due codifiche è più eloquente. Lo stesso testo in tedesco risulta pari a 1.747 token con una codifica e a 2.088 con l’altra. Un divario del venti per cento, dovuto esclusivamente al fatto che la suddivisione viene effettuata con un metodo diverso. Il testo in inglese è rimasto praticamente invariato, con 1.200 token contro 1.202 per parola. I progressi nei tokenizzatori hanno riguardato quasi esclusivamente le lingue diverse dall’inglese.

Per Claude e Gemini non è possibile effettuare lo stesso test, poiché Anthropic e Google non rendono pubblici i propri tokenizzatori. Anthropic precisa tuttavia nella propria documentazione sui prezzi che Claude 4.7 e i modelli più recenti utilizzano un metodo diverso che genera circa il 30% in più di token per lo stesso testo rispetto ai modelli precedenti. Le cifre riportate di seguito rappresentano quindi un ordine di grandezza, non un dato preciso.

Cosa significa questo per una raccolta reale

Abbiamo analizzato una raccolta che è cresciuta nel corso degli anni: circa 470 note, che corrispondono a un totale stimato tra le 350.000 e le 400.000 parole. Tale volume rientra, a malapena, in una finestra di contesto e continua ad aumentare.

Tuttavia, la finestra di contesto viene riempita nuovamente e pagata ogni singola volta che viene posta una domanda. Il modello non ricorda nulla; ogni volta ricomincia a leggere dall’inizio. Con GPT-5.6 Sol, un milione di token di input costa cinque dollari statunitensi, mentre a partire da 272.000 token in una singola richiesta il costo sale a dieci. 400.000 parole tedesche corrispondono a circa 616.000 token, il che le colloca nella fascia di prezzo più alta, quindi 6,16 dollari. Per domanda. Dieci domande in un pomeriggio ammontano a circa 60 dollari. Notion Business, l’abbonamento più costoso nel nostro confronto tra sistemi, costa 19,50 euro al mese per utente.

Vi sono due precisazioni. Questo calcolo riguarda l’API, l’interfaccia che gli sviluppatori utilizzano per interagire direttamente con un modello, non gli abbonamenti destinati agli utenti finali. Gli utenti di ChatGPT Plus o Claude Pro non pagano per token, ma alla fine raggiungono dei limiti di utilizzo. Inoltre, vi è la cache. In caso di cache hit, OpenAI e Anthropic addebitano solo un decimo del prezzo di input, il che trasforma i 6,16 dollari in 62 centesimi. A seconda dell’impostazione, tuttavia, la cache dura solo da cinque minuti a un’ora.

Perché l’ordinamento continua a essere vantaggioso

Il punto non è che un sistema basato su note sarebbe più economico dell’intelligenza artificiale. È che riduce la mole di materiale che deve essere inserito nel contesto. Una ricerca full-text adeguata, o un indice semantico che effettua ricerche in base al significato anziché alle parole chiave, fornisce al modello dieci note pertinenti anziché quattrocento.

Ciò trasforma 616.000 token in circa 9.000 e 6,16 dollari in cinque centesimi. Per i token si tratta di un rapporto di 67 a 1, per il prezzo di 123 a 1, poiché la richiesta ridotta rimane al di sotto della costosa soglia dei 272.000 token. A ciò si aggiunge un effetto che nessuna tabella dei prezzi mostra. Un modello che legge dieci note pertinenti fornisce risposte più precise rispetto a uno che ne esamina quattrocento.

Il vero limite raramente è la finestra di contesto

Se non si opera tramite l’API, si incontra comunque un ostacolo ben prima. Con ChatGPT il numero di file per progetto dipende dal piano: cinque con il piano gratuito, 25 con i piani Go e Plus, e 40 con i piani Pro, Business e quelli dedicati all’istruzione. Gemini Notebook consente 50 fonti per notebook nel piano Standard gratuito, 100 nel piano Plus e 300 nel piano Pro. Una singola fonte può contenere fino a 500.000 parole.

Ciò che salta all’occhio è quanto questi numeri siano incoerenti. OpenAI indica 25 file per il piano Plus nella sua pagina di assistenza dedicata ai progetti, ma ne riporta 20 nella sezione di assistenza relativa al caricamento dei file, e entrambe le pagine sono state aggiornate l’ultima volta nella stessa settimana. Se avete intenzione di fare affidamento su questi dati, verificate il numero nel vostro account piuttosto che fidarvi della documentazione.

Ciò sposta il punto della questione. Ciò che determina se una raccolta possa essere interrogata non è il limite di un milione di token, bensì il fatto che lo strumento la accetti o meno. Ed è proprio qui che il vostro sistema di note si rivela utile, poiché non seleziona ciò che viene inserito, ma solo ciò che ne viene estratto.

Cosa depone a sfavore dell’idea nel suo complesso

Un “secondo cervello” richiede comunque uno sforzo, e i programmi presentano alcune peculiarità che vale la pena conoscere prima di iniziare. Obsidian e Joplin funzionano anche sui telefoni, ma non si sincronizzano in background. Obsidian risponde a questa domanda nelle proprie FAQ sulla sincronizzazione con un secco “no”. I file si sincronizzano solo mentre il programma è in esecuzione. Su un computer quasi non se ne accorge, poiché l’app è solitamente aperta. Ma se digita una nota mentre è in movimento, chiude l’app con un gesto e questa non arriverà al suo computer finché non riaprirà l’app sul telefono. Ciò vale per Obsidian Sync, il servizio interno a pagamento. Se invece conservate la cartella su iCloud o la sincronizzate con Syncthing, quel servizio si occuperà di tutto per voi. Notion limita la dimensione dei singoli file a 5 MB nel piano gratuito. E con Gemini Notebook, Google non offre alcuna possibilità di recupero: se cancellate un taccuino, le fonti vengono eliminate insieme ad esso. Solo le conversazioni di Gemini tornano nell’elenco delle chat.

Pertanto, il consiglio migliore è quello di raccogliere note per due settimane e poi decidere. Se vi ritrovate con trenta note, non avete bisogno di un sistema, ma di una cartella. Se invece ne avete trecento, vi accorgerete da soli di cosa manca quando effettuerete una ricerca.