Opera diventa il primo browser web a offrire l'accesso ai LLM locali

Gli utenti di Opera One nel flusso degli sviluppatori stanno ricevendo un grande aggiornamento. L'ultimo aggiornamento consente agli utenti di scaricare e utilizzare gli LLM a livello locale. Attualmente, la selezione di modelli proviene da oltre 50 famiglie e ci sono più di 150 modelli diversi che gli utenti possono scaricare ed eseguire sui loro computer.

Alcuni dei modelli degni di nota includono Gemma di GoogleLLaMA di Meta, Mixtral di Mistral AIe Vicuna di LMSYS. Questa nuova funzione è in fase di lancio come parte del Programma AI Feature Drops. Cioè, gli utenti che utilizzano la versione per sviluppatori di Opera One per testare l'aggiornamento.

Tuttavia, con questo aggiornamento, Opera diventa il primo browser web a consentire ai suoi utenti di scaricare e utilizzare gli LLM locali. Per chi se lo stesse chiedendo, l'esecuzione di questi modelli a livello locale offre spesso un controllo completo, una latenza ridotta e, soprattutto, una migliore privacy. Ma il suo computer deve soddisfare alcuni requisiti.

Ad esempio, l'azienda di browser web afferma che ogni variante dell'LLM locale avrà bisogno di più di 2 GB di memoria. Per quanto riguarda l'esecuzione dei modelli, Opera ha dichiarato di utilizzare il framework open-source Ollama. Ciò significa anche che tutti i modelli attualmente disponibili nel browser sono un sottoinsieme della libreria Ollama. La parte positiva è che Opera prevede di includere modelli provenienti da altre fonti.

Non tutti gli utenti beneficeranno di questo aggiornamento. Tuttavia, è una buona notizia per coloro che desiderano testare diversi LLM in locale sul proprio computer. Può utilizzare l'assistente Assistente AI chiamato Aria se non vuole scaricare i modelli. È disponibile per la versione normale del browser dal maggio dello scorso anno.

Acquisti una webcam OBSBOT Tiny 2 con intelligenza artificiale su Amazon