Nvidia aggiunge nuove capacità di visione, vocali e linguistiche a ChatRTX - un chatbot gratuito e locale per i PC con schede grafiche Nvidia RTX

Nvidia ha ampliato le funzionalità di Chat per RTX (ChatRTX) aggiungendo il supporto di ulteriori modelli linguistici di grandi dimensioni (LLM), nonché il supporto della visione e del parlato nell'ultima versione. Il chatbot gratuito e locale non ha bisogno di inviare dati online mentre lavora con le informazioni dell'utente, mantenendo così le chat private.

Diversi LLM sono tarati per scopi diversi: chat generali, documenti scientifici, scrittura di saggi e altro ancora. Alcuni LLM hanno anche una formazione rigorosa per censurare l'output, per cui alcuni LLM sono più utili di altri. I modelli TensorRT-LLM precedentemente disponibili includevano il modello predefinito Mistral e Llama 2. Nvidia ha aperto ChatRTX ad alcuni nuovi modelli, Gemma e ChatGLM3.

Gemma è un LLM sviluppato da Google DeepMind, rilasciato nel 2024 come modello a due e sette miliardi di parametri. I modelli sono altamente sintonizzati per filtrare i discorsi sensibili, le informazioni personali e le risposte rischiose o pericolose.

ChatGLM3 è un LLM sviluppato da Zhipu AI e Tsinghua KEG, rilasciato nel 2023 come modello a sei miliardi di parametri. Il modello bilingue cinese-inglese è stato progettato per essere un forte concorrente open-source di ChatGPT di OpenAI.

Nvidia ha aggiunto a ChatRTX la rete neurale CLIP di OpenAI di OpenAI a ChatRTX per riconoscere automaticamente le immagini e associare il testo correlato. Ad esempio, se CLIP riceve un'immagine di un conduttore televisivo, telecamere e luci in una stanza, etichetterà l'immagine come una foto di uno studio televisivo. Ciò consente a ChatRTX di lavorare con le immagini senza etichettatura manuale dei contenuti. Il sistema di riconoscimento vocale Whisper di OpenAI è stato aggiunto a ChatRTX, consentendo agli utenti di parlare con i suggerimenti a ChatRTX.

I lettori che desiderano provare un chatbot locale possono scaricare Nvidia ChatRTX qui a condizione che soddisfino i seguenti requisiti di sistema. Il chatbot locale funziona su PC dotati di una scheda grafica Nvidia GeForce RTX della serie 30 o 40. Sono supportate anche le schede grafiche basate su Ampere e Ada con almeno 8 GB di VRAM. Coloro che non hanno una scheda compatibile possono acquistare una Nvidia veloce su Amazon. Altri requisiti di sistema includono Windows 11, 16 GB di RAM, un minimo di 35 GB di spazio di archiviazione libero e la versione del driver 535.11 o successiva.