Nvidia Jetson Thor offre 2.070 TFLOPS per i robot con l'IA generativa sul dispositivo

La serie Jetson Thor di Nvidia si rivolge all'"AI fisica" con moduli di dimensioni laptop che spingono fino a 2.070 tera-operazioni FP4 al secondo e 128 gigabyte di memoria all'interno di un involucro energetico da 40 a 130 watt. Nvidia posiziona Thor come un passo avanti significativo rispetto a AGX Orin, offrendo circa 7,5 volte più calcolo AI e un'efficienza energetica 3,5 volte migliore, consentendo ai robot di eseguire modelli pesanti sul dispositivo invece di affidarsi al cloud.

All'interno, Jetson AGX Thor accoppia una GPU Blackwell con una CPU Arm a 14 core, offrendo un'elevata larghezza di banda della memoria e velocità di clock. Queste specifiche consentono ai robot di eseguire più pipeline AI per il linguaggio, la visione e il controllo contemporaneamente, senza rallentamenti.

Thor mantiene l'ingombro compatto dei recenti moduli Jetson, mentre raddoppia la gamma di potenza di Orin per raggiungere i suoi obiettivi di prestazioni. L'obiettivo di Nvidia è di eseguire flussi di lavoro multi-AI in tempo reale, consentendo alle macchine di interagire in modo sicuro con le persone.

Nvidia afferma che sono disponibili moduli di produzione e kit di sviluppo per la piattaforma Jetson di nuova generazione, con primi utilizzatori tra cui Amazon, Meta, John Deere, OpenAI e Boston Dynamics. Agility Robotics prevede di integrare Thor nel suo umanoide Digit di sesta generazione per il lavoro di magazzino, e Boston Dynamics sta preparando una nuova variante di Atlas da affiancare a Thor. Il prezzo è di 2.999 dollari per il modulo Jetson Thor T5000 in quantità di 1.000 unità e di 3.499 dollari per i kit di sviluppo AGX Thor.

Nvidia definisce il chip come un "cervello robotico", e l'idea è azzeccata: modelli generativi di classe edge, modelli linguistici di grandi dimensioni e visione ad alto rendimento in un unico modulo. Questo mix sblocca casi d'uso che richiedono una bassa latenza, come gli umanoidi, l'automazione agricola e persino l'assistenza chirurgica, dove una frazione di secondo è importante e un fotogramma perso può causare un errore.

Il vantaggio principale è chiaro: i team possono passare rapidamente dallo sviluppo alla produzione, utilizzando lo stesso software per la percezione e la pianificazione. Tuttavia, ci sono rischi significativi. La maggiore potenza di Thor potrebbe potenziare i sistemi autonomi per usi sia positivi che negativi, come si è visto con Jetson Orin nelle zone di conflitto. Il suo impatto sui posti di lavoro è incerto; mentre alcuni ruoli potrebbero rimanere, il lavoro potrebbe diventare più ripetitivo. Forti salvaguardie, un'attenta supervisione e una chiara responsabilità rimangono essenziali per l'avanzamento di queste tecnologie.