Hexagon NPU 6 in Snapdragon X2 Elite Extreme: prestazioni di 80 TOPS che sono fino al 95% più veloci di Apple M4 e 122% più veloci di Intel Lunar Lake
Qualcomm ha recentemente presentato la sua prossima generazione Snapdragon X2 Elite Extreme e X2 Elite Per i computer portatili. I nuovi chip X2 Elite non solo presentano miglioramenti generali a livello di CPU, GPU e memoria, ma anche miglioramenti significativi alla NPU Hexagon.
L'azienda sostiene che l'ultima NPU Hexagon è la NPU più veloce sui laptop, con una potenza di elaborazione AI fino a 80 TOPS. Si tratta di un aumento del 78% rispetto ai 45 TOPS che abbiamo visto con lo Snapdragon X lineup.
X2 Elite Extreme è costruito per i flussi di lavoro agenziali
Qualcomm ha evidenziato come un singolo agente LLM con una lunghezza di contesto di 1024 e 14 miliardi di parametri (14B) richieda fino a 143 TOPS di potenza di elaborazione AI, mentre i casi d'uso agenziali con due (3B) o quattro agenti (7B), ciascuno dei quali esegue un LLM e un LVM contemporaneamente, possono richiedere fino a 72 TOPS.
Questo comporta anche la sfida di ottimizzare le prestazioni per Watt e la bassa latenza.
Qualcomm afferma che Snapdragon AI inferencing funziona con lo stack software Windows AI per consentire carichi di lavoro agenziali di nuova generazione. I framework ML aperti supportati includono PyTorch e TensorFlow.
Insieme al Runtime ONNX offerto da Windows ML, Snapdragon AI inferencing può coinvolgere la CPU, la GPU e la NPU per accelerare l'elaborazione AI sul dispositivo.
Le CPU dei SoC laptop della serie Snapdragon X supportano attualmente più di 1.000 modelli e più di 300 esperienze che spaziano tra audio, video, foto, AI generativa, AI agenziale e ragionamento.
Le esperienze alimentate dalla NPU possono essere sfruttate in applicazioni popolari come Adobe Premiere, Blender, VS Code, Affinity Photo e altre ancora.
Due decenni di evoluzione di Hexagon: aumento del 143% del throughput scalare e vettoriale
Qualcomm ha spiegato nel dettaglio come Hexagon sia nato come processore di segnali digitali, che prevedeva principalmente l'elaborazione scalare, per poi passare all'attuale forma di NPU 6 che esegue anche l'accelerazione vettoriale, di interi e di matrici FP16.
L'elaborazione scalare ora si estende su 12 thread con una parola di istruzione molto lunga (VLIW) a 4 larghezze per thread, che si traduce in un aumento del 143% del throughput con una latenza ridotta.
La NPU 6 dispone anche di un bus più veloce del 127% e di otto thread paralleli per un'elaborazione vettoriale più veloce del 143%, con supporto per FP8 e BF16.
L'unità matrice dispone di una linea di alimentazione indipendente ed è ora fino al 78% più veloce con peso a 2 bit e supporto FP8+BF16.
Hexagon NPU 6: prestazioni fino a 4 volte superiori a iso-potenza
Secondo Qualcomm, la NPU Hexagon di X2 Elite Extreme è in grado di offrire prestazioni fino a 1,6 volte superiori rispetto a quella di X Elite con una potenza iso di 5 W durante un flusso di lavoro EDSR (Enhanced Deep Super-Resolution).
Hexagon NPU 6: la NPU per laptop più veloce al mondo
Qualcomm presenta l'Hexagon NPU 6 dello Snapdragon X2 Elite Extreme come la più veloce al mondo, con prestazioni fino a 5,7 volte superiori e un'efficienza 3,8 volte superiore rispetto al Core Ultra 9 285Hdella NPU del Core Ultra 9 285H in Procyon AI Computer Vision.
Geekbench AI vede la NPU Hexagon 6 più veloce di quasi il 70% rispetto alla NPU dell' Apple M4 mentre è superiore al Core Ultra 9 288V dell'82,4%.
Naturalmente, questi sono numeri del produttore, quindi rimandiamo qualsiasi conclusione finale a quando avremo modo di testare i computer portatili basati sul SoC X2 Elite Extreme all'inizio del prossimo anno.
Acquisti il Microsoft Surface Laptop con Snapdragon X Elite (12 core) su Amazon)
Fonte(i)
Briefing per la stampa di Qualcomm
