Metriche di performance di Intel Arc Pro B70: significativamente più veloce di RTX 4000 Pro di Nvidia alla metà del prezzo e con il 33% di VRAM in più

Intel ha lanciato ieri le GPU GPU Arc Pro B65 e B70 ad alte prestazioni per workstation destinate alla formazione/inferenza AI LLM, senza fornire informazioni specifiche sulle prestazioni nel comunicato stampa iniziale. Poche ore dopo, l'azienda ha rilasciato dei grafici delle prestazioni che confrontano il modello B70 con le GPU RTX 4000 Pro di Nvidia, che ormai hanno qualche anno. Intel sostiene che il confronto rimane valido, visto il prezzo inferiore a 1.000 dollari della scheda B70, e il Team Blue sostiene le cose con affermazioni impressionanti sulle prestazioni complessive.

Anche senza guardare i grafici delle prestazioni, che possono essere accurati o meno, come fa Intel, la GPU Arc B70 si eleva immediatamente al di sopra della concorrenza di Nvidia, grazie alla maggiore capacità di VRAM (32 GB contro 24 GB) e al prezzo di lancio che parte da 949 dollari (contro 1.800 dollari). Certo, la VRAM è solo GDDR6 da 19 Gbps con bus a 256 bit e larghezza di banda di 608 GB/s, ma almeno la maggiore capacità aiuta ad addestrare e dedurre su modelli più grandi.

Con la capacità VRAM superiore, la B70 vanta una finestra di contesto 2,2 volte più grande rispetto alla scheda RTX 4000 Pro. La diapositiva di Intel mostra che la B70 supporta una lunghezza del contesto fino a 93K token, rispetto alla RTX 4000 Pro che esaurisce la memoria fino a 42K token quando viene utilizzata con il modello Llama 3.1 8b Modello BF16.

I flussi multi-agente paralleli in esecuzione sul modello Ministral Instruct 2410 8B (modello BF16) offrono un throughput di token superiore dell'85% per utenti o richieste multiple con il B70 in un ambiente Linux OS. Inoltre, il B70 è in grado di fornire risposte più rapide per più utenti o richieste, con un tempo più rapido di 6,2 volte per il primo token, e Intel afferma che queste velocità superiori sono possibili grazie alla oneAPI migliorata e allo stack software proprietario dell'azienda. L'aumento delle prestazioni rispetto alla concorrenza di Nvidia è anche scalabile con le configurazioni multi-GPU, in quanto Intel dichiara un aumento fino a 2x token per dollaro nelle configurazioni a GPU singola, doppia e quadrupla.

Sfortunatamente, le diapositive non mostrano alcuna metrica delle prestazioni o informazioni sui prezzi per il modello B65 GPU. Sarebbe interessante vedere se Intel permette ai partner AIB di rilasciare versioni orientate al gioco delle GPU B65 e B70 con capacità VRAM leggermente inferiori. Questo significherebbe anche che Intel deve fornire driver grafici migliorati.