Nvidia svela gli switch fotonici per scalare le reti AI con milioni di GPU

Nvidia punta a rivoluzionare la connettività dei data center sfruttando la luce di https://www.tomshardware.com/networking/nvidia-outlines-plans-for-using-light-for-communication-between-ai-gpus-by-2026-silicon-photonics-and-co-packaged-optics-may-become-mandatory-for-next-gen-ai-data-centers. Nel marzo 2025, l'azienda ha presentato gli switch Spectrum-X Photonics Ethernet e Quantum-X Photonics InfiniBand. Questi sono progettati per collegare grandi "fabbriche di AI" in diverse località e supportare milioni di GPU, riducendo al contempo l'uso e i costi energetici. L'obiettivo principale è quello di integrare i motori ottici con i chip degli switch, eliminando così i componenti elettrici non necessari.

La scalabilità è la sfida principale. Quando le velocità raggiungono gli 800 gigabit al secondo o più, le connessioni in rame tra i server e gli switch rallentano le cose. I segnali perdono forza mentre viaggiano attraverso le schede e i connettori. Questo avviene prima che il segnale raggiunga il modulo ottico. Nvidia afferma che questa perdita è di circa 22 decibel sui canali da 200 gigabit. Ciò significa che è necessaria una maggiore potenza, e ogni porta utilizza circa 30 watt. I componenti in più aumentano anche il rischio di guasti.

L'ottica co-packaged, o CPO, cambia questa configurazione. Collocando il motore ottico accanto al chip di commutazione, i segnali vengono trasmessi alla fibra quasi immediatamente. Questo riduce la perdita elettrica a circa quattro decibel e riduce il consumo energetico per porta a circa nove watt. Nvidia afferma che, su scala più ampia, questo approccio consente di ottenere un'efficienza energetica circa 3,5 volte migliore, una qualità del segnale oltre 60 volte più forte, una resilienza 10 volte maggiore grazie al minor numero di parti attive e una configurazione circa il 30 percento più rapida, in quanto c'è meno da costruire e mantenere.

Per quanto riguarda l'Ethernet, Spectrum-X Photonics si rivolge a reti di grandi dimensioni e multi-tenant. Nvidia afferma che offre una larghezza di banda per area circa 1,6 volte superiore a quella di un normale Ethernet. Le opzioni includono 128 porte a 800 Gb/s o 512 porte a 200 Gb/s. In totale si raggiungono 100 Tb/s. Le configurazioni più grandi possono arrivare a 512 porte a 800 Gb/s o a 2.048 porte a 200 Gb/s. Questo fornisce un totale di 400 Tb/s.

Per InfiniBand, Quantum-X Photonics si concentra sulle connessioni a 800 Gb/s (gigabit al secondo) e utilizza il raffreddamento a liquido, un sistema che utilizza un refrigerante liquido per rimuovere il calore. Il suo switch top ha 144 porte e può gestire 115 Tb/s di dati. Include anche l'in-network computing, che elabora i dati all'interno della rete stessa, con una valutazione di 14,4 trilioni di operazioni in virgola mobile al secondo. Il sistema utilizza la più recente tecnologia SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) di Nvidia per accelerare le attività di gruppo attraverso la rete.

Nvidia afferma che questa generazione è due volte più veloce e cinque volte più scalabile per le reti AI rispetto alla precedente. Il piano di miglioramento della scalabilità è strettamente legato alla piattaforma COUPE di TSMC e ai metodi di imballaggio avanzati. Nella prima fase, i motori ottici nei moduli OSFP raggiungeranno i 1,6 Tb/s. La seconda fase utilizzerà ottiche co-pacchettizzate sulla scheda madre, capaci di 6,4 Tb/s. La terza fase punta a 12,8 Tb/s all'interno dei pacchetti di processori, riducendo ulteriormente la latenza e il consumo energetico. Nvidia prevede di lanciare gli switch Quantum-X basati su CPO all'inizio del 2026 e Spectrum-X Photonics più tardi nello stesso anno, entrambi con raffreddamento a liquido.

Nvidia sta collaborando con aziende come TSMC, Coherent, Corning, Fabrinet, Foxconn, Lumentum, SENKO, SPIL, Sumitomo Electric, TFC e altre per coprire la produzione, l'ottica e l'assemblaggio. L'obiettivo è eliminare migliaia di parti separate dai cluster di grandi dimensioni, velocizzare la configurazione e rendere possibili reti con un milione di GPU senza consumare energia eccessiva.