La workstation per l'IA a quattro GPU di Tiny Corp offre una notevole potenza AMD Epyc, ma acquistarne una non è semplice

Tiny Corp, l'azienda fondata da George Hotz, ha rinnovato la sua workstation Tinybox per il deep learning con un nuovo sistema di configurazione. A differenza delle precedenti macchine con configurazione fissa, l'ultima Tinybox consente ai clienti di scegliere la memoria, lo spazio di archiviazione e le GPU che preferiscono, inclusa la possibilità di acquistare un sistema senza schede grafiche.

Il nuovo configuratore Tinybox propone una piattaforma G4 con connettività PCIe 4.0, un processore AMD Epyc a 32 core raffreddato a liquido, una scheda madre di classe server con un controller di gestione della scheda madre (BMC) e il supporto per un massimo di quattro GPU. Le specifiche di base includono anche 32 GB di memoria DDR4, un SSD di avvio da 1 TB e un alimentatore da 1.700 W. È possibile configurare la macchina con un massimo di 128 GB di RAM e 16 TB (SSD di avvio da 1 TB + 4 unità da 4 TB) di spazio di archiviazione con RAID. La piattaforma G5, invece, aggiorna la CPU a una piattaforma Epyc Genoa non specificata e la memoria a DDR5. Lo spazio di archiviazione minimo e massimo è identico per entrambe le piattaforme, ma la più recente CPU Genoa può essere configurata con un massimo di 192 GB di memoria.

La TinyBox dispone di quattro slot GPU con connettività PCIe full-fabric. La connettività include 16 uscite DisplayPort distribuite sulle quattro GPU. Naturalmente, questo numero varierà in base al numero di GPU installate nella macchina  Sono inoltre presenti cinque porte Ethernet RJ45, due porte USB Type-A e un'uscita VGA.  Una delle porte Ethernet potrebbe essere dedicata alla gestione remota del server. 

Le opzioni GPU spaziano da quattro GPU AMD Radeon RX 9070 XT a una/due GPU Nvidia RTX Pro 6000; la generazione non è specificata, ma dato il prezzo di 19.000 dollari, si tratta probabilmente di Blackwell. In alternativa, è possibile acquistare la macchina barebone senza GPU e utilizzare il proprio hardware. Il costo è di 7.000 dollari, mentre la configurazione più costosa, con 192 GB di RAM, due GPU RTX Pro 600, 16 TB di spazio di archiviazione e una CPU Epyc Genoa, arriva alla cifra sbalorditiva di 64.000 dollari.

L'approccio di Tiny Corp alla vendita di hardware è nettamente diverso da quello dei produttori di workstation tradizionali. I clienti devono ordinare tramite il suo sito web e i bonifici bancari sono l'unico metodo di pagamento accettato. Il pagamento deve essere completato entro cinque giorni dalla conferma dell'ordine per garantirlo.

Tutti i nuovi sistemi Tinybox vengono assemblati su ordinazione, con tempi di spedizione stimati che vanno da una a otto settimane. La consegna internazionale è disponibile tramite UPS, ma solo nei paesi supportati al momento del checkout. Dazi d'importazione, imposte e altri oneri sono a carico del cliente. I resi sono consentiti entro 30 giorni dalla ricezione, ma Tiny Corp applica una commissione di riassortimento del 20% e richiede agli acquirenti di sostenere le spese di spedizione del reso.

Come se non bastasse, sono previste ulteriori restrizioni per le configurazioni dotate di GPU Nvidia. Tiny Corp avverte che i clienti potrebbero dover compilare la documentazione Know Your Customer (KYC) e quella relativa alla conformità, specificando l'uso previsto e il luogo di installazione delle GPU. Le normative statunitensi sulle esportazioni potrebbero inoltre impedire la consegna dei sistemi dotati di GPU Nvidia in determinati paesi. Ulteriori informazioni sono disponibili sulla pagina delle FAQ di Tiny Corp.