Alpha-One: mini PC silenzioso con NPU con 20 TOPS

La stragrande maggioranza dei modelli di AI attualmente viene eseguita nel cloud, e quindi su computer esterni. Sebbene sia comodo, questo può potenzialmente trasformarsi in un problema (legale) quando devono essere analizzati dati riservati, ad esempio. Sebbene gli utenti mainstream non eseguano i modelli di AI in locale, aziende come AMD e Intel stanno già integrando le NPU nei loro chipset attuali, mentre alcuni dispositivi di archiviazione di rete e telecamere di sicurezza si stanno concentrando anche sulle funzioni di AI locali.

Ora, è stato presentato un altro mini PC basato sull'architettura RISC-V e dotato di una NPU piuttosto potente. In particolare, il Pine64 Alpha-One ha una NPU con prestazioni INT8 di 20 TOPS. Va notato che altre APU moderne sono talvolta significativamente più potenti in questo senso.

Anche l'ultimo dispositivo Pine64 non è del tutto nuovo, poiché si basa sull'SBC StarPro64. Questa scheda è dotata di un SoC ESWIN EIC7700X con quattro core di elaborazione SiFive 550 che funzionano fino a 1,4 GHz. Inoltre, Alpha-One dispone di 64 GB di memoria eMMC e 7b Deepseek/Oen LLM sono preinstallati sotto forma di container Docker. Il produttore dichiara anche un throughput di circa 3,5 token al secondo (per un LLM da 7b), che dovrebbe essere sufficiente per molti principianti che iniziano a eseguire i loro modelli AI a livello locale.

L'alimentazione viene fornita tramite una spina a barile DC a 12 volt; l'USB Type-C PD non è supportato. Il mini PC è anche raffreddato passivamente, il che significa che non c'è assolutamente alcun rumore di ventola, in quanto le temperature del SoC sono tenute sotto controllo da una heat pipe. Il computer consuma meno di 30 watt ed è dotato di diverse opzioni di connettività, tra cui Ethernet, USB 3.0 e USB 2.0. Inoltre, Pine64 Alpha-One supporta monitor 4K fino a 60 Hz, mentre PCIe Gen 3 con quattro corsie può essere utilizzato per alcuni moduli di espansione. Il nuovo mini PC è stato quotato su al prezzo di 330 dollarima non c'è ancora una data di uscita precisa.