LLM-8850: La scheda di espansione trasforma Raspberry Pi 5 in una piattaforma AI locale

I modelli di AI basati sul cloud sono abbastanza comodi per gli utenti tipici. Tuttavia, alcuni casi d'uso possono richiedere l'esecuzione di questi modelli a livello locale, per garantire la privacy dei dati o per lavorare con una connessione Internet lenta o inesistente. Detto questo, è necessaria una certa quantità di prestazioni per eseguire modelli linguistici di grandi dimensioni o anche analisi video assistite dall'AI. Quest'ultima potrebbe essere utile per contare le persone che passano attraverso l'ingresso di un edificio, ad esempio.

Con M5Stack LLM-8850un'altra scheda di espansione che accelera proprio queste applicazioni AI è arrivata sul mercato. È alimentata da un SoC Axera AX8550 con quattro core Cortex-A55 e una NPU con prestazioni di 24 TOP. In confronto, le NPU integrate nelle moderne CPU AMD e Intel offrono circa il doppio delle prestazioni. È presente anche una VPU, in grado di decodificare simultaneamente fino a 16 flussi video con risoluzione Full HD. La scheda dispone inoltre di 8 GB di RAM e viene fornita con un dissipatore e una ventola.

La scheda è collegata tramite uno slot M.2 Key M e utilizza due corsie PCIe 2.0. La scheda misura 1,68 x 0,94 x 0,38 pollici ed è compatibile con il Raspberry Pi 5 e altri computer single-board o anche mini PC, nonché con vari framework AI. Infine, il prezzo ufficiale di M5Stack LLM-8850 è di 99 dollari, ma potrebbero essere applicate spese di spedizione e di importazione aggiuntive.