Uno sviluppatore aggira le restrizioni di “ Apple ” per sbloccare il vero potenziale dell’IA dell’M4

Apple's M4 offrono alcune utili potenza di calcolo , ma l’azienda ha storicamente mantenuto l’hardware rigorosamente limitato. Per impostazione predefinita, il Neural Engine all’interno dell’M4 è limitato esclusivamente all’inferenza. Ciò significa che gli sviluppatori possono utilizzarlo solo per eseguire modelli di IA pre-addestrati, anziché addestrarne effettivamente di nuovi partendo da zero.

Tuttavia, uno sviluppatore è riuscito a aggirare queste rigide limitazioni software, effettuando un reverse engineering completo del chip per sbloccare 15,8 TFLOPS di potenza di calcolo AI nascosta. La scoperta è opera di un ricercatore noto come 0x0SojalSec, che ha recentemente condiviso del codice sul GitHub di https://github.com/maderix/ANE , spiegando in dettaglio come sia riuscito a sfruttare il vero potenziale dell’M4. Ciò che rende questo risultato particolarmente impressionante è il fatto che sia stato ottenuto completamente al di fuori dell’ecosistema di sviluppo ufficiale di Apple.

Poiché Apple non concede i livelli di autorizzazione necessari per comunicare direttamente con il Neural Engine per queste attività avanzate, lo sviluppatore ha dovuto trovare un modo per operare senza ricorrere a strumenti standard come CoreML, Metal o persino senza avvalersi dell’unità di elaborazione grafica. Per riuscire in questa impresa, ha creato da zero un linguaggio intermedio personalizzato per i modelli (Model Intermediate Language). Questo software personalizzato ha colmato con successo il divario, consentendo la retropropagazione completa e l’addestramento dei modelli Transformer direttamente sul Neural Engine dell’ Apple.

Poiché l’hardware è fortemente limitato dal punto di vista progettuale, lo sviluppatore ha dovuto ricorrere anche ad alcune soluzioni alternative molto ingegnose per mantenere stabile il sistema. Ad esempio, se un processo si blocca durante la fase di addestramento intensivo, il linguaggio personalizzato utilizza un comando di esecuzione specifico per, in sostanza, riavviare il processo. Ciò consente al sistema di aggiornare il proprio stato attuale e riprendere immediatamente l’apprendimento automatico senza causare il crash dell’intero programma.

Anche la velocità è stata un fattore determinante per garantire l’efficace esecuzione di questo carico di lavoro così impegnativo. Per assicurare che l’addestramento procedesse nel modo più fluido possibile, lo sviluppatore ha configurato il processo in modo che scrivesse interamente nella RAM di sistema. Evitando attivamente l’utilizzo della memoria flash NAND, molto più lenta, l’intera operazione è rimasta incredibilmente veloce. Per chiunque utilizzi un Mac o iPad , questa affascinante soluzione alternativa dimostra che il chip è più che in grado di gestire i carichi di lavoro di addestramento dell’IA, anche se Apple ufficialmente si preferisca mantenere nascoste tali funzionalità specifiche.