Maxim spera che il chip acceleratore NN a bassa potenza per dispositivi edge guiderà una \"rivoluzione integrata\"

16 ore fa p Jake Hertz\n\nL'intelligenza artificiale e l'Internet of Things sembrano essere una coppia perfetta, eppure ci sono molti ostacoli da superare per sposare perfettamente queste due tecnologie. In generale, l'IoT è pensato per essere un tipo di tecnologia a bassa potenza, alimentato a batteria. D'altra parte, l'intelligenza artificiale, in particolare le reti neurali convoluzionali (che sono essenziali per la visione artificiale), è estremamente costosa dal punto di vista computazionale. \u003cbr\u003e\n\nPer superare queste sfide, la pratica generale è stata quella di scaricare i calcoli sul cloud. Ciò, tuttavia, comporta tutta una serie di problemi di latenza e sicurezza. Un'auto a guida autonoma, ad esempio, deve prendere decisioni in tempo reale il più rapidamente possibile. \u003cbr\u003e Semplicemente non può permettersi di aspettare che i dati vengano inviati al cloud, elaborati e restituiti.\n\nMa per quanto riguarda i dispositivi embedded? Kris Ardis, direttore esecutivo della Business Unit Micros, Security e Software di Maxim Integrated, ipotizza che attualmente i piccoli dispositivi embedded \"perdano il resto di questa rivoluzione dell'IA\".\n\n\"Non possono vedere e non possono sentire, molto più che semplici parole\", spiega Ardis. \u003cbr\u003e \"E questo è il vuoto che stiamo cercando di colmare: come possiamo portare più di quella promessa dell'IA a l'universo incorporato? \"\n\nPer rispondere a questa domanda, Maxim Integrated si è rivolto a chip a bassa potenza e ad alte prestazioni per l'intelligenza artificiale. Questa mattina, la società ha annunciato il suo nuovo prodotto: un chip acceleratore di rete neurale pensato per abilitare l'IA nei dispositivi IoT alimentati a batteria.\n\nIl nuovo chip, il MAX78000, è costituito da due core a bassissima potenza: il core Arm Cortex-M4 o un core RISC-V, un microcontrollore basato su FPU e un acceleratore di rete neurale convoluzionale. \u003cbr\u003e Ardis commenta \" Quel RISC-V è lì perché è un bel modo a bassa potenza per massaggiare i dati se necessario prima che entrino nell'acceleratore. \"\n\nDal punto di vista delle prestazioni, Maxim afferma alcune specifiche impressionanti, in particolare in termini di potenza e latenza.\n\nPer quanto riguarda l'energia, l'azienda afferma che il MAX78000 fornisce:\n\nVediamo come vengono raggiunte esattamente queste specifiche. \u003cbr\u003e\n\nLa caratteristica più unica di questo SoC è l'acceleratore di rete neurale, un hardware specializzato progettato per ridurre al minimo il consumo di energia e la latenza delle reti neurali convoluzionali (CNN).\n\nSecondo Ardis, l'architettura impiegata è interamente proprietaria e innovativa. È stato progettato con l'obiettivo di ridurre al minimo lo spostamento dei dati, che è ben noto per essere un peso significativo per l'energia sul chip, in particolare nell'elaborazione di complesse configurazioni matematiche nelle catene CNN. \u003cbr\u003e\n\nInoltre, l'acceleratore, che supporta strumenti comuni nell'universo del machine learning come TensorFlow e Pytorch, è progettato per aumentare il parallelismo matematico, ottimizzando il dispendio energetico e riducendo significativamente il tempo di inferenza.\n\nUn'altra caratteristica del funzionamento del sistema è che il microcontrollore ha un coinvolgimento minimo. In generale, l'MCU in questa architettura ha lo scopo di configurare la rete, caricare i dati e avviarlo. \u003cbr\u003e Dopo che l'MCU ha svolto il suo lavoro iniziale, essenzialmente si toglie di mezzo. Anche questo si rivela estremamente importante per l'efficienza energetica.\n\nI dispositivi caricano anche i dati prima dell'esecuzione, il che elimina la necessità di accedere alla memoria durante l'inferenza, riduce il consumo di energia e migliora la latenza. \u003cbr\u003e \"Non è richiesta memoria esterna, che è in realtà uno dei modi in cui risparmiamo energia. Tutta la memoria è on-chip \", afferma Ardis.\n\nQuesta notizia sembra essere estremamente significativa nello spazio IoT poiché la domanda di chip AI a basso consumo e ad alte prestazioni aumenta. \u003cbr\u003e\n\nSecondo Maxim Integrated, questo dispositivo potrebbe potenzialmente offrire ai sistemi la capacità di eseguire processi decisionali in tempo reale all'edge, più velocemente del cloud computing, e senza i problemi di sicurezza associati.\n\nIl dispositivo potrebbe abilitare nuove applicazioni, come l'identificazione facciale in millisecondi o gli apparecchi acustici per l'elaborazione dei dati, portando l'intelligenza artificiale sui dispositivi periferici. In questo modo, il MAX78000 può essere un passo significativo nel \"taglio del cavo di alimentazione\" per i dispositivi integrati. \u003cbr\u003e\n\nArdis ha espresso la speranza che il MAX78000 possa aprire la strada a un tipo di \"rivoluzione incorporata\", simile al tipo di microcontrollori di rivoluzione incorporati portati sul tavolo. \"Prima del tempo dei micro, nessuno pensava a tutte le cose che il microcontrollore sarà. E ora ne indosso almeno due\", ha detto. \u003cbr\u003e\n\n\"Questo è ciò in cui pensiamo si trasformerà la tecnologia AI alla periferia e, si spera, saremo uno di quelli che aprono la strada\".