Stroomverbruik AI drastisch te reduceren

Slimme toestellen verzamelen data, herkennen patronen en nemen op basis daarvan beslissingen. Daar zijn gigantisch veel berekeningen voor nodig en dat vraagt ontzettend veel energie. Mochten die berekeningen door het toestel of de sensor zelf uitgevoerd worden, dan zou de batterij in een mum van tijd plat zijn. Daarom sturen slimme toestellen onze data naar de cloud, zodat krachtige processoren in datacenters er berekeningen kunnen op loslaten. Vorig jaar hebben privacy-problemen met slimme luidsprekers echter duidelijk gemaakt dat aan zo’n heen-en-weertje ook risico’s verbonden zijn. Een bijkomend probleem is dat patroonherkenning die op afstand wordt uitgevoerd altijd met een zekere vertraging terugkomt, terwijl snelle beslissingen van levensbelang kunnen zijn – bijvoorbeeld in zelfrijdende auto’s. Er zijn dus nieuwe oplossingen nodig om deze berekeningen snel lokaal te kunnen uitvoeren. Daarvoor moet hardware op maat van sensoren ontwikkeld worden, waarvan het stroomverbruik drastisch wordt gereduceerd.

Imec bedacht een ontwerp dat, dankzij twee fundamentele veranderingen, de traditionele computerarchitectuur volledig op de schop gooit. Sinds de begindagen van het digitale computertijdperk is de rekenprocessor gescheiden van het geheugen. In de nieuwe architectuur vinden de berekeningen onmiddellijk plaats in het computergeheugen (SRAM) waar de gegevens opgeslagen zitten. Daarnaast worden die berekeningen niet meer uitgevoerd met de rekenprecisie van een digitale computer, maar met analoge technologie. De precisie van deze bewerkingen is lager, maar het eindresultaat (de patroonherkenning) blijft even accuraat en het energieverbruik is veel lager. Imec’s nieuwe architectuur resulteert in een chip, de Analoge Inferentie Accelerator (AnIA), die tot 2.900 biljoen bewerkingen per seconde per watt kan uitvoeren.

"Binnen imec’s machine learning programma werken we samen met onze partners aan energiezuinige AI-oplossingen waarbij berekeningen door middel van analoge technologie rechtstreeks in het computergeheugen worden uitgevoerd", zegt Diederik Verkest, programmadirecteur voor machine learning bij imec. "Onze AnIA-chip toont niet alleen aan dat dit in praktijk mogelijk is; maar ook dat dit nu al tien tot honderd keer energie-efficiënter gebeurt dan in digitale chips. Deze beloftevolle resultaten moedigen ons aan om deze revolutionaire technologie verder te ontwikkelen."

De AnIA-chip werd geïmplementeerd in het 22FDX-platform van GlobalFoundries, een geavanceerde chiptechnologie voor de volgende generatie IoT-toepassingen. "We werkten nauw samen met imec om de nieuwe AnIA-chip te implementeren," zegt Hiren Majmudar, vice-president van de Compute Business Unit bij GlobalFoundries. "Deze testchip is een cruciale stap voorwaarts om de industrie te laten zien hoe we het energieverbruik van machine learning-toepassingen aanzienlijk kunnen verminderen."