Geoptimaliseerd analoog front-end ontwerp voor edge AI

Machine learning (ML) en kunstmatige intelligentie (AI) hebben de markt voor slimme, energiezuinige apparaten een impuls gegeven. Het vastleggen en interpreteren van sensordata leidt tot nieuwe toepassingen. Dat heeft ook consequenties voor de analoge front-end (AFE), omdat sensoren niet alleen maar worden gebruikt voor conventionele gegevensanalyse door back-end systemen, maar ook als realtime-input voor AI-modellen. Avnet gaat in op enkele ontwerpuitdagingen die dat met zich meebrengt.

Voor veel toepassingen die afhankelijk zijn van gegevens uit de echte wereld, is de analoge front-end (AFE) een van de belangrijkste ontwerpelementen, omdat deze fungeert als een brug naar de digitale wereld. Voor AFE’s die gegevens leveren aan een machine learning back-end gelden in het algemeen vergelijkbare ontwerpeisen als bij conventionele systemen voor gegevensverzameling en signaalverwerking.

Maar in sommige toepassingen, met name die welke zich in een overgangsfase van IoT naar AIoT bevinden, vervullen de data een dubbele functie. Sensoren kunnen worden gebruikt voor conventionele gegevensanalyse door back-endsystemen, maar ook als realtime input voor AI-modellen. Deze splitsing kan compromissen ten aanzien van het ontwerp met zich meebrengen, maar kan ook meer vrijheid bieden in de AFE-architectuur. Bij dit alles mogen de eisen ten aanzien van totale kosten, energie-efficiëntie en betrouwbaarheid van het systeem niet uit het oog worden verloren.

Bandbreedte en signaal-ruisverhouding

Nauwkeurigheid is bijna altijd een vereiste bij analoge signalen. Het signaalpad moet de bandbreedte en signaal-ruisverhouding leveren die vereist zijn voor de digitizer van de front-end. Bij het gebruik van AI zullen ontwerpers anders te werk moeten gaan bij het selecteren en bewerken van data. Bijvoorbeeld het introduceren van valse signalen tijdens de training kan een betrouwbare vorming van het model in gevaar brengen. Aan de andere kant kan door filtering voor het model relevante informatie uit de ruis wegvallen.

Bij signalen met een groot dynamisch bereik kan het zinvol zijn om automatische versterkingsregeling (AGC) toe te passen om ervoor te zorgen dat het opgenomen signaal onder alle praktische omstandigheden voldoende detail bevat. De veranderingen in versterking moeten ook worden doorgegeven aan de digitizer en gesynchroniseerd met de sensorgegevens, zodat ze tijdens de AI-training als kenmerken kunnen worden opgenomen of door een voorbewerkingsstap kunnen worden gecombineerd tot samples met een hogere resolutie. Als dat niet gebeurt, kan het model tijdens de training de verkeerde kenmerken leren.

Ontwerpen met meerdere sensoren

Ontwerpen met meerdere sensoren brengen nog een andere overweging met zich mee. Apparaten die biologische signalen verwerken of industriële conditiebewakingssystemen moeten vaak meerdere soorten gegevens samen verwerken. Om goede resultaten te krijgen, moeten alle signalen perfect op elkaar zijn afgestemd in de tijd. Als sommige signalen door complexere elektronische circuits moeten dan andere, komen ze vertraagd aan. Die timingverschillen verstoren de relatie tussen de signalen, wat leidt tot foute analyses of conclusies

Het gebruik van AI kan ertoe leiden dat de ontwerper keuzes maakt die hij voor eenvoudigere systemen misschien niet zou maken. Sterke laag- en hoogdoorlaatfiltering kan bijvoorbeeld helpen om signalen te leveren die voor traditionele software gemakkelijker te interpreteren zijn. Maar deze sterke mate van filtering kan signaalkenmerken verhullen die belangrijk zijn voor de betrouwbaarheid van de AI.

Hoogdoorlaatfiltering kan bijvoorbeeld nuttig zijn voor het verwijderen van zichtbare signaalverschuivingen, maar verwijdert ook signalen van laagfrequente bronnen, zoals bijvoorbeeld langetermijn veranderingen in druk. Laagdoorlaatfiltering kan hoogfrequente signaalcomponenten verwijderen, zoals transiënten, die nuttig zijn voor AI-gebaseerde interpretatie. Het kan dan beter zijn om de filtering digitaal uit te voeren na conversie voor andere downstreamtoepassingen van de data.

Optimaliseren van het energieverbruik

Programmeerbare AFE’s kunnen het energieverbruik optimaliseren. Het is gebruikelijk dat edge-apparaten in een energiezuinige ‘always on’-modus werken, waarbij signalen met een relatief lage nauwkeurigheid worden verkregen terwijl het AI-model inactief is. Zodra een signaal een drempelwaarde overschrijdt, wekt het systeem de AI-versneller en schakelt het over naar een modus voor data-acquisitie met hoge nauwkeurigheid.

Die verandering kan in sommige gevallen worden opgevangen door de voorversterkers en soortgelijke componenten in de AFE te programmeren om dynamisch te schakelen tussen modi met laag vermogen en lage ruis.

Een andere benadering, die je vaak ziet bij biomedische sensoren, is om op basis van veranderingen in duty cycles het totale energieverbruik te verminderen. In de energiezuinige modus kan de AFE met een relatief lage datasnelheid werken en tijdens rustige intervallen worden uitgeschakeld. Er is dan wel een risico dat het systeem belangrijke gebeurtenissen mist. Een alternatief hiervoor is het gebruik van een afzonderlijk, laagnauwkeurig AFE-circuit, dat slechts nanowatt’s aan vermogen trekt. Dit circuit verschilt behoorlijk van het hoofdsignaalpad van de AFE.

Bij audiodetectie is een mogelijkheid om een frequentiedetectiecircuit te gebruiken in combinatie met een comparator om te luisteren naar specifieke gebeurtenissen die door een microfoon worden opgevangen. Een eenvoudige frequentiedetector, die bestaat uit een banddoorlaatfilter en een comparator, kan het systeem activeren of de laagvermogen AFE in een tweede, krachtigere modus brengen, maar niet in de volledige activeringsmodus die het back-end digitale AI-model inschakelt.

In deze toestand kan een circuit zoals een gegeneraliseerde impedantieomzetter worden gemanipuleerd om het frequentiebereik te doorlopen en te zoeken naar verdere pieken om te zien of het binnenkomende signaal voldoet aan de activeringscriteria. Die meerfasige aanpak beperkt de tijd waarin het volledige AI-model actief moet zijn.

Voorbewerking in het analoge domein

Verdere ontwikkelingen in de AI-technologie voorzien in geavanceerde verwerking in het analoge domein voordat digitalisering plaatsvindt. Verschillende leveranciers hebben zich gespecialiseerd in neurale netwerkoplossingen die on-chip geheugen combineren met analoge berekeningen.

Een andere mogelijkheid voor AFE-gebaseerde AI die resulteert in lagere hardware-overhead is reservoir computing (RC). Hierbij wordt gebruikgemaakt van concepten uit de theorie van recurrente neurale netwerken. Een signaal dat wordt teruggekoppeld naar een willekeurig verbonden netwerk, ook wel het reservoir genoemd, kan fungeren als een discriminator die wordt gebruikt door een outputlaag die is getraind om bepaalde outputtoestanden te herkennen als een relevante gebeurtenis. Dit biedt de mogelijkheid om een AFE te trainen op triggertoestanden die complexer zijn dan eenvoudige drempeldetectoren.

Een andere methode om een afweging te maken tussen AFE-signaalkwaliteit en AI-capaciteit is compressieve of gecomprimeerde detectie. Hierbij wordt gebruikgemaakt van bekende signaalkarakteristieken, zoals sparsity, om de bemonsteringsfrequentie en daarmee het vermogen te verlagen. Hoewel dit vooral van invloed is op de keuze van de bemonsteringsfrequentie in de analoog-digitaal-omzetter, moet de AFE nog steeds worden ontworpen om de volledige bandbreedte van het signaal te kunnen verwerken. Tegelijkertijd moet de AFE mogelijk een sterkere front-end filtering bevatten om interferenties te blokkeren die in het meetfrequentiebereik kunnen vallen.

AFE/AI-afwegingen optimaliseren

Met zoveel keuzes zijn experimenten essentieel om de beste afwegingen voor het doelsysteem te bepalen. Werken met hogere bandbreedte- en resolutiespecificaties is een goed begin. Gegevens kunnen gemakkelijk worden gefilterd en omgezet naar het digitale domein bij lagere resoluties, om te zien hoe ze de prestaties van het AI-model beïnvloeden.

De resultaten van die experimenten kunnen worden gebruikt om de specificaties van de beoogde AFE te bepalen in termen van versterking, filtering, bandbreedte en de benodigde ENOB (effective numbers of bits). Dergelijke experimenten bieden ook mogelijkheden om te experimenteren met meer vernieuwende AFE-verwerkingsprocessen, zoals reservoir computing en compressive sensing, om te beoordelen in hoeverre deze het uiteindelijke systeem kunnen verbeteren.