Hardware-bewuste probabilistische modellen: leren, inferentie en toepassingen

De laatste jaren is het duidelijk geworden dat het cloud paradigma een succesvolle aanpak is om berekeningen uit te voeren die nodig zijn om het groeiend aantal elektronische toestellen en bijhorende diensten te ondersteunen. Er zijn echter bezorgdheden omtrent privacy, latentie en efficiëntie van deze aanpak. Dit heeft gebruikers en ontwikkelaars gemotiveerd om paradigma’s te zoeken die de berekeningen uitvoeren op toestellen die zich dichter bij de gebruiker bevinden dan de cloud, de zogenaamde edge toestellen.

Één van de belangrijkste uitdagingen voor edge toestellen is dat deze toestellen meestal draagbaar zijn en van energie voorzien worden door een batterij. Als gevolg zijn ze beperkt in de energie en dus ook de bandbreedte die ze ter beschikking hebben. Dit is vooral een probleem wanneer complexe berekeningen nodig zijn die gebruik maken van grote datasets afkomstig van uiterst nauwkeurige sensoren. Dit is bijvoorbeeld het geval voor toepassingen die gebruik maken van machinaal leren. Een bijkomende uitdaging is dat draagbare toestellen onderhevig zijn aan dynamisch veranderende omstandigheden en ruis, en dat de data afkomstig van sensoren inherent onzeker is. 

Probabilistische modellen zijn een adequate aanpak om de bovenstaande uitdagingen aan te pakken. Ze kunnen omgaan met die onzekerheid die eigen is aan een toepassing in de edge, en ze zijn robuust tegen ruis en ontbrekende data. Het toepassen van probabilistische modellen in edge toestellen met beperkte capaciteiten is tot nu toe niet in detail bestudeerd, in tegenstelling tot andere leermethodes zoals neural netwerken die al enorme vooruitgang hebben gekend in dit onderzoeksdomein.

Deze thesis introduceert een aanpak om probabilistische modellen bewust te maken van de hardware waarop ze uitgevoerd worden en om op die manier een efficiënte implementatie te bekomen voor edge toestellen met een beperkte capaciteit. Deze modellen kunnen ook rekening houden met de schaalbare eigenschappen van de toestellen en ook interageren. Bijvoorbeeld met de data kwaliteit van de sensor, of de complexiteit van het inferentie algoritme die nodig is om de gewenste kwaliteit te leveren.

De strategieën voorgesteld in deze thesis maken gebruik van deze modellen om de impact te evalueren van een specifieke instelling van een toestel op het energieverbruik en performantie. Het ultieme doel is om deze twee criteria optimaal te balanceren. Voornamelijk bij het uitvoeren van een taak voor machinaal leren. De voorgestelde modellen kunnen ook eigenschappen van verschillende subsystemen holistisch in rekening brengen en zo energie-besparende oplossingen aanreiken waar andere methodes geen weet van hebben. De balans tussen accuraatheid en energie-verbruik die wordt bereikt door de voorgestelde methodes is empirisch geëvalueerd voor verschillende toepassingen, rekening houdend met verschillende types van system en hun schaalbare eigenschappen. Deze thesis toont hoe Bayesiaanse netwerken en probabilistische circuits kunnen uitgebreid worden om ze bewust te maken van de hardware waarop ze uitgevoerd worden. Verschillende toepassingen zijn geanalyseerd om de voordelen van de bijdragen in deze thesis aan te tonen, voornamelijk het potentieel om energieverbruik significant te verminderen met een minimaal verlies aan nauwkeurigheid.