Het leren van complexe patronen met Gaussische processen

Een van de doelen van kunstmatige intelligentie en machine learning is om computers te laten begrijpen
onze wereld. Een cruciaal aspect om dit doel te bereiken is om de onzekerheid te kwantificeren, maar tot nu toe is dat wel zo geweest
grotendeels verwaarloosd in machine learning. Bayesiaanse methodologieën incorporeren onzekerheid in a
natuurlijke manier. Terwijl ze meer en meer aandacht krijgen, missen ze nog steeds de nauwkeurigheid of
prestaties die men van diepe leersystemen gewend is.
De focus van dit voorstel ligt op Gaussische processen (GP's). Stapelen van GP's (bijvoorbeeld Deep GP's) en diep
kernel learning maakt meer accurate modellering van complexe gestructureerde data mogelijk. In Deep GPs de uitvoer
van een GP van een hoger niveau wordt gevoed als de invoer van een GP van een lager niveau. Diepe huisartsen hebben wat potentieel laten zien
veel toepassingen, maar zijn beperkt tot kleinere gegevenssets vanwege de schaalbaarheid. Deze beperking heeft geleid tot
de overtuiging dat Deep GP's niet van toepassing zijn op zeer grote datasets zoals gebruikt in andere deep learning
methoden. In dit voorstel onderzoeken we het gebruik van Deep GP's en, in het algemeen, Deep Bayesian Networks
voor zowel discriminerende als generatieve modellering van hoogdimensionaal en complex-gestructureerd
gegevens.
De belangrijkste doelen van dit voorstel zijn: (i) de computationele complexiteit van de huidige methoden verminderen
door de ontwikkeling van nieuwe variatieregels en door verder gebruik te maken van parallellisme in de
modelarchitectuur, en (ii) diepe huisartsen of nieuwe diepe kernels gebruiken om ingewikkelde patronen te ontdekken in
gegevens.