Interactieve verklaringsmethoden: naar de volgende generatie interactieve machine learning gestuurd met rijke feedback van niet-deskundige gebruikers

Hoewel eXplainable Artificial Intelligence (XAI) pas sinds kort wijdverspreid zichtbaar is, bevat de literatuur over Machine Learning (ML), Artificiële Intelligentie (AI) en aanbevelingssystemen een lange geschiedenis van werk aan verklaringsmethoden. Recent werk op dit gebied is niet alleen gericht op het verklaren van de resultaten van modellen, maar ook op interactieve benaderingen waarmee eindgebruikers de nauwkeurigheid van modellen kunnen verbeteren. Hoewel is aangetoond dat dergelijke benaderingen een enorm potentieel hebben, is het meeste van dit werk gericht op experten in ML. Er is weinig werk verricht om dergelijke “human-in-the-loop”-benaderingen te ondersteunen voor niet-deskundige gebruikers, d.w.z. gebruikers met weinig of geen ML-kennis. Bovendien zijn bestaande methoden voor niet-deskundige gebruikers meestal gericht op vrij eenvoudige ML-modellen die gemakkelijk uit te leggen zijn. De doelstellingen van dit project zijn drieledig: ten eerste zullen we onderzoeken hoe bestaande model-agnostische verklaringsmethoden kunnen worden uitgebreid met interactiemogelijkheden om feedback te verzamelen van niet-deskundige gebruikers. Ten tweede zullen we onderzoeken hoe feedback die wordt verzameld met deze verklaringsmethoden opgenomen kan worden in ML-modellen. Ten derde zullen we onderzoeken welke interactieve verklaringsmethoden beter werken voor bepaalde gebruikersgroepen en hoe deze gepersonaliseerd kunnen worden. Door de doelgerichtheid van verschillende interactieve verklaringsmethoden te onderzoeken vanuit een mens-computerinteractie perspectief, en door model-agnostische verklaringsmethoden te gebruiken om gebruikersfeedback vast te leggen, willen we een generiek raamwerk aanbieden dat kan worden gebruikt om gebruikersfeedback op te nemen in een reeks van ML-modellen, waaronder meer complexe deep learning-modellen.

Trefwoorden:Visualisation, Explainable Artificial Intelligence, Human-computer interaction, User-centered design, Visual analytics

Disciplines:Visuele data-analyse, Mens-machine interactie