Project
Versterkend leren als kader voor ethische AI
Kunstmatige Intelligentie (AI) neemt beslissingen die een ethische impact hebben. Daarom is het belangrijk dat AI aansluit bij menselijke waarden. Reinforcement Learning (RL) is een veelbelovende methode om AI te ontwikkelen. RL is met succes toegepast op verschillende domeinen in de academische wereld en de industrie, waaronder robotica, zelfrijdende auto's en strategische spellen zoals het bordspel Go. Het doel van dit project is om te onderzoeken of RL een geschikt raamwerk is om ethische besluitvorming in AI te implementeren. Er zijn drie onderzoeksdoelen. Ten eerste onderzoeken of RL conceptueel beperkt is tot bepaalde soorten ethische theorieën; specifiek, of RL kan worden gebruikt voor deontologische ethiek. Ten tweede, onderzoeken of benaderingen voor het leren van de objectieve functie methodologisch gebrekkig zijn. Ten derde, onderzoeken hoe (of helemaal niet) RL-agenten kunnen worden afgestemd op de waarden van meerdere mensen.