Privacy waarborgen in een wereld met algoritmische engelen en artificiële monsters: Welke rol voor EU regulering?

In dit proefschrift onderzoek ik twee actuele globale ontwikkelingen: (1) het toegenomen gebruik van algoritmische systemen door overheidsinstanties op een manier die aanzienlijke ethische en juridische uitdagingen met zich meebrengt; en (2) de uitholling van de rechtsstaat of de rule of law, gepaard gaande met de opkomst van autoritaire en illiberale tendensen in liberale democratieën, ook in Europa. Hoewel elk van deze ontwikkelingen als zodanig zorgwekkend is, betoog ik dat de combinatie van hun problematische impact momenteel onderbelicht is. Door te analyseren en te demonstreren hoe de eerste ontwikkeling de laatste kan versterken, wil ik tot een beter begrip komen van hoe algoritmische regulering de rechtsstaat kan ondermijnen ― een bedreiging die ik conceptualiseer als algoritmische rule by law ― en identificeer ik een plan van aanpak.

Minstens twee problematische scenario’s zijn denkbaar. In een eerste scenario kan een staat zijn toevlucht nemen tot de implementatie van algoritmische regulering met kwaadwillige intenties om zijn macht te vergroten onder het mom van ‘efficiëntie’, terwijl publieke controle wordt vermeden. Men kan bijvoorbeeld op een creatieve manier wetgeving vertalen naar code, en algoritmen programmeren op een manier die gunstig is voor aanhangers van de regering, maar ongunstig voor dissidenten, minderheidsgroepen of iedereen die de staat beschouwt als buiten de 'norm'. In een tweede scenario kan een staat zijn toevlucht nemen tot algoritmische regulering met goede intenties, maar met onvoldoende aandacht voor de risico's die daaruit kunnen voortvloeien. Hoewel de goedbedoelende overheid misschien geen misbruik zal maken van de kwetsbaarheden die ze creëert, kunnen individuen die aan het systeem worden onderworpen toch worden geschaad, en kunnen de beginselen van de rechtsstaat worden aangetast. Bovendien wordt er een infrastructuur aangelegd die gemakkelijk kan worden misbruikt door een volgende, minder goedbedoelende overheid. Het is duidelijk dat geen van beide scenario's wenselijk is, en dat er een derde scenario moet worden verzekerd: een waarin passende waarborgen bestaan om deze dreiging het hoofd te bieden.

Ik begin mijn onderzoek met het definiëren van algoritmische regulering en bespreek hoe overheidsinstanties hierop vertrouwen bij het nemen of informeren van administratieve handelingen (hoofdstuk 2). Vervolgens definieer ik de rechtsstaat in de context van liberale democratieën en put ik uit het acquis van de Europese Unie (‘EU’) en de Raad van Europa om zes vereisten te distilleren die overheden moeten respecteren om aan deze waarde te voldoen (hoofdstuk 3). Door concrete toepassingen te analyseren van algoritmische regulering die werden gebruikt door overheidsinstanties, voer ik een uitgebreide beoordeling uit van hoe elk van deze zes rechtsstatelijke vereisten kan worden belemmerd. Ik concludeer dat het onverantwoorde gebruik van dergelijke toepassingen kan leiden tot algoritmische rule by law: een verstoring van de rechtsstaat onder het mom van legaliteit en efficiëntie (hoofdstuk 4). Ten slotte beoordeel ik of het wettelijk kader van de EU voldoende gewapend is tegen deze nieuwe dreiging, ondanks nieuwe wetgevende initiatieven op het gebied van artificiële intelligentie (hoofdstuk 5). Op basis van mijn onderzoeksresultaten constateer ik dat de digitale agenda en de rechtsstaat-agenda van de EU niet alleen verkeerd op elkaar zijn afgestemd, maar fundamenteel tegenstrijdige doelen lijken na te streven. Ik sluit af met een reeks aanbevelingen die kunnen helpen deze dreiging het hoofd te bieden, en met een pleidooi voor verdere reflectie alvorens er wordt overgegaan tot de grootschalige uitrol van algoritmische regulering in de publieke sector (hoofdstuk 6).