| dc.description.abstract | De opkomst van Artificial Intelligence (AI) in de publieke sector versnelt en vergroot het aantal manieren waarop digitale systemen en algoritmes, organisaties en haar dienstverlening kunnen veranderen (Bullock, 2019; Young et al., 2019; Bullock et al., 2020). Publieke dienstverleners ofwel street-level bureaucrats staan in de dagelijkse praktijk steeds frequenter en intensiever in contact met digitale en AI-toepassingen waardoor werk- en beslisprocessen veranderen. Wanneer AI van invloed is op dat beslisproces en daarmee de manier waarop street-level bureaucrats deze vertaalslag maken, is het van belang om inzicht te verkrijgen in wat deze effecten dan zijn. Zonder inzicht in deze effecten kan het zijn dat kansen onbenut worden gelaten en voorziene en onvoorziene risico’s van AI bewaarheid worden (Bovens & Zouridis, 2002; Bullock, 2019). Daarbij maakt meer kennis over de effecten van AI op het beslisproces en de beslissingen van street-level bureaucrats het mogelijk om te bepalen op welke manier en in welke mate AI-toepassingen gebruikt kunnen én moeten worden. Daarom wordt er in dit onderzoek vanuit een micro- en behavioral public administration perspectief naar het effect van AI op het beslisproces en de beslissingen van street-level bureaucrats gekeken. Daarbij wordt in het specifiek ingegaan op het ontstaan van biases in het beslisproces bij het werken met AI.
Het doel van dit onderzoek is om inzicht te verkrijgen in mogelijke contextfactoren die van invloed zijn op het ontstaan van biases bij gebiedsgebonden politieagenten bij het werken met AI-toepassingen. De onderzoeksvraag die centraal staat is: “Welke contextfactoren zijn van invloed op het optreden van automatiseringsbias en selectieve opvolging bij gebiedsgebonden politieagenten?”. Deze vraag is theoretisch vormgegeven aan de hand van literatuur over de street-level bureaucrat, het effect van AI op deze bureaucrat, biases, en mogelijke contextfactoren bij gedrag en beslisprocessen geïdentificeerd uit bestaande wetenschappelijke literatuur. De contextfactoren zijn onderverdeeld in drie groepen: de beslissing, de beslisser en het beslisproces. De opgedane theoretische inzichten zijn via kwalitatieve vignetteninterviews met politieagenten – vormgegeven als een realistisch mock-up algoritme – empirisch getoetst.
Uit de bevindingen blijkt dat zo wel automatiseringsbias als selectieve opvolging zich bij gebiedsgebonden politieagenten kunnen voordoen. Deze nieuwe – op het eerste gezicht paradoxale – theoretische bevinding kan in ieder geval deels verklaard worden vanuit de bevindingen over de invloed van contextfactoren. Ten eerste blijkt het effect van factoren rondom de beslissing: de mate van complexiteit en onzekerheid met name versterkend voor beide soorten biases. Ten tweede blijkt het effect van factoren rondom de beslisser – wanneer deze in sterkere mate voorkomen – voor automatiseringsbias diffuus of verminderend en voor selectieve opvolging met name versterkend. Tot slot hebben de factoren vanuit de beslissituatie een vrij diffuus effect, waarbij de aanwezigheid van collega’s potentieel een rol kan spelen in het verminderen van beide biases. Het effect van deze verschillende groepen contextfactoren is in dit onderzoek inzichtelijk gemaakt in een tabel. Kortom, de mate van automatiseringsbias en selectieve opvolging wordt beïnvloed door diverse contextfactoren en lijkt dus sterk persoons- situatie- en contextafhankelijk te zijn. De variatie in contextfactoren kan dus inderdaad een verklaring bieden voor het ogenschijnlijk paradoxale feit dat automatiseringsbias en selectieve opvolging beide kunnen optreden. Uit dit onderzoek blijkt dat het gebruik van AI verschillende soorten effecten heeft op het beslisproces van de street-level bureaucrat, welke in ieder geval deels te verklaren zijn vanuit diverse contextfactoren. | |
