Computer says no tegen zwarte vrouwen

Abstract

In deze scriptie is interdisciplinair literatuuronderzoek gedaan naar de discriminatie door profilerende algoritmes jegens zwarte vrouwen. De concrete hoofdvraag van dit onderzoek is: “Welk handelingsperspectief kan worden afgeleid uit de oorzaken van de discriminatie jegens zwarte vrouwen door profilerende algoritmes?” Deze vraag is vanuit drie verschillende disciplines behandeld, namelijk de Geschiedenis, de Kunstmatige Intelligentie en de Filosofie, met als doel de drie inzichten te integreren en uiteindelijk een interdisciplinair antwoord op de hoofdvraag te geven.Vanuit Geschiedenis is onderzocht hoe het historisch verklaard kan worden dat juist zwarte vrouwen door profilerende algoritmes worden gediscrimineerd, door historische stereotypes en hun doorwerking in hedendaagse technologieën te bestuderen. Vanuit de Kunstmatige Intelligentie is gekeken naar de technologische problematiek bij het ontwerpen van een eerlijk algoritme, om zo inzicht te verschaffen in de oorzaak en daaruit oplossingen af te leiden. Vanuit de Filosofie is er een handelingsperspectief afgeleid uit de morele bezwaren en morele verantwoordelijkheid omtrent algoritmes die discriminatie veroorzaken. Uiteindelijk zijn deze drie verschillende inzichten met elkaar geïntegreerd, door eerst een common ground te creëren, waardoor conflicten tussen de disciplines werden opgelost. Daarna wordt door de more comprehensive understanding een interdisciplinair antwoord op de hoofdvraag gecreëerd. Hiertoe is een schema met drie lagen gevormd waarbij er een analyse van de werking van discriminerende algoritmes wordt gegeven. Uit deze analyse blijkt dat er een positieve terugkoppeling bestaat bij het gebruik van discriminerende algoritmes in de maatschappij, ze kunnen bestaande stereotypen versterken: het zogeheten cybertyping. In dit schema is tenslotte het handelingsperspectief gepresenteerd, waarbij er op meerdere momenten ingegrepen moet worden om zo de positieve terugkoppeling tegen te gaan.