Nederlands
EnglishDe website van het Radboud Centrum Sociale Wetenschappen (RCSW) wordt verhuisd! Het merendeel van de informatie is vanaf heden beschikbaar op https://ru.nl/rcsw.
Sommige zaken (zoals de meeste formulieren) blijven nog een tijdje alleen beschikbaar op de oude website.
Onze excuses voor als je het gevoel krijgt heen-en-weer gestuurd te worden tussen de oude en de nieuwe website!
Luister naar Pim Haselager over de maatschappelijke gevolgen van zelflerende AI
Zelflerende artificial intelligence (AI) wordt voor steeds meer toepassingen ingezet. Zo worden AI-systemen gebruikt om huidkanker te detecteren en om auto’s zelf te laten rijden. Ook in besluitvormingsprocessen wordt AI toegepast. Belangrijke beslissingen, zoals of iemand een hypotheek mag afsluiten, worden door AI ondersteund. Kunnen we deze beslissingen wel vertrouwen? Hoe kan het eigenlijk dat mensen systemen bouwen die beslissingen maken terwijl we niet begrijpen hoe die systemen tot een beslissing komen? Over deze vragen ging filosoof Marc Slors in gesprek met Pim Haselager, hoogleraar Maatschappelijke Implicaties van Kunstmatige Intelligentie aan de Radboud Universiteit en het Donders Instituut.
Maatschappelijke gevolgen
Volgens Haselager is de slechte verklaarbaarheid van AI-modellen niet alleen een probleem voor wetenschappers, maar ook voor de samenleving. Haselager: 'Steeds meer van onze besluitvorming wordt door algoritmes ondersteund. Dit leidt tot serieuze problemen voor de legitimiteit van het beslissingsproces.'
Haselager kaartte twee van deze problemen aan: 'Ten eerste is de informatie die bedrijven en overheden van ons hebben vaak verborgen. We hebben geen toegang tot deze enorme databases. Zelfs als we die toegang wel hebben, zou er te veel informatie voor ons zijn om te verwerken.” Hij vervolgde: “Ten tweede is er een gebrek aan transparantie. We kunnen niet zien wat er in het midden van het model gebeurt.'
Haselager stelde dat de problemen weliswaar meer aandacht krijgen, maar dat is nog niet voldoende. Als voorbeeld gaf hij een medisch expert die AI gebruikt bij het vaststellen van een diagnose. Haselager: 'Er is een mens in the loop die de beslissing van de machine moet bekrachtigen. Maar als het systeem bij de afgelopen honderd patiënten de juiste diagnose heeft gesteld, is de kans groot dat de expert bij de volgende patiënt de machine ook vertrouwt. Er is dan wel een mens in het proces betrokken, maar die maskeert slechts de macht die AI-systemen over mensen hebben.'
Lees, kijk of luister de lezing van Daniel Kahneman via Radboud Reflects.
Denk verder met de lezingen van Radboud Reflects
Radboud Reflects organiseert lezingen voor iedereen over filosofie, religie, ethiek, samenleving en cultuur. De (internationale) wetenschappers die bij ons spreken, bieden je een vernieuwende en verdiepende kijk op de grote vragen van deze tijd. Bekijk het overzicht van verdiepende lezingen die gepland staan. De komende maanden staan er onder andere lezingen van Paul Verhaeghe en Frans de Waal op de planning.