Skip to main content

blog

AI-wetgeving EU en de Toeslagenaffaire

| Author: Jord Goudsmit

Op 21 april publiceerde de Europese Commissie (EC) haar langverwachte voorstel voor de regulering van Artificiële Intelligentie (AI). In ons vorige blog gaven we een overzicht van de belangrijkste punten. In dit blog duiken we de diepte in: had met deze regulering de Toeslagenaffaire voorkomen kunnen worden?

De Toeslagenaffaire: hoe het begon

De afdeling Toeslagen gebruikte een risico-classificatiemodel dat een algoritme bevat om in te schatten hoe groot het risico is dat een aanvraag verkeerd is ingediend. Het gaat om een zelflerend model dat getraind moet worden met voorbeelden van juiste en onjuiste aanvragen. Vervolgens ‘leert’ het model wanneer een aanvraag het meest lijkt op een onjuiste aanvraag en dus een hoog risico heeft. Op basis van tientallen indicatoren komt het systeem tot een bepaalde risico-score. Een van de indicatoren die werd meegenomen in de beoordeling en leidde tot een hoger risico was het Nederlanderschap. Iemand die geen Nederlandse nationaliteit had, kreeg een hogere score in de risicoschatting.

De AI-regulering

Het grootste deel van het Europese voorstel gaat over AI-systemen met een hoog risico. AI-systemen die door autoriteiten worden ingezet om te bepalen of iemand recht heeft op uitkeringen of bijstand vallen in die categorie. Deze hoog-risico AI-systemen moeten vervolgens aan een lange lijst van vereisten voldoen. Het risico-classificatiemodel dat Toeslagen gebruikte, valt dus ook binnen deze categorie.

Want to read the entire blog? Click on the "read more" button.