UWV heeft AI-tool aangekocht die mogelijk niet aan AVG voldoet

Het Nederlands Uitvoeringsinstituut Werknemersverzekeringen heeft een AI-systeem aangekocht dat mogelijk niet voldoet aan de AVG. Het systeem werkt niet met gegevens van burgers die bij het UWV een traject hebben lopen, maar de AI verzamelt mogelijk onterecht data van internet.

Het UWV schrijft in een jaarlijkse evaluatie over het nieuwe AI-systeem dat het eerder heeft aangeschaft, maar waarvoor mogelijk privacyobstakels zijn. Het gaat om een systeem dat het UWV wil gebruiken voor de Bemiddelingsservice. Daarbij worden werkzoekenden aan mogelijke werkgevers gekoppeld. Dat gebeurt sinds vorig jaar met nieuwe kunstmatige intelligentie, maar daarover zijn onlangs ‘vragen opgekomen’. Het UWV zegt niet welke vragen dat zijn. Het is ook niet duidelijk of de tool al in gebruik is of niet.

De vragen zouden betrekking hebben op de manier waarop de AI omgaat met gegevens die van internet zijn verzameld. Het UWV geeft daar verder geen uitleg bij. Mogelijk houden die vragen verband met een recente uitspraak van de Autoriteit Persoonsgegevens rondom scraping. De privacytoezichthouder zei begin vorige maand dat scrapen van informatie van internet in vrijwel alle gevallen illegaal is. Dat is ook van toepassing op kunstmatige-intelligentiemodellen, die vaak getraind worden op zulke informatie.

Het UWV zegt dat de leverancier van de software verantwoordelijk is om aan de AVG te voldoen. “UWV vindt het belangrijk dat de AVG-compliance van de aangeschafte software geborgd is en is hierover met de leverancier in gesprek”, zegt de instantie.

Opvallend is dat de software is aangeschaft terwijl er nog een andere toetsing loopt. Voorafgaand aan de inzet ervan is er een commissie ‘Data-ethiek’ geweest, die de software heeft beoordeeld. Er loopt echter nog steeds een ander traject: dat van een ‘impact assessment voor mensenrechten bij de inzet van algoritmes’. Sinds 2022 is het voor overheidsinstanties verplicht zo’n iama uit te voeren voorafgaand aan de inzet van algoritmes die mogelijk gegevens van Nederlandse burgers verwerken. Het UWV zegt nu dat dat onderzoek nog loopt.

Update: in het artikel stond aanvankelijk dat het UWV de tool in gebruik heeft, maar het is niet duidelijk of dat het geval is. De tool is in ieder geval aangekocht. Dat is aangepast.