AP en RDI willen snel duidelijkheid over wie toezicht houdt op AI

De Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur roepen het Nederlandse kabinet op snel een beslissing te nemen over wie toezicht moet houden op AI-systemen. Deze oproep hangt samen met nieuwe Europese regelgeving die begin 2025 in werking treedt.

Het kabinet vroeg de twee toezichthouders te kijken naar hoe het toezicht rondom de AI Act van de Europese Unie geregeld moet worden. Dat toezicht moet ‘snel geregeld worden en vraagt samenwerking’, schrijven de twee toezichthouders. Vooral het regelen van de toezichthouder voor verboden AI-systemen is ‘bijzonder urgent’. Onder de AI Act zijn namelijk bepaalde AI-systemen vanaf januari 2025 verboden.

De twee organisaties vinden dat de Autoriteit Persoonsgegevens de toezichthouder moet worden voor dergelijke verboden AI-software, maar daar is de AP op dit moment niet voor uitgerust. ‘Dit vraagt voorbereiding en uitwerking’. Daarom willen de autoriteiten snel duidelijkheid over eventueel extra budget en personeel. Dit geldt volgens de organisaties ook voor de vraag wie toezicht moet houden op het beschermen van grondrechten bij AI-systemen. “Daarom zullen over het bovenstaande snel gesprekken gestart moeten worden tussen de departementen en de betrokken toezichthouders.”

Andere delen van de AI Act treden pas in 2026 in werking en zijn daarom minder urgent. Dan gaat het bijvoorbeeld om wie toezicht moet houden op producten met kunstmatige intelligentie die volgens de EU een hoog risico inhouden. De AP en RDI adviseren dat dit toezicht zoveel mogelijk aansluit bij het al bestaande toezicht, bijvoorbeeld als het om producten gaat die nu een CE-markering vereisen. “De Nederlandse Voedsel- en Warenautoriteit blijft bijvoorbeeld speelgoed keuren, ook als er AI in verwerkt zit”, schrijven de toezichthouders. “En de Inspectie Gezondheidszorg en Jeugd gaat ook toezicht houden op de AI in medische apparaten.” Daarbij geldt wel dat toezichthouders, bedrijven en organisaties kunnen samenwerken, waarbij ze bijvoorbeeld aan de RDI kunnen vragen of een product aan AI-regelgeving voldoet.

De Autoriteit Persoonsgegevens zou weer toezicht moeten houden op AI-producten of -toepassingen die geen CE-markering vereisen, ongeacht de sector. “Van onderwijs tot migratie en van werkgelegenheid tot rechtshandhaving: de AP zou hier de zogeheten markttoezichthouder moeten zijn’. Die markttoezichthouder moet volgens de AI Act controleren dat AI voldoet aan eisen rondom bijvoorbeeld het trainen van AI, transparantie en menselijke controle. “Dat vereist veel specialistische kennis en kunde, en het is efficiënt als die gebundeld zijn”, zegt AP-voorzitter Aleid Wolfsen.

Hiervoor gelden twee uitzonderingen: de financiële sector en de kritieke infrastructuur. De Autoriteit Financiële Markten en de Nederlandsche Bank zouden markttoezichthouder moeten worden voor die financiële sector, de Inspectie Leefomgeving en Transport en de RDI zouden dat weer moeten worden voor de kritieke infrastructuur. Het kabinet moet zich nu buigen over de adviezen van de toezichthouders.