Kunstmatige of artificiële intelligentie (afgekort AI) maakt een razendsnelle ontwikkeling door. Met enorme kansen, maar ook risico’s. En dat levert nieuwe vragen op voor toezichthouders. Hoe kunnen we de risico’s zo veel mogelijk beperken, zonder innovatie in de weg te staan? Agentschap Telecom is voorzitter voor de werkgroep ‘Toezicht op AI/algoritmes’. Een club waarin ruim twintig toezichthouders en drie ministeries samenwerken en kennisdelen.
Specifiek én generiek toezicht nodig
Huub Janssen, programmamanager AI bij Agentschap Telecom en voorzitter van de werkgroep, vertelt waarom dit initiatief tot stand kwam: “Het gebruik van AI en algoritmen neemt een geweldige vlucht. AI gaat over grenzen van werkvelden en dus toezichtsdomeinen en departementen heen. Neem zelfrijdende voertuigen. Daarin wordt zoveel technologie en data verwerkt dat het meerdere toezichthouders zal raken. De Rijksdienst voor Wegverkeer (RDW) natuurlijk, de AP voor persoonsgegevens en privacy, markttoezichthouders en wij als Agentschap Telecom voor de beschikbaarheid en betrouwbaarheid van de digitale infrastructuur.
Iedere toezichthouder is verantwoordelijk voor zijn eigen domein en het analyseren van risico’s die AI-toepassingen daarin met zich meebrengen. Zo voorzien wij bij Agentschap Telecom enorme innovaties door combinaties van de opslag van data in de cloud, IoT, 5G en de werking van AI. Het is goed om het specifieke toezicht bij de sectoren te laten. Maar er is ook meer generiek toezicht nodig. Bijvoorbeeld om toe te zien op thema’s als privacy en veiligheid. Daarvoor is samenwerking cruciaal.”
Over grenzen heen
Huub vervolgt: “Voor veel toezichthouders, in ieder geval voor Agentschap Telecom, is het meer dan voorheen nodig om over de eigen grenzen heen te kijken en nog meer samenwerking te zoeken. AI is namelijk zo groot en veelomvattend dat niemand de waarheid in pacht heeft. Plat gezegd: de ontwikkelingen gaan te snel. Er is steeds meer kennis en capaciteit nodig en die expertise is vaak schaars beschikbaar. Door samen te werken en kennis uit te wisselen, voorkomen we dat iedereen opnieuw het wiel uitvindt. Dat zou jammer zijn. Want de komende jaren komt er veel werk op ons af. We hebben de gezamenlijke kennis en expertise hard nodig om de impact van deze nieuwe technologie op de maatschappij in goede banen te leiden.”
“Juist door de veelzijdige kennis, ervaring en de verschillende invalshoeken kunnen toezichthouders veel van elkaar leren.''
Inspecties kunnen veel van elkaar leren
De werkgroep AI/algoritmes vaart onder de vlag van en wordt ondersteund door Bureau Inspectieraad. “Nadat Agentschap Telecom het initiatief nam tot meer samenwerking, komt de werkgroep sinds 2020 elke twee maanden bijeen’’, aldus secretaris Marcel Zandvliet, adviseur Digitalisering en Nieuwe technieken bij de Inspectieraad.
“Juist door de veelzijdige kennis, ervaring en de verschillende invalshoeken kunnen toezichthouders veel van elkaar leren. Over analysemethodieken, beoordelingskaders, datamanagement, IT-auditing, digitalisering, ethiek, privacy of regelgeving die eraan komt. Of zij kunnen in kleiner verband samen onderzoeken of er bijvoorbeeld gekomen kan worden tot generieke standaarden.’’
De burger centraal
Ook de Algemene Rekenkamer, die toezicht houdt op de rijksoverheid, is aangesloten bij de werkgroep. “De overheid gebruikt steeds meer algoritmes om grote hoeveelheden data te verwerken, activiteiten te automatiseren of voorspellingen te doen. Denk aan de steunmaatregelen voor bedrijven tijdens corona’’, vertelt Miranda Pirkovski. Ze is directeur Verantwoordingsonderzoek & Datahub bij de Algemene Rekenkamer en betrokken bij de werkgroep.
“In ons vorig jaar verschenen rapport Aandacht voor Algoritmes concludeerden we dat de burger vaak onvoldoende centraal staat. De Toeslagenaffaire toonde dat overduidelijk aan. Daarom ontwikkelden we een toetsingskader voor algoritmes om daarop toe te zien. Welke risico’s zijn er? Wat is de mogelijke schade?”
“Tijdens het congres dat we vorig jaar organiseerden, heeft de Rekenkamer samen met Agentschap Telecom verder gestimuleerd om meer aandacht te besteden aan toezicht op algoritmes, over departementale en inspectiegrenzen heen. Angeline van Dijk leverde daar een belangrijke bijdrage aan. De Algemene Rekenkamer blijft de komende tijd onderzoek doen naar de wijze waarop de rijksoverheid algoritmes inzet. In ons vervolgonderzoek naar AI zetten we de samenwerking met Agentschap Telecom voort.’’
Samenwerken maakt sterk
Tot slot: wat is volgens Miranda de meerwaarde van de interdepartementale werkgroep? “Juist bij een complex, generiek onderwerp als algoritmes is samenwerking belangrijk. Aan de voorkant, bij het bouwen en inzetten van algoritmes, maar ook bij het controleren en toezicht houden aan de achterkant. En die verschillende disciplines zitten bij deze werkgroep allemaal bij elkaar aan tafel. Samenwerken maakt sterk.”
Meer weten?
Meer weten over AI? Bekijk ons dossier Kunstmatige intelligentie. Of lees het uitgebreide jaarbericht over 2021.
