Wat ga je doen?
De ontwikkelingen op het gebied van AI gaan in sneltreinvaart en kunnen fundamentele impact hebben op de wereld om ons heen. Vanuit jouw expertise ga je bijdragen aan onze coördinerende rol om vanuit toezichthoudersperspectief deze ontwikkelingen in goede banen te leiden, en draag je bij aan (voorbereidingen op) een toekomstige rol als AI-toezichthouder.
Op het gebied van regelgeving voor algoritmes en AI vinden veel ontwikkelingen plaats. Denk aan de totstandkoming van algoritmekaders op nationaal niveau en de AI-verordening op Europees niveau. Deze regelgeving biedt houvast door te specificeren wat nodig is voor een goede beheersing van algoritmische processen en AI-systemen. Tegelijkertijd moet veel nadere uitwerking nog plaatsvinden, bijvoorbeeld door te concretiseren (i) wat transparante en “explainable” AI nu precies inhoudt, (ii) hoe de performance van een AI-systeem of algoritme objectief gemeten kan worden of (iii) op welke manier – en hoe vaak en op welke moment – bias en fairnesstoetsingen plaats moeten vinden. Onder andere via de uitwerking van standaarden worden hier verdere stappen gezet. Zodra die duidelijkheid is er is, is de volgende uitdaging natuurlijk ook te zorgen dat dit concreet in de praktijk wordt gebracht en dat er toezicht op wordt gehouden. De komende jaren zijn bepalend voor de praktische uitwerking van dit alles: een kritieke fase. Door je technische kennis op deze manier in te zetten werk je naar een situatie waarbij AI de maatschappij ondersteunt in plaats van onder druk zet.
Kortom, het werkveld van toezicht op algoritmes en AI bevindt zich op het snijvlak van de dagelijkse praktijk waarin data scientists en ML-engineers opereren en de praktijk van regulering, beleidsvorming en toezicht. We zoeken voor ons groeiende team iemand die vanuit de praktijkervaring met machine learning in productie de brug kan slaan naar de uitdagingen waaraan wij werken op het gebied van risicomonitoring, beleidsvorming en toezicht.
Praktisch voorzien we dat je aan de volgende activiteiten gaat werken, met veel ruimte voor eigen invulling:
- Vanuit technisch perspectief in kaart brengen en beschrijven wat de nieuwste ontwikkelingen, uitdagingen en risico’s op het gebied van AI en algoritmes zijn.
- Technische onderbouwing van sturing op verantwoorde inzet van AI en algoritmen. Bijvoorbeeld via methoden om (i) discriminatie te detecteren en corrigeren, (ii) uitlegbaarheid van systemen te waarborgen of (iii) experimenten veilig op te zetten.
- Ontwikkeling van technische capaciteiten voor toezicht, waaronder AI-testfaciliteiten.
- Bijdragen aan technische standaarden voor de AI-verordening.
- Bijdragen aan publieksvoorlichting over AI en algoritmes.
- Bijdragen aan toezicht op AI-systemen
Wat kan je meer verwachten? We werken binnen de Directie Coördinatie Algoritmes (DCA) van de AP op een interdisciplinaire manier samen. Ook in brede zin is het toezicht op algoritmes en AI nog sterk in ontwikkeling. In brede zin kenmerkt je werk zich dus door het uitbouwen van de samenwerking met andere toezichthouders en publieke organisaties. Dit doe je samen met jouw collega’s door gesprekken, presentaties en het schrijven van richtinggevende papers en voorstellen.