qeep talking #44

Show notes

Een bijzondere aflevering! De eerste aflevering van qeep talking die live is opgenomen voor een publiek. En dat publiek bestond uit privacy en security experts van de gemeente Utrecht. Daar vond ook het gesprek plaats met Tom Kanis, wetgevingsjurist AI bij BZK. Renco en Tom praten over de route die AI wet- en regelgeving aflegt van Brussel naar een overheidsgebouw en waar AI thuishoort in het organogram en de governance van een overheidsorganisatie. Ook beantwoorden ze vragen vanuit het publiek.

Web player

Lees je dit in je mailbox en werkt de web player niet?
Luister de aflevering dan hier (of in je favo podcast app).

Podcast samenvatting

Een live-opname vanaf de 21e verdieping van het Utrechtse stadskantoor, voor een zaal vol security- en privacyexperts die vragen mogen stellen. Gast is Tom Kanis, wetgevingsjurist bij ministerie BZK.

Van Brussel naar Den Haag
Tom schetst hoe Europese wetgeving tot stand komt en wat het verschil is: een verordening geldt direct in alle lidstaten (zoals de AVG en de AI-verordening) en een richtlijn moet eerst worden omgezet naar Nederlands recht. Voor "gesettlede" onderwerpen verwacht hij steeds meer verordeningen, want die garanderen één gelijk speelveld in de Europese markt.

De AI Act als productveiligheidswet
Eye-opener uit de zaal: de AI Act is in essentie een productveiligheidswet — iets wat weinig mensen beseffen. Net als bij CE-markering horen er normen, keurmeesters en certificering bij, deels in publiek-private samenwerking. De verordening verbiedt bepaalde toepassingen gewoonweg en stelt strenge eisen aan hoog-risicosystemen: zowel AI in producten (auto's, drones) als AI in gevoelige domeinen zoals werving en uitvoering van uitkeringen.

AI in de organisatie positioneren
Bij BZK wordt AI-expertise ondergebracht naast security en privacy, binnen de bedrijfsvoering. Toms kernpunt: de verantwoordelijkheid moet ergens liggen — "leg je die bij iedereen, dan ligt ze nergens." Renco signaleert dat het takenpakket bij kleinere organisaties vaak bij de CISO of FG belandt, zonder capaciteit. In de zaal wordt verankering bij inkoop en HR als logische aanvulling genoemd.

Gevaren en stand van zaken
De gevaren van AI zijn volgens een aanwezige nog slecht geïnventariseerd: dataverkeer naar aanbieders, bias in modellen en processen, politieke beïnvloeding en het marginaliseren van de rechtspositie van burgers. Praktisch: de AI-verordening treedt gefaseerd in werking en is pas rond 2028 volledig van kracht; Nederland moet zijn toezichthouders en keuringsinstanties nog regelen. Wie vandaag wil laten keuren, kan nog niemand bellen.

Slotgedachte
Volledig terugschakelen van AI is geen optie — straks bestaan taakapplicaties niet meer zonder AI-onderdelen, en alleen grote partijen zoals het Rijk kunnen daarover onderhandelen met leveranciers. De keuze per organisatie: hoeveel risico accepteer je, en wie brengt daar rust in en grip op?

Disclaimer: bovestaande samenvatting is gemaakt op basis van het podcast transcript. Dit transcript wordt bijna helemaal door AI gemaakt en kan onjuistheden bevatten.

Podcast website

Alle afleveringen van qeep talking zijn (ook) te vinden op de speciale podcast website. Via deze site vind je ook de links naar Apple Podcasts, Spotify, YouTube, en meer. Gebruik je liever een andere app? Geen probleem: je vindt er ook de directe RSS feed.