Terugblik AI Toezichtscongres 2025
Onlangs (10 december j.l.) kwamen honderden experts, ontwikkelaars en toezichthouders samen in Amersfoort voor het AI Toezichtscongres 2025. Als deelnemer proefde ik een duidelijke verschuiving in de lucht: we praten niet langer alleen over wat de AI Act is, maar vooral over hoe we deze in de praktijk brengen.
De rode draad?
Toezicht is geen rem op innovatie, maar juist de noodzakelijke weg naar betrouwbare AI die de menselijke autonomie centraal stelt.
Samenwerking als Sleutel
Een van de belangrijkste boodschappen van de dag kwam van de Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI). Zij trekken gezamenlijk op om het toezicht op AI te coördineren. Waar de RDI zich richt op de technische veiligheid en digitale infrastructuur, waakt de AP over onze grondrechten en persoonsgegevens.
De toezichthouders gaven een duidelijke handreiking: ze willen samen optrekken met innovatieve partijen. De AI Act biedt de bouwstenen, maar de echte kunst is het slaan van de brug tussen de ontwikkelaars en de toezichthouder.
De belangrijkste takeaways uit de deelsessies
Het programma was omvangrijk. Voor wie er niet bij kon zijn, heb ik de belangrijkste inzichten uit de sessies op een rij gezet:
1. Standaarden: Het fundament van compliance
In de sessie over standaarden en conformiteitsbeoordelingen werd duidelijk dat geharmoniseerde Europese standaarden (zoals die van CEN/CENELEC) essentieel zijn. Voor hoog-risico AI-systemen geven deze standaarden een 'vermoeden van conformiteit'. Dit versnelt het proces naar een CE-markering en zorgt voor een gelijk speelveld in de EU.
2. De FRIA: Meer dan privacy alleen
Voor publieke organisaties en aanbieders van essentiële diensten is de Fundamental Rights Impact Assessment (FRIA) volgens Artikel 27 van de AI Act nu echt een feit. Het gaat niet alleen om data, maar om de impact op de democratie, de rechtsstaat en zelfs het milieu.
3. AI-geletterdheid (Artikel 4)
Een opvallend thema was de menselijke kant: AI-geletterdheid. Organisaties zijn verplicht om te investeren in de kennis van hun personeel. Medewerkers moeten begrijpen hoe AI-systemen werken en wat de risico’s zijn. Compliance begint dus niet bij de code, maar bij de mensen die ermee werken.
Een blik op de toekomst: Internet of Agents
We kijken alweer verder dan de huidige chatbots. In de sessie over het 'Internet of Agents' werd gewaarschuwd voor een nieuw dreigingslandschap. Wanneer AI-agenten autonoom handelingen gaan verrichten, wordt cybersecurity nog crucialer. Het beveiligen van deze systemen tegen 'prompt injection' en het borgen van menselijke controle zijn de uitdagingen voor 2026 en daarna.
Download de presentaties
Kon je een sessie niet bijwonen of wil je de details uit de presentaties van de AP en RDI nog eens rustig nalezen? De toezichthouders hebben de presentaties die openbaar gedeeld mogen worden online gezet.
Bekijk en download hier de presentaties: > Presentaties AI Toezichtcongres 2025 (RDI.nl)
Hoe nu verder?
De kaders zijn gesteld en de toezichthouders staan klaar voor dialoog. Voor organisaties is het nu tijd om de 'bouwstenen' van de AI Act te gaan stapelen.
