AI Officer voor de Publieke Sector

Programmaoverzicht

Dag 1: Introductie in de algemene werking van AI
Docent: Jolanda ter Maten
Ochtend: Basisprincipes van AI

• Wat is AI? Begrippen en definities.
• Toepassingen van AI in de publieke sector

Middag: AI-systemen ontleden

• Data als basis voor AI: kwaliteit en bias.
• Het trainen van modellen: wat gebeurt er in een AI-systeem?
• Beperkingen en risico's van AI-systemen.

Interactieve sessie:

• Workshop: Analyse van een fictieve AI-toepassing in de publieke sector.

Dag 2: Ethiek en Generatieve AI
Docent: Jolanda ter Maten

De ochtend richt zich op het begrijpen van generatieve AI, inclusief de werking, toepassingen en de impact op data en privacy. Je verkent de ethische vraagstukken die ontstaan bij het gebruik van deze technologieën, zoals transparantie, bias en verantwoordelijkheid.

In de middag volgt een praktische workshop, waarin je een case study onderzoekt over ethische dilemma’s bij het gebruik van AI in publieke diensten. Zo krijg je de kans om oplossingsrichtingen te bedenken voor verantwoord gebruik van AI in jouw eigen werkveld.

Dag 3: Cybersecurity en AI
Docent: Ramona ten Dam

Ochtend: AI en cybersecurity

• Risico’s van AI: manipulatie, adversarial attacks, en datalekken.
• Hoe AI wordt gebruikt in cyberaanvallen én verdediging.

Middag: Beveiliging van AI-systemen

• Bescherming van modellen en data.
• Best practices voor implementatie van veilige AI-systemen.

Interactieve sessie:

• Simulatie: Identificeer en analyseer kwetsbaarheden in een AI-systeem.

Dag 4: De noodzaak van regulering van AI-systemen
Docenten: Jantien Hovingh en Paul Dam

Geschiedenis/tijdlijn 

• Ontwikkeling vanuit grondrechten en ethiek (robuust, ethisch en wettig)
• Transparantie (veilig, begrijpelijk etc)
• Noodzaak regulering EU

Ontwikkeling wettelijk kader
- Guidelines HLEG  
- Vijf hoofdstromen van regulering:

• data,
• cyber,
• platforms,
• content,
• AI (AI Act, Richtlijn aansprakelijkheid AI, Productaansprakelijkheid AI)

Overzicht van wetten die het gebruik van AI reguleren

• raakvlakken met de AVG
• inzicht in (product) aansprakelijkheidswetgeving
• overig: IP, DORA, NIST etc.

AI  Act: waarom?

Dag 5: Juridisch kader voor risicobeheersing, governance en AI-compliance
Docenten: Jantien Hovingh en Paul Dam

• Betrouwbare AI – verantwoorde inzet (structuur van de AI act: opzet, wat, wie, wanneer, hoe): structuur AI act / open normen / risicogebaseerd
• Wat valt er onder het begrip ‘AI-systeem’ (in de zin van artikel 3.1 AI Act)?
• Welke rol heb je ten aanzien van het AI-systeem (in de zin van overweging ?)
• Risicoclassificatie van AI-systemen & governance
• Risicoclassificatie hoog, dan meer compliance-vereisten en aantoonbaarheid
• Transparantie
• Toetsing op borging (grond)rechten (privacy)
• Data inzet Robuust en veilig systeem
• Menselijk toezicht
• Conformiteits eisen
• Documentatie (modelcard) Inrichting monitoring gedurende de gehele levenscyclus en beheersing risico’s  
• Transparantie moet altijd (ook bij laag-risico AI-systemen)
• Hoe uitvoering geven aan artikel 29a (toetsing met IAMA of ander kader, stakeholders, CE, model card)
• Risico’s in de levenscyclus van AI-systemen (beheersen van risico’s bij de ontwikkeling en implementatie van AI-systemen en na implementatie)
• Rol- en taakverdeling in de organisatie (privacy officer, FG, AI compliance officer etc.)

Casussen 

• Camera met gezichtsherkenning bij toegang coffeeshop
• Proctoring
• Automatisch toekennen van vergunningen in het fysieke domein en de bezwaarschriftenafhandeling
• Beoordeling Wmo-aanvragen
• Risicosignalen genereren om fraude met de Participatiewet tegen te gaan

Aan het einde van de cursus ontvangen deelnemers een certificaat van deelname. Elke cursusdag wordt afgesloten met een toets.