Het korte antwoord
Wie een AI-systeem gebruikt dat persoonsgegevens verwerkt, moet zowel aan de AVG als aan de AI-verordening (Verordening (EU) 2024/1689) voldoen. De AVG regelt of u de gegevens mag gebruiken; de AI-verordening stelt eisen aan het systeem zelf, afhankelijk van het risico.
Verboden AI-praktijken en de plicht tot AI-geletterdheid gelden sinds 2 februari 2025. De meeste verplichtingen voor hoog-risico-AI uit bijlage III zijn door de Digitale Omnibus voor AI (Verordening (EU) 2026/1744) uitgesteld tot 2 december 2027.
Welke AVG-regels gelden bij AI?
- Grondslag: ook voor het trainen of verfijnen van een model met persoonsgegevens heeft u een grondslag nodig (artikel 6 AVG).
- Transparantie: betrokkenen moeten weten dat hun gegevens in een AI-toepassing worden verwerkt.
- Geautomatiseerde besluitvorming: een besluit met rechtsgevolg of aanmerkelijke gevolgen mag niet uitsluitend geautomatiseerd worden genomen, behoudens uitzonderingen (artikel 22 AVG). Het Hof van Justitie oordeelde in SCHUFA (7 december 2023, C-634/21) dat ook een automatisch berekende score daaronder kan vallen als die doorslaggevend is.
- DPIA: bij AI met persoonsgegevens is een DPIA bijna altijd verplicht.
- Gegevensminimalisatie en juistheid: let op ingevoerde klant- of personeelsgegevens in openbare chatbots.
Wat regelt de AI-verordening?
De AI-verordening deelt AI in naar risico. Bepaalde praktijken zijn verboden, zoals sociale scoring, emotieherkenning op de werkplek en in het onderwijs, en het ongericht verzamelen van gezichtsafbeeldingen. Hoog-risico-AI, zoals systemen voor werving en selectie, kredietbeoordeling of toegang tot onderwijs, moet aan strenge eisen voldoen. Voor chatbots en AI-gegenereerde content gelden transparantieplichten.
Elke organisatie die AI gebruikt, moet zorgen dat haar medewerkers voldoende AI-geletterd zijn (artikel 4 AI-verordening). Die plicht geldt al, ook voor kleine organisaties.
Welke deadlines gelden nu?
- 2 februari 2025: verboden AI-praktijken en AI-geletterdheid.
- 2 augustus 2025: regels voor AI-modellen voor algemene doeleinden.
- 2 augustus 2026: transparantieplichten en governance; voor systemen die al vóór die datum op de markt waren, geldt voor het markeren van AI-gegenereerde content een overgangstermijn tot 2 december 2026.
- 2 december 2027: kernverplichtingen voor hoog-risico-AI uit bijlage III.
- 2 augustus 2028: hoog-risico-AI in producten die onder sectorale productwetgeving vallen.
De Digitale Omnibus voor AI trad op 27 juli 2026 in werking. Het bredere Digitale Omnibus-voorstel, dat ook de AVG wijzigt, is nog in onderhandeling.
Wie houdt toezicht?
In Nederland houdt de AP toezicht op de verwerking van persoonsgegevens, ook in AI-toepassingen, en coördineert zij het toezicht op algoritmes. Voor de AI-verordening werkt Nederland met meerdere markttoezichthouders, afhankelijk van de sector.
Wat kunnen wij voor u doen?
- Bepalen in welke risicocategorie uw AI-toepassing valt en welke plichten daarbij horen.
- Een DPIA en een grondrechteneffectbeoordeling combineren.
- Contracten met AI-leveranciers beoordelen op gebruik van uw data voor training.
- Een intern AI-beleid opstellen, inclusief regels voor medewerkers die chatbots gebruiken.
Veelgestelde vragen
Mogen medewerkers klantgegevens in ChatGPT invoeren?
Alleen als daar een grondslag voor is, er een verwerkersovereenkomst of passende contractuele afspraak met de aanbieder geldt en doorgifte buiten de EER is geregeld. Leg in een AI-beleid vast wat wel en niet mag.
Valt AI-sollicitatiesoftware onder hoog risico?
Ja, AI voor werving en selectie staat in bijlage III. De meeste verplichtingen gelden vanaf 2 december 2027; de AVG en het verbod op uitsluitend geautomatiseerde besluiten gelden nu al.
Wat is AI-geletterdheid?
De plicht om te zorgen dat medewerkers die met AI werken voldoende kennis hebben van de werking, kansen en risico’s. Die plicht geldt sinds 2 februari 2025.
Een vraag over uw eigen situatie?
Mail ons in een paar zinnen waar uw vraag over gaat, via info@lawandmore.nl. Wij laten u weten of wij u kunnen helpen en wat de volgende stap is.
Mail onsDit artikel geeft algemene informatie en vervangt geen advies over uw specifieke situatie.