De Europese AI Act: kader voor verantwoord AI-gebruik op de werkvloer

Deze AI Act heeft ingrijpende juridische implicaties, vooral voor bedrijven die AI inzetten op de werkvloer. Het is daarom belangrijk om op tijd te begrijpen wat de AI Act inhoudt en welke verplichtingen en risioco’s dit met zich meebrengt voor jou.

Wat is de AI Act?

De AI Act is het eerste uitgebreide regelgevingskader ter wereld dat AI-systemen classificeert op basis van risico’s:

• Laag risico: AI-systemen die minimale impact hebben, zoals spamfilters.
• Beperkt risico: systemen waarbij gebruikers worden geïnformeerd over het gebruik van AI, bijvoorbeeld chatbots.
• Hoog risico: AI-systemen met mogelijke impact op fundamentele rechten, zoals toepassingen in recruitment, prestatiemanagement of beslissingen over promoties. Voor deze categorie gelden strenge eisen.
• Onaanvaardbaar risico: AI-toepassingen die bijvoorbeeld technieken gebruiken om gedrag te manipuleren, zijn verboden.

Deze risicogebaseerde aanpak biedt bedrijven duidelijkheid, maar vraag ook om structurele aanpassingen in het inzetten en beheren van AI.

De EU AI Act is op 1 augustus 2024 formeel in werking getreden maar verplichtingen worden gefaseerd ingevoerd. Sinds 2 februari 2025 gelden onder andere de verboden toepassingen en de plicht tot AI-geletterdheid, medewerkers moeten voldoende kennis hebben om AI-systemen verantwoord te gebruiken. Per 2 augustus 2025 is een nieuwe tranche gestart met regels rond GPAI/foundation models, governance en sancties. Deze regels gelden voor documentatie, transparantie, mitigatie en testen. Gebruikers moeten leveranciers controleren en beleid opstellen voor veilig gebruik. In 2026-2027 verder toepassing en volledige handhaving.

AI op de werkvloer en juridische implicaties

Het gebruik van AI op de werkvloer roept vragen op over de naleving van regelgeving, transparantie en aansprakelijkheid. De belangrijkste juridische thema’s:

1. Naleving van bestaande wetgeving

• Algemene Verordening Gegevensbescherming (AVG): AI-systemen verwerken vaak persoonsgegevens. Bedrijven moeten ervoor zorgen dat de verwerking voldoet aan principes zoals transparantie, gegevensminimalisatie en expliciete toestemming bij gevoelige gegevensverwerking. Geautomatiseerde besluitvorming (artikel 22 AVG) mag alleen met passende waarborgen worden ingezet, zoals menselijke tussenkomst bij belangrijke besluiten.
• Arbeidsrecht: beslissingen over aanstellingen, promoties of ontslag door AI moeten objectief, transparant en verdedigbaar zijn. Het negeren van deze verplichtingen kan leiden tot arbeidsrechtelijke claims.

2. Aansprakelijkheid

De AI Act introduceert duidelijke verantwoordelijkheden voor bedrijven. Werkgevers kunnen aansprakelijk worden gesteld voor schade veroorzaakt door AI-systemen, bijvoorbeeld bij discriminerende beoordelingen. Dit sluit aan op de toekomstige AI Liability Directive, die bewijslastverlichting biedt voor slachtoffers van aan AI gerelateerde schade.

3. Transparantieverplichtingen

Werkgevers moeten werknemers en stakeholders, zoals ondernemingsraden, informeren als AI-systemen worden gebruikt in processen die hun rechten kunnen beïnvloeden. Dit omvat uitleg over het gebruik, de werking (bijvoorbeeld hoe algoritmen tot beslissingen komen) en de mogelijkheid om menselijke interventie te vragen.

4. Contractuele verplichtingen

Bedrijven moeten contracten met leveranciers van AI-systemen laten voldoen aan de AI Act. Dit omvat garanties over risicobeoordeling, documentatie en aanpassingen bij non-compliance.

Wat zijn de belangrijke verplichtingen onder de AI Act?

Naast de bredere, juridische implicaties bevat de AI Act ook specifieke verplichtingen:

• Risicobeoordeling: identificeer en beperk risico’s voorafgaand aan het gebruik van AI, vooral in arbeidsgerelateerde toepassingen.
• Monitoring en audits: controleer AI-systemen regelmatig en documenteer deze controles om naleving aan te tonen.
• Klachtenprocedures: zorg voor een transparante klachtenprocedure waarmee werknemers oneerlijke behandeling door AI kunnen melden.

Praktische voorbeelden en oplossingen

Discriminatieclaims

Een recruitmenttool die getraind is op een dataset met een vooroordeel kan onbedoeld discriminerende beslissingen nemen. Oplossing hiervoor is het uitvoeren van audits op datasets en algoritmen om vooroordelen te identificeren en corrigeren.

Privacygeschillen

Een werknemer klaagt over ongeoorloofd gebruik van gegevens in een AI-gestuurd prestatiemanagementsysteem. De oplossing is het opstellen van privacyverklaringen en ervoor te zorgen dat werknemers expliciete toestemming geven voor de gevoelige gegevensverwerking.

Contractbreuk met leveranciers

Een leverancier levert een AI-systeem dat niet voldoet aan wettelijke eisen, met boetes als gevolg. De oplossing is om in contracten op te nemen dat leveranciers aansprakelijk zijn voor non-compliance en zorg voor garanties op het gebied van naleving.

Hoe voorkom je problemen met AI binnen jouw bedrijf?

1. Voer een risicobeoordeling uit: identificeer alle AI-systemen en beoordeel de risico’s volgens de AI Act.
2. Stel een compliance-team samen: zorg voor samenwerking tussen juridische, IT- en HR-experts.
3. Werk contracten bij: zorg ervoor dat leverancierscontracten voldoen aan de eisen van de AI Act en de AVG.
4. Implementeer trainingsprogramma’s: train medewerkers over het verantwoord gebruik van AI en de nieuwe verplichtingen.
5. Documenteer processen: zorg ervoor dat alle monitoring- en auditactiviteiten goed gedocumenteerd zijn.

Inzet AI vraagt om verantwoord gebruik

De Europese AI Act markeert een nieuwe juridische realiteit voor bedrijven die AI gebruiken op de werkvloer. Door de wetgeving proactief te omarmen, kunnen werkgevers juridische risico’s beperken en vertrouwen opbouwen bij werknemers en klanten. Het inzetten van AI biedt grote kansen, maar vraagt om verantwoord gebruik. Met de juiste voorbereiding en ondersteuning van de juristen van aaff kunnen bedrijven AI inzetten op een manier die zowel innovatief als compliant is.

Meer weten?

aaff is graag overal van betekenis. Wil jij meer weten over de kansen en risico’s van de inzet van AI binnen jouw bedrijf? Neem contact op met onze juristen.