Artificial Intelligence Act: wetgeving AI

De Europese AI-verordening (AI Act, Verordening (EU) 2024/1689) is op 1 augustus 2024 in werking getreden. De regels worden gefaseerd van toepassing. Organisaties die AI ontwikkelen, aanbieden of gebruiken moeten rekening houden met nieuwe verplichtingen op het gebied van transparantie, risicobeheersing, menselijk toezicht en AI-geletterdheid

Voordelen en nadelen artificial intelligence

Enerzijds biedt artificial intelligence (AI) veel voordelen, zoals efficiëntere processen en betere besluitvorming. Anderzijds zijn er veel vragen over privacy en ethiek. De opkomst van artificial intelligence (AI) heeft geresulteerd in een groeiende behoefte aan wetgeving om deze technologie te reguleren en te zorgen voor veilig en verantwoord gebruik. De Europese Unie en haar lidstaten hebben daarom een Artificial Intelligence Act opgesteld, waarin voorwaarden en bepalingen over het gebruik zijn opgenomen.  

Wat is het doel van de Artificial Intelligence Act? 

In april 2021 heeft de Europese Commissie de eerste conceptversie van de AI-wetgeving al gepresenteerd in de vorm van de Artificial Intelligence Act (AI-Act). Het doel van de wetgeving is om een wettelijk kader te creëren voor het gebruik van Artificial Intelligence in de EU, waarbij rekening wordt gehouden met de risico's die gepaard gaan met deze technologie. Het streven is om de wetgeving dit najaar definitief vast te stellen. De AI Act is op 1 augustus 2024 in werking getreden. De verschillende verplichtingen worden gefaseerd van toepassing tussen 2025 en 2028.

AI-systemen met een hoog risico

De AI Act hanteert een risico-gebaseerde aanpak. Sommige AI-toepassingen zijn volledig verboden. Hoog-risico-systemen moeten aan strenge eisen voldoen. Voor bepaalde toepassingen, zoals chatbots en AI-gegenereerde content, gelden transparantieverplichtingen. Voor systemen met een beperkt risico gelden minder verplichtingen.

Wat zijn de belangrijkste punten uit de AI-Act?

Wanneer we inzoomen op de voorwaarden en bepalingen, dan valt een aantal zaken op in de act:

Risicobeoordelingen
Bedrijven die Artificial Intelligence Act systemen op de markt willen brengen, moeten eerst een risicobeoordeling uitvoeren. Dit houdt in dat zij de potentiële risico's van hun AI-systeem moeten identificeren en maatregelen moeten nemen om deze risico's te minimaliseren. Dit omvat het identificeren van mogelijk discriminatoire effecten, het minimaliseren van de kans op fouten en het zorgen voor transparantie in het besluitvormingsproces van het AI-systeem.

Gebruikersrechten
De wetgeving rondom Artificial Intelligence Act schrijft voor dat bedrijven gebruikersrechten moeten waarborgen. Dit betekent dat gebruikers het recht hebben om te weten wanneer ze met een AI-systeem te maken hebben en welke beslissingen op basis daarvan worden genomen. In diverse situaties moeten gebruikers worden geïnformeerd dat zij met AI te maken hebben. Daarnaast kunnen uit andere wetgeving, zoals de AVG, aanvullende rechten voortvloeien, bijvoorbeeld wanneer persoonsgegevens worden verwerkt of geautomatiseerde besluitvorming plaatsvindt.

Transparantie
De AI Act bevat vooral product- en nalevingsverplichtingen. Mogelijke aansprakelijkheid voor schade wordt daarnaast beheerst door bestaande nationale aansprakelijkheidsregels, productaansprakelijkheid en andere relevante wetgeving. Of een organisatie daadwerkelijk aansprakelijk is, hangt af van de omstandigheden van het geval.

Datakwaliteit en privacy
Bedrijven moeten ervoor zorgen dat de gegevens die ze gebruiken voor hun AI-systemen van hoge kwaliteit zijn en geen onnodige vooroordelen bevatten. Bovendien moeten bedrijven de bescherming van persoonlijke gegevens van gebruikers waarborgen en ervoor zorgen dat de AI-systemen voldoen aan de Algemene Verordening Gegevensbescherming (AVG). 

Aansprakelijkheid
Bedrijven zijn aansprakelijk voor schade die is veroorzaakt door hun AI-systemen. Dit betekent dat bedrijven verantwoordelijk zijn voor eventuele fouten of ongevallen die worden veroorzaakt door hun AI-systemen.

AI-geletterdheid
Sinds 2 februari 2025 moeten aanbieders en gebruikers van AI-systemen ervoor zorgen dat medewerkers die met AI werken over voldoende kennis beschikken om AI verantwoord te gebruiken. Welke maatregelen nodig zijn, hangt af van de aard van de organisatie en de gebruikte AI-systemen.

Verboden AI-praktijken
De AI Act verbiedt bepaalde toepassingen vanwege het onaanvaardbare risico voor grondrechten en veiligheid. Voorbeelden zijn:

• Manipulerende AI die gedrag op schadelijke wijze beïnvloedt;
• Bepaalde vormen van sociale scoring;
• Bepaalde toepassingen van emotieherkenning op werk en in onderwijs;
• Het ongericht verzamelen van gezichtsbeelden voor biometrische databanken;
• Diverse vormen van real-time biometrische identificatie in openbare ruimten, behoudens wettelijke uitzonderingen.

Toezicht in Nederland
De AI Act geldt rechtstreeks in Nederland. Voor het nationale toezicht werkt het kabinet aan een uitvoeringswet. De Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI) krijgen daarin een centrale coördinerende rol. Daarnaast zullen ook andere toezichthouders, zoals AFM, DNB en diverse inspecties, toezicht houden binnen hun eigen domein.

Wat betekent dit voor jou?

Als je een bedrijf hebt dat Artificial Intelligence Act systemen ontwikkelt, verkoopt of gebruikt in de EU, doe je er verstandig aan om de ontwikkeling van de AI-wetgeving nauwlettend te volgen. Zorg ervoor dat je aan de (aanstaande) wetgeving voldoet. Je diensten en producten moeten veilig en ethisch verantwoord zijn en moeten voldoen aan de verwachtingen van gebruikers.

Tijdlijn

Meer weten?

aaff is graag overal van betekenis. Wil je meer informatie over wetgeving rondom artificial intelligence? Neem contact op met onze jurist ondernemingsrecht en ICT-recht.