De Europese Unie heeft met de AI Act de eerste grootschalige wettelijke regeling voor kunstmatige intelligentie ter wereld ingevoerd. De verordening markeert een nieuwe fase in de regulering van technologie: AI wordt niet langer slechts als innovatie, maar als juridisch verantwoord systeem beschouwd.
De AI Act heeft gevolgen voor bedrijven die AI ontwikkelen, gebruiken of integreren in hun bedrijfsprocessen. In dit artikel bespreekt Soliman Legal de belangrijkste juridische verplichtingen en praktische aandachtspunten.
Doel en reikwijdte van de AI Act
De AI Act is bedoeld om het gebruik van kunstmatige intelligentie veiliger, transparanter en controleerbaar te maken. De verordening is rechtstreeks van toepassing in alle EU-lidstaten en heeft een brede reikwijdte: van ontwikkelaars van AI-systemen tot bedrijven die deze systemen implementeren.
De wet hanteert een risicogebaseerde benadering. Afhankelijk van het type AI en de risico’s voor fundamentele rechten of veiligheid, gelden verschillende nalevingseisen.
De verordening onderscheidt vier categorieën:
- Verboden AI-systemen – toepassingen die in strijd zijn met grondrechten, zoals manipulatieve gedragssturing of sociale scoring.
- Hoog-risico AI-systemen – onder meer AI die wordt gebruikt bij werving, kredietbeoordeling, medische diagnose of kritieke infrastructuur.
- Beperkt-risico systemen – bijvoorbeeld chatbots die transparantie-eisen moeten naleven.
- Laag-risico systemen – zoals eenvoudige automatiseringen, met minimale verplichtingen.
Nieuwe verplichtingen voor bedrijven
Bedrijven die AI-systemen ontwikkelen of gebruiken, krijgen te maken met nieuwe juridische verantwoordelijkheden.
Hoog-risico AI-systemen moeten voldoen aan eisen op het gebied van:
- risicobeoordeling en mitigatie;
- gegevenskwaliteit en databeveiliging;
- technische documentatie en transparantie;
- menselijke controle (human oversight);
- registratie in een EU-database;
- voortdurende monitoring en rapportage van incidenten.
Gebruikers van AI-systemen – bijvoorbeeld ondernemingen die algoritmes inzetten voor recruitment of klantprofilering – moeten kunnen aantonen dat zij de systemen verantwoord gebruiken en weten hoe beslissingen tot stand komen. Dit vraagt om interne beleidskaders, audits en training.
Contractuele en governance-gevolgen
De AI Act raakt ook de contractuele verhoudingen tussen ontwikkelaars, leveranciers en afnemers van AI-diensten.
In overeenkomsten over softwareontwikkeling, dataverwerking of cloudgebruik zullen nieuwe clausules moeten worden opgenomen over:
- verantwoordelijkheid voor naleving van de AI Act;
- aansprakelijkheid bij fouten of discriminatie door AI;
- recht op informatie over werking en datasets;
- verplichtingen bij toezicht of audit door autoriteiten.
Daarnaast moeten ondernemingen hun interne governance herzien. De AI Act stimuleert het aanwijzen van verantwoordelijken voor AI-compliance, vergelijkbaar met de rol van een Data Protection Officer onder de AVG. Bedrijven zullen beleid moeten ontwikkelen voor ethisch gebruik van data, risicobeheersing en transparantie richting klanten.
Relatie met bestaande regelgeving
De AI Act sluit nauw aan op bestaande wetgeving, zoals de Algemene Verordening Gegevensbescherming (AVG), de Digital Services Act en de Cybersecurity Act.
Bedrijven die reeds compliant zijn met de AVG hebben een voorsprong, maar de AI Act introduceert aanvullende verplichtingen. Waar de AVG zich richt op persoonsgegevens, richt de AI Act zich op de werking en betrouwbaarheid van de algoritmen zelf. Dit betekent dat ook organisaties zonder persoonsgegevens in hun systemen onder de nieuwe regels kunnen vallen.
Handhaving en sancties
De handhaving van de AI Act ligt bij nationale toezichthouders, aangevuld met een nieuw Europees AI-bureau.
De sancties zijn fors: tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet bij ernstige overtredingen, afhankelijk van wat hoger is.
Daarmee behoort de AI Act tot de strengste regelgeving binnen de Europese Unie op het gebied van technologie en innovatie.
Voorbereiding op naleving
Bedrijven doen er goed aan om nu al te inventariseren welke AI-systemen zij gebruiken of ontwikkelen. Vervolgens kan per systeem worden bepaald in welke risicocategorie het valt en welke verplichtingen gelden.
Een praktische aanpak omvat:
- Inventarisatie van alle AI-toepassingen binnen de organisatie.
- Classificatie van systemen volgens de AI Act.
- Opstellen of herzien van beleid, documentatie en contracten.
- Implementatie van monitoring en toezichtmechanismen.
- Training van personeel over verantwoord gebruik van AI.
Juridische ondersteuning
De AI Act zal de komende jaren de juridische infrastructuur rond technologie in Europa sterk veranderen. Ondernemingen die vroegtijdig investeren in compliance beperken niet alleen hun risico’s, maar versterken ook hun geloofwaardigheid richting klanten, toezichthouders en investeerders.
Soliman Legal begeleidt bedrijven bij het analyseren, herzien en contractueel implementeren van AI-toepassingen in overeenstemming met de nieuwe Europese regelgeving. Wij helpen organisaties om technologische innovatie te combineren met juridische zekerheid en bestuurlijke verantwoordelijkheid.
Voor vragen of ondersteuning bij de implementatie van de AI Act kunt u contact opnemen via sharif@solimanlegal.nl.