Europese wet die AI-systemen reguleert op basis van risiconiveau. Aangenomen in 2024, treedt gefaseerd in werking. Bevat strengere regels voor toepassingen die als 'high-risk' worden geclassificeerd, en verbiedt een aantal toepassingen volledig.
De EU AI Act is in mei 2024 aangenomen als 's werelds eerste brede wet die specifiek AI-systemen reguleert. De wet treedt gefaseerd in werking tussen 2025 en 2027 en raakt iedere organisatie die AI-systemen op de Europese markt brengt of gebruikt, ongeacht waar die organisatie is gevestigd.
De kern van de wet is een risico-piramide. Sommige toepassingen zijn volledig verboden (sociale scoring door overheden, ongerichte gezichtsherkenning in openbare ruimtes voor wetshandhaving). Daaronder vallen "high-risk" toepassingen (werving, kredietbeoordeling, medische diagnose, kritieke infrastructuur), die voldoen aan strenge eisen rond datakwaliteit, transparantie, menselijk toezicht en logging. Daaronder zitten toepassingen met "limited risk", die alleen transparantieplichten hebben. En tot slot "minimal risk", die ongereguleerd blijven.
Naast deze toepassingsindeling regelt de Act ook aanbieders van foundation models en general-purpose AI. Zij krijgen verplichtingen rond technische documentatie, auteursrechtelijke transparantie en, voor de grootste modellen, systematische risicobeoordelingen. De handhaving ligt bij nationale toezichthouders, in Nederland onder de Autoriteit Persoonsgegevens en het ministerie van EZK.
Gefaseerd. De verboden toepassingen werden van kracht in februari 2025. De regels voor general-purpose AI volgden in augustus 2025. De volledige verplichtingen voor high-risk toepassingen worden van kracht in augustus 2026 en 2027. Organisaties die AI-systemen ontwikkelen of inzetten moeten zich nu al voorbereiden.
Voor iedere organisatie die AI-systemen op de Europese markt brengt of die ze inzet om diensten in de EU te verlenen, ongeacht waar de organisatie zelf is gevestigd. Dat omvat dus ook Amerikaanse en Chinese aanbieders die toegang willen tot de Europese markt. Voor kleine ondernemingen gelden afgezwakte verplichtingen.
Onder andere sociale scoring door overheden, ongerichte gezichtsherkenning in openbare ruimtes voor wetshandhaving (met enkele uitzonderingen), emotie-detectie op werkplekken en in onderwijs, biometrische categorisering naar ras of religieus gevoelige kenmerken, en manipulatieve technieken die kwetsbare groepen schaden.
De zwaarste boetes lopen tot 35 miljoen euro of 7 procent van de wereldwijde omzet, voor wie verboden toepassingen inzet. Voor andere overtredingen liggen de plafonds lager (15 miljoen of 3 procent, en 7,5 miljoen of 1 procent voor minder zware schendingen). De boetes zijn opzettelijk groot, vergelijkbaar met die van de AVG.
MUFG, de grootste bank van Japan, geeft 35.000 medewerkers toegang tot ChatGPT Enterprise en wil voor het einde van fiscaal 2026 een AI-gestuurde digitale bank lanceren. OpenAI is een hoeksteen, maar niet de enige.
Incassobureaus stappen massaal over op AI-belsystemen die schuldenaars zelf opbellen. De vraag is niet meer of het werkt, maar wat de toezichthouder ervan vindt en hoe schuldenaars erop reageren.
Hugging Face, Nvidia en Alibaba zetten in twee jaar tijd de software voor denkende robots online en gratis. Het aantal robotica-datasets groeide van ruim duizend naar meer dan 58.000. De drempel om een capabele robot te bouwen daalt nu in hetzelfde tempo als die voor AI-apps eerder deed.
