Het Europees Parlement en de Europese Raad hebben een politiek akkoord bereikt over de AI-Wetgeving (Kunstmatige Intelligentie) die de Europese Commissie in april 2021 heeft voorgesteld.
Doel van de AI-wetgeving
De AI-wetgeving introduceert specifieke regels voor AI-modellen voor algemeen gebruik en zorgt zo voor transparantie in de hele waardeketen.
In het geval van krachtigere modellen, die een aantal systeemrisico’s met zich mee kunnen brengen, komen er aanvullende bindende verplichtingen met betrekking tot risicobeheer en monitoring van ernstige incidenten, evaluatie van modellen en tegenstrijdig bewijs.
De nieuwe regels voor kunstmatige intelligentie
De nieuwe regels, die in alle lidstaten op dezelfde manier direct van toepassing zullen zijn, volgen een risicogebaseerde aanpak en zijn gericht op het definiëren van toekomstbestendige AI.
- Minimaal risico: De meeste AI-systemen vallen in de categorie met een minimaal risico. Toepassingen met een minimaal risico, AI-aanbevolen aanbevelingssystemen of spamfilters kunnen profiteren van een vrijbrief en het ontbreken van verplichtingen. Dit komt omdat deze systemen weinig of geen risico vormen voor de rechten of veiligheid van Europese burgers. Bedrijven kunnen echter op vrijwillige basis aanvullende gedragscodes voor deze systemen opstellen.
- Hoog risico: AI-systemen met een hoog risico moeten aan strengere eisen voldoen, waaronder risicobeperkende systemen, gegevensreeksen van hoge kwaliteit, activiteitenrisico, gedetailleerde documentatie, duidelijke gebruikersinformatie, menselijk toezicht en een hoog niveau van robuustheid, nauwkeurigheid en cyberbeveiliging. Voorbeelden van AI-systemen met een hoog risico zijn onder andere op het gebied van water, gas en elektriciteit, medische apparatuur, systemen voor toegang tot openbare instellingen, werving van personeel, wetshandhaving, grenscontrole, rechtspraak en democratische processen.
- Onaanvaardbaar risico: alle AI-systemen die als een duidelijke bedreiging voor de grondrechten van mensen worden beschouwd, zullen worden verboden, waaronder systemen die menselijk gedrag manipuleren, speelgoed met stemondersteuning dat gevaarlijk gedrag uitlokt of “social scoring”-systemen door overheden of bedrijven, evenals preventieve politietoepassingen.
- Specifiek transparantierisico: bij het gebruik van AI-systemen zoals chatbots moeten gebruikers zich ervan bewust zijn dat ze met een machine communiceren. Ook zal AI-gegenereerde inhoud als zodanig gelabeld moeten worden en zullen gebruikers geïnformeerd moeten worden bij het gebruik van biometrische categoriserings- of emotieherkenningssystemen.
Daarnaast zullen aanbieders systemen zo moeten ontwerpen dat synthetische inhoud kan worden gedetecteerd als kunstmatig gegenereerd of gemanipuleerd.
Boetes voor onjuiste toepassing van de AI Wet
Bedrijven die zich niet aan deze regelgeving houden, zullen bestraft worden met boetes:
- 35 miljoen euro of 7% van de jaarlijkse wereldwijde omzet (wat het hoogste is) voor inbreuken op verboden AI-toepassingen.
- 15 miljoen euro of 3% van de omzet voor inbreuken op andere verplichtingen.
- Voor het verstrekken van onjuiste informatie kunnen boetes worden opgelegd van 7,4 miljoen euro of 1,5% van de jaarlijkse wereldwijde omzet.
Ondertussen zijn er meer evenredige limieten voorzien voor administratieve boetes die worden opgelegd aan kmo’s en startende bedrijven voor inbreuken op de EU-AI-verordening.
Beheer van de AI-wetgeving
Nationale markttoezichtautoriteiten zullen toezien op de implementatie van de nieuwe regels op nationaal niveau. Ook zal er binnen de Europese Commissie een nieuw Europees AI-bureau worden opgericht om de coördinatie op Europees niveau te waarborgen, dat wereldwijd de eerste instantie zal zijn die de bindende regels van de wet zal handhaven.
Volgende stappen voor de AI-wetgeving
Om dit politieke akkoord in werking te laten treden, moet het formeel worden goedgekeurd door het Europees Parlement en de Raad en treedt het 20 dagen na publicatie in het Publicatieblad in werking.
Met FI Group als uw vertrouwde partner kunt u zich een weg banen door het veranderende landschap van O&O-financiering en optimaal profiteren van de beschikbare stimulansen.
Teresa Marina
