Dit betekent de Europse AI wet voor AI en ChatGPT gebruik

De Europese Unie heeft begin maart 2024 de AI Act aangenomen. Dit is de Europese wetgeving op het gebied van kunstmatige intelligentie (AI). Hiermee zijn ze de eerste wereldwijd die een alomvattende wet rondom AI heeft, waaronder ook Nederland. Hieronder vallen dus ook gebieden als generative AI. Ook wil Europa hiermee een leidende rol pakken op het wereldtoneel en tegelijkertijd de administratieve en financiële lasten voor bedrijven, met name het MKB, verlichten.

Waarom hebben we regels nodig voor AI?

De AI Wet zorgt ervoor dat Europeanen kunnen vertrouwen op wat AI te bieden heeft. Hoewel de meeste AI-systemen beperkte tot geen risico vormen en kunnen bijdragen aan het oplossen van vele maatschappelijke uitdagingen, creëren bepaalde AI-systemen risico's die aangepakt moeten worden om ongewenste uitkomsten te vermijden.

Het is bijvoorbeeld vaak niet mogelijk om te achterhalen waarom een AI-systeem een beslissing of voorspelling heeft gemaakt en een bepaalde actie heeft ondernomen. Het kan dus moeilijk worden om te beoordelen of iemand oneerlijk benadeeld is, zoals bij een aannamebeslissing.

Hoewel bestaande wetgeving enige bescherming biedt, is deze onvoldoende om de specifieke uitdagingen die AI-systemen kunnen brengen aan te pakken, zo meent de Europese unie.

De voorgestelde regels zullen:

• risico’s specifiek gecreëerd door AI-toepassingen aanpakken;
• AI-praktijken die onaanvaardbare risico’s vormen verbieden;
• een lijst van hoog-risico toepassingen bepalen;
• duidelijke vereisten stellen voor AI-systemen voor hoog-risico toepassingen;
• specifieke verplichtingen definiëren voor implementeerders en aanbieders van hoog-risico AI-toepassingen;
• een conformiteitsbeoordeling vereisen voordat een gegeven AI-systeem in gebruik wordt genomen of op de markt wordt gebracht;
• handhaving inzetten nadat een gegeven AI-systeem op de markt is gebracht;
• een bestuursstructuur op Europees en nationaal niveau vestigen.

Classificaties van AI Systemen volgens de Europese AI Act

De AI Act introduceert een risico gebaseerde benadering, met vier niveaus van risico voor AI-systemen:

• Onaanvaardbaar risico: Systemen die een duidelijke bedreiging vormen voor de veiligheid, levensonderhoud, en rechten van mensen worden verboden. Denk bijvoorbeeld aan de Politie die AI inzet om op basis van data te voorspellen waar en wanneer iemand een misdaad begaat.
• Hoog risico: AI-systemen gebruikt in kritieke infrastructuren, onderwijs, productveiligheidscomponenten, arbeidsbeheer, essentiële diensten, rechtshandhaving, migratiebeheer, en rechtspraak. Deze systemen moeten voldoen aan strenge verplichtingen, waaronder risicobeoordeling, kwaliteitscontrole van datasets, en menselijk toezicht. Denk aan zelfrijdende auto’s of robotchirurgie gedreven door AI.
• Beperkt risico: Systemen die een gebrek aan transparantie met zich meebrengen, zoals chatbots, moeten hun gebruikers duidelijk maken dat ze met een machine interactie hebben. Maar hieronder vallen ook voorbeelden als het bepalen op basis van data en AI wie een promotie verdient of niet.
• Minimaal of geen risico: Toepassingen zoals AI in games of spamfilters, die vrij gebruikt kunnen worden binnen de EU.

Impact van de AI Act op tools zoals ChatGPT

ChatGPT en vergelijkbare generatieve AI worden niet als hoog risico geclassificeerd, maar moeten wel voldoen aan transparantievereisten en EU-auteursrechtwetgeving. Dit betekent onder andere dat moet worden aangegeven dat de inhoud door AI is gegenereerd en dat het model zodanig is ontworpen dat het geen illegale inhoud produceert.

ChatGPT zal zich dus moeten identificeren als een chatbot. Afbeeldingen die bijvoorbeeld met Midjourney gemaakt zijn moeten een kenmerk krijgen dat ze met AI gemaakt zijn.

Impact voor bedrijven die met AI-technologie werken

Bedrijven die met AI aan de slag gaan of systemen bouwen, moeten zich bewust zijn van de volgende punten:

• Risicoclassificatie: Identificeer vroegtijdig het risiconiveau van je AI-systeem om te bepalen aan welke verplichtingen je moet voldoen.
• Transparantie en compliance: Zorg voor transparantie in de werking van je AI-systemen en zorg dat ze voldoen aan de vereisten van de AI Act, vooral als ze onder de categorie hoog risico vallen. Neem hierin je data ook mee.
• Innovatie en ondersteuning: De wet biedt kansen voor startups en MKB's om AI-modellen te ontwikkelen en trainen in een realistische testomgeving, voordat ze worden vrijgegeven aan het publiek.
• Toekomstbestendige Wetgeving: De AI Act is ontworpen met een toekomstgerichte benadering, zodat de regels kunnen meegroeien met technologische veranderingen. Dit vereist doorlopend kwaliteits- en risicobeheer van de aanbieders.

Vervolgstappen

De overeengekomen tekst van de wet wordt naar verwachting uiteindelijk aangenomen in april 2024. Het zal volledig van toepassing zijn 24 maanden na inwerkingtreding, maar sommige delen zullen eerder van toepassing zijn:

• Het verbod op AI-systemen die onaanvaardbare risico's vormen, zal zes maanden na inwerkingtreding van kracht worden.
• Codes of practice zullen negen maanden na inwerkingtreding van kracht worden
• Regels voor algemene AI-systemen die moeten voldoen aan transparantievereisten, zullen 12 maanden na inwerkingtreding van kracht worden.

Hoog-risico systemen zullen meer tijd hebben om te voldoen aan de vereisten, aangezien de verplichtingen met betrekking tot hen 36 maanden na inwerkingtreding van kracht zullen worden.

Conclusie

De AI Act markeert een keerpunt in de manier waarop we AI integreren in onze samenleving en economie. Door de invoering van deze wetgeving zet de EU een stap naar een veiligere en meer betrouwbare AI-toekomst, waarin technologische innovatie hand in hand gaat met respect voor fundamentele rechten en veiligheid.

Voor bedrijven betekent dit een kans om te innoveren binnen een duidelijk gereguleerd kader, met een focus op verantwoordelijkheid en transparantie. Het succes van de AI Act zal afhangen van de implementatie en naleving door alle betrokken partijen, waarbij de EU streeft naar een wereldwijde dialoog en samenwerking op het gebied van AI-governance.

Met deze wet gaat de Europese Unie impact hebben op grote Amerikaanse tech-spelers die overal algoritmes en AI in hebben zitten. Denk aan Meta, TikTok, Microsoft en Google. Zij zullen hun producten moeten aanpassen aan deze nieuwe kaders (indien van toepassing) om binnen Europa gebruikt te blijven worden.