Op 13 maart 2024 heeft het Europees Parlement 's werelds eerste uitgebreide AI-wet aangenomen, de AI-verordening. Dit artikel bespreekt op wie deze verordening van toepassing is, wat het doel is, de indeling van de AI-systemen, wat dit voor u betekent en wanneer de verordening van toepassing is.
Op wie is de AI-verordening van
toepassing?
De AI-verordening richt zich onder andere op wereldwijde
ontwikkelaars, distributeurs en verkopers van AI-systemen waarvan
in de Europese Unie gebruik wordt gemaakt. Ontwikkelaars,
distributeurs en verkopers moeten vanaf het intreden van de
verordening voldoen aan deze nieuwe verordening. De AI-systemen die
uitsluitend voor militaire, defensie- en nationale
veiligheidsdoeleinden zijn ontwikkeld of voor onderzoek en
innovatie zijn bedoeld, vallen niet onder deze verordening.
Doel van de AI-verordening
Met de inwerkingtreding van de AI-verordening moeten EU-burgers en
Europese waarden worden beschermd, maar de verordening moet er ook
voor zorgen dat het vertrouwen in de AI-technologie wordt vergroot.
Daarnaast moet met de AI-verordening een stimulerende omgeving
worden gecreëerd voor investeringen en economische
ontwikkelingen in AI binnen de Europese Unie.
Dit dient onder andere bewerkstelligd te worden doordat de AI-systemen die gebruikt worden in de Europese Unie veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn en niet volledig autonoom kunnen werken. Bovendien wordt er met deze AI-verordening een uniforme definitie gehanteerd voor alle huidige en toekomstige AI-systemen.
Drie classificaties voor AI-systemen
AI-systemen worden in de AI-verordening ingedeeld in drie
verschillende risicoclassificaties. Elke classificatie heeft
specifieke regels en voorschriften waarbij rekening wordt gehouden
met de specifieke risico's en de impact van de AI-systemen die
daaronder vallen. Bij de indeling van de AI-systemen wordt naast de
functie van het AI-systeem onder andere ook gekeken naar het doel
van de AI-systemen.
De AI-systemen die bestempeld worden als onaanvaardbaar risico zijn systemen welke in strijd zijn met de waarden van de Europese Unie. Voorbeelden hiervan zijn manipulatieve praktijken, misbruik maken van kwetsbare groepen en het schenden van grondrechten. Deze AI-systemen zijn verboden in de Europese Unie.
AI-systemen die worden bestempeld als hoog risico vormen een hoog risico voor de gezondheid, veiligheid of de fundamentele rechten van natuurlijke personen. Deze AI-systemen kunnen worden toegelaten tot de Europese markt, zolang ze voldoen aan bepaalde dwingende voorschriften en een conformiteitsbeoordeling zijn ondergaan. Het grootste gedeelte van de AI-verordening is op deze classificatie gericht.
Tot slot kan een AI-systeem bestempeld worden als laag of minimaal risico. Deze AI-systemen kunnen relatief probleemloos toegang krijgen tot de Europese markt. Deze AI-systemen dienen wel transparant te zijn, zodat het duidelijk is dat deze systemen niet volledig zijn geautomatiseerd en altijd onder menselijk toezicht staan zodat schadelijke gevolgen kunnen worden voorkomen.
Wat betekent dit voor de gebruikers van
AI-systemen
Als general counsel kunt u in uw organisatie en/of team enkele
stappen nemen om in te spelen op de toekomstige wetgeving. Als
eerste stap is het belangrijk om de AI-systemen in kaart te brengen
welke door u en uw organisatie gebruikt worden. Het gaat dan niet
alleen om de AI-systemen welke door de IT-afdeling worden
gefaciliteerd, maar het gaat om alle AI-systemen die door uw
organisatie en medewerkers worden gebruikt.
Als tweede stap is het belangrijk om alle contracten, algemene voorwaarden en/of privacy verklaringen van stakeholders te raadplegen met betrekking tot de werking van de AI-systemen en de datasets die zij gebruiken. Indien de AI-systemen van uw organisatie of uw stakeholders van buiten Europa worden geleverd, dienen deze toch te voldoen aan de toekomstige Europese regelgeving.
Indien mogelijk, kan als derde stap een overstap naar een Europees AI-systeem worden overwogen. Hierdoor krijgt u meer zekerheid omtrent het voldoen van de gebruikte AI-systemen aan de toekomstige Europese regelgeving.
Tijdslijn
Nu het Europees Parlement heeft ingestemd met de AI-verordening
moet de Raad van de Europese Unie nog officieel de AI-verordening
aannemen. Na het aannemen van de AI-verordening zal de
AI-verordening binnen 24 maanden van toepassing zijn. Na 6 en 9
maanden zullen echter de eerste regels van de AI-verordening al van
kracht zijn.
Originally published by GCN General Counsel Netherlands,10 April 2024
The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.
