Op 8 december heeft de Europese Unie (EU) een historisch akkoord bereikt over nieuwe wetgeving om kunstmatige intelligentie (AI) te reguleren. Na drie dagen intensief onderhandelen tussen de lidstaten en het Europees Parlement werd een “politiek akkoord” bereikt.
Dit is historisch! Na maanden van moeizame onderhandelingen heeft de Europese Unie ingestemd met het reguleren van artificiële intelligentie. Het doel van de wetgeving is om innovatie in Europa aan te moedigen en tegelijkertijd een kader te bieden voor geavanceerde technologieën om mogelijk misbruik te voorkomen. Europees commissaris Thierry Breton, die het project in april 2021 initieerde, verwelkomde deze stap voorwaarts en zei dat de EU hiermee het eerste continent wordt dat duidelijke regels opstelt voor het gebruik van AI.
Eind vorig jaar werd het regelgevingsproces verstoord door de opkomst van ChatGPT. Technologieën zoals deze hebben een aantal bezorgdheden opgeroepen, die ertoe hebben geleid dat generatieve AI is opgenomen in de huidige onderhandelingen, met leden van het Europees Parlement die vragen om een specifiek kader en aandringen op de noodzaak van meer transparantie met betrekking tot de algoritmen en enorme databases die aan de basis liggen van deze systemen met grote impact. Wat deze generatieve AI’s betreft, zal iedereen regels opgelegd krijgen om de kwaliteit van de gegevens die gebruikt worden bij de ontwikkeling van de algoritmen te garanderen en om te controleren of ze geen inbreuk maken op het auteursrecht.
Bovendien zullen de ‘werken’ die door deze AI’s worden geproduceerd als kunstmatig moeten worden geïdentificeerd.
Er zullen strengere regels worden opgelegd voor meer geavanceerde systemen, maar de kern van het wetsontwerp is gericht op regels die gelden voor systemen die als ‘hoog risico’ worden beschouwd, waarvoor verplichtingen zullen gelden zoals de noodzaak van menselijke controle, technische documentatie en de implementatie van een risicobeheersysteem. Het gaat onder meer om systemen die worden gebruikt in kwetsbare sectoren zoals kritieke infrastructuur, onderwijs, human resources en wetshandhaving.
De wetgeving biedt een specifiek kader voor AI-systemen die met mensen interageren en vereist dat ze de gebruiker informeren over de interactie met machines.
Met name de in China gebruikte systemen voor de beoordeling van burgers of massasurveillance zijn verboden, evenals de biometrische identificatie op afstand van mensen op openbare plaatsen om massasurveillance van de bevolking te voorkomen. Er zijn echter vrijstellingen verleend aan wetshandhavingsinstanties voor bepaalde missies in verband met terrorismebestrijding.
Tot slot zal de Europese wetgeving op het gebied van artificiële intelligentie worden versterkt door de oprichting van een Europees AI-bureau binnen de Europese Commissie. Dit orgaan krijgt de bevoegdheid om toezicht te houden en sancties op te leggen, waaronder boetes tot 7% van de omzet, met een minimum van 35 miljoen euro, voor ernstige overtredingen.
Het politieke akkoord van vrijdagavond moet nu worden aangevuld met technische aanpassingen om de tekst af te ronden.
Zin om meer te lezen?
