Tijdens de jaarlijkse vergadering van het Comité van Ministers heeft de Raad van Europa in Straatsburg het eerste juridisch bindende internationale verdrag aangenomen dat tot doel heeft de eerbiediging van de mensenrechten, democratie en de rechtsstaat te waarborgen bij het gebruik van systemen voor kunstmatige intelligentie (AI). Dit internationale verdrag, dat openstaat voor alle landen ter wereld, stelt een juridisch kader vast voor de gehele levenscyclus van AI-systemen, waarbij de bijbehorende risico’s worden aangepakt en verantwoorde innovatie wordt bevorderd.
Na twee jaar werk door het Comité voor Kunstmatige Intelligentie (CAI) is het kaderverdrag tot stand gekomen, een internationaal verdrag waarbij de 46 lidstaten van de Raad van Europa, de Europese Unie, 11 niet-lidstaten waaronder de Verenigde Staten, en vertegenwoordigers van de particuliere sector, het maatschappelijk middenveld en de academische wereld als waarnemers betrokken waren. Het wordt gepresenteerd als een unieke internationale norm die ervoor moet zorgen dat AI de mensenrechten respecteert. “Het beantwoordt aan de behoefte aan een internationale rechtsnorm die wordt ondersteund door staten van verschillende continenten die verenigd zijn door gemeenschappelijke waarden, en die het mogelijk maakt te profiteren van de voordelen van kunstmatige intelligentie, terwijl de risico’s die zij met zich meebrengt worden verminderd. Met dit nieuwe verdrag willen wij zorgen voor een verantwoord gebruik van AI, dat de mensenrechten, democratie en de rechtsstaat respecteert.”
Het verdrag is van toepassing op het gebruik van AI-systemen door zowel overheidsinstanties als particuliere actoren, met eisen op het gebied van transparantie en controle die zijn aangepast aan de verschillende contexten en risiconiveaus. Het biedt twee opties voor de partijen om de naleving van de principes en verplichtingen van het verdrag binnen de regulering van de particuliere sector te waarborgen. De partijen kunnen ervoor kiezen rechtstreeks onderworpen te zijn aan de bepalingen van het verdrag of andere maatregelen te nemen die in overeenstemming zijn met de bepalingen van het verdrag, zonder hun internationale verplichtingen op het gebied van mensenrechten, democratie en de rechtsstaat in gevaar te brengen. Deze flexibiliteit is noodzakelijk vanwege de verschillen tussen de rechtsstelsels van de verschillende landen.
Daarnaast moeten de partijen bij het verdrag maatregelen nemen om de risico’s van AI te identificeren, evalueren, voorkomen en verminderen. Zij moeten ook zorgen voor transparantie, het verbod op discriminatie, de bescherming van de privacy en het bieden van rechtsmiddelen aan slachtoffers van mensenrechtenschendingen in verband met AI. AI-systemen mogen de democratische instellingen en processen niet in gevaar brengen.
Om de uitvoering van het verdrag te waarborgen, is een toezichtsmechanisme voorzien, evenals een onafhankelijk controlemechanisme. Het verdrag zal op 5 september in Vilnius ter ondertekening worden opengesteld tijdens een conferentie van ministers van justitie.
