 |
Auteur: mr. Mareille Tol |
Met Elon Musk’s plannen voor een eigen chatbot die de concurrentie met ChatGPT aan moet gaan, is artificial intelligence (“AI”) actueler dan ooit. Sommigen voorspellen dat het de samenleving zó grondig kan hervormen, dat we ons niet kunnen voorstellen hoe de wereld er over 100 jaar uit zal zien en of onze beroepen dan nog bestaan.
Europese wetgeving is dan ook in de maak om gebruik van snel ontwikkelende artificial intelligence goed te regelen. Beoogd wordt om nadelige gevolgen van kunstmatige intelligentie aan te pakken, zonder de technologische ontwikkeling te veel te beperken.
AI kan namelijk veel voordelen met zich meebrengen, maar uiteraard ook nadelen.
Hierna leest u meer over artificial intelligence, de bestaande regelgeving, toekomstige Europese regelgeving en aansprakelijkheid.
Inhoud:
De kunstmatige intelligentie verordening of de artificial intelligence verordening (hierna: “AI-Verordening”) die in de maak is, omschrijft kunstmatige intelligentie systemen als volgt:
software die is ontwikkeld aan de hand van een of meer van de technieken en benaderingen die zijn opgenomen in de lijst van bijlage I en die voor een bepaalde reeks door mensen gedefinieerde doelstellingen output kan genereren, zoals inhoud, voorspellingen, aanbevelingen of beslissingen die van invloed zijn op de omgeving waarmee wordt geïnterageerd.
Kunstmatige intelligentie kan veel voordelen opleveren voor de economie en bijvoorbeeld ingezet worden op het gebied van de gezondheidszorg, het onderwijs, het vervoer, de logistiek en de veiligheid.
Door middel van kunstmatige intelligentie kunnen bijvoorbeeld oplossingen voor maatschappelijke problemen makkelijker gevonden worden. Zo kunnen steden efficiënter en duurzamer worden ingericht wanneer AI wordt gebruikt om verkeersstromen te regelen. AI-systemen kunnen ook gebruikt worden om automatisch kandidaten te selecteren bij sollicitatieprocedures.
Met artificial intelligence wordt ook nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Dit wordt “deep fake” genoemd. De nieuwe digitale content is niet of nauwelijks van echt te onderscheiden. Met de techniek kan in korte tijd content worden gegenereerd waarin een persoon dingen lijkt te zeggen of te doen die hij in werkelijkheid nooit heeft geuit of gedaan. Dit kan bijvoorbeeld worden ingezet bij het opsporen van criminelen en het infiltreren in criminele netwerken.
AI-systemen maken veelal gebruik van “machine learning” om beslissingen te nemen. Hier komt geen mens aan te pas. De gebruikte technologie is in staat om zichzelf verder te ontwikkelen op basis van data en analyses.
Kunstmatige intelligentie is daarmee ondoorzichtig, complex, afhankelijk van data en handelt autonoom. Deze verzameling aan kenmerken kan allerlei risico’s met zich meebrengen. Een reëel risico van AI-systemen bij werving en selectie is bijvoorbeeld dat AI een “bias”, oftewel onbewuste voorkeuren, verder versterkt. Ook kunnen AI-systemen in sommige gevallen slecht omgaan met individuen die op een of andere manier afwijken van de norm, omdat AI-systemen gebaseerd zijn op statistiek.
Bij deep fakes is het voor burgers, journalisten maar ook rechters bijvoorbeeld moeilijk te verifiëren wat echt en wat nep is.
De bevolking moet erop kunnen vertrouwen dat de AI-technologie op een veilige manier wordt gebruikt en dat grondrechten beschermd worden. Men dient ervoor te waken dat artificial intelligence leidt tot discriminatie, privacy schending of inbreuk op vrijheden van mensen.
Met het huidig Nederlands recht kunnen bepaalde vormen van kunstmatige intelligentie (zoals deep fake) al aangepakt worden. Onrechtmatige deep fake kan met het strafrecht worden aangepakt. De Algemene Verordening Gegevensbescherming (AVG) en het Europees Verdrag voor de Rechten van de Mens (EVRM) kennen ook waarborgen ter bescherming van rechten van individuen. Verder bevat het portretrecht uit art. 21 van de Auteurswet het verbod om zonder toestemming een portret waarop een ander herkenbaar wordt afgebeeld te publiceren als het redelijk belang van de geportretteerde zich tegen openbaarmaking verzet.
Wat het huidig Nederlandse recht nog niet bevat, zijn regels die specifiek de ontwikkeling en het aanbieden van onrechtmatige kunstmatige intelligentie tegenhouden. De kunstmatige intelligentie verordening beoogt deze leemte in de wet aan te vullen.
De kunstmatige intelligentie verordening of AI-Verordening, die eraan zit te komen, heeft in het kort tot doel het vertrouwen en de grondrechten van mensen te beschermen. Dit doel wordt onder meer bereikt door: het opleggen van transparantieverplichtingen aan gebruikers van AI-systemen in de periode vóór, tijdens en na de ontwikkeling van AI-systemen, door gebruikers verplichtingen op te leggen ten aan zien van kwaliteitsbeheer en verschaffing van technische documentatie over de AI-systemen, door gebruikers informatieverplichtingen jegens nationale bevoegde autoriteiten op te leggen en door verplichte conformiteitsbeoordelingen.
Meer concreet worden met de toekomstige AI-Verordening de volgende doelen gesteld:
De AI-verordening bevat de volgende regels:
De genoemde transparantievoorschriften eisen een actieve rol van gebruikers van deep fake en ook chatbots. Zij moeten bekendmaken dat het materiaal of de informatie kunstmatig (op geautomatiseerde wijze) is gegenereerd of bewerkt zodat de mensen die de informatie te zien krijgen een weloverwogen keuze kunnen maken en eventueel afstand kunnen nemen van bepaalde situaties. De AI-Verordening bepaalt namelijk in artikel 52 lid 3:
Gebruikers van een AI-systeem dat beeld-, audio- of videomateriaal genereert of bewerkt dat aanzienlijk op bestaande personen, objecten, plaatsen of andere entiteiten of gebeurtenissen lijkt en voor een persoon onterecht als authentiek of waarheidsgetrouw (“deep fake”) zou overkomen, maken bekend dat het materiaal kunstmatig is gegenereerd of bewerkt.
en
De eerste alinea is echter niet van toepassing wanneer het gebruik bij wet is toegestaan om strafbare feiten op te sporen, te voorkomen, te onderzoeken en te vervolgen of nodig is voor het doen gelden van het recht op vrijheid van meningsuiting en het recht op vrijheid van kunsten en wetenschappen die in het EU-Handvest van de grondrechten worden gewaarborgd, en behoudens passende waarborgen voor de rechten en vrijheden van derden.
De AI-Verordening heeft overigens een breed toepassingsbereik, omdat het niet alleen van toepassing is op aanbieders en gebruikers van AI-systemen in de EU maar ook daarbuiten. De AI-Verordening is van toepassing op (i) aanbieders die AI-systemen in de EU in de handel brengen of in gebruik stellen, op (ii) gebruikers van AI-systemen die zich in de EU bevinden en op (iii) aanbieders en gebruikers van AI-systemen die zich in een derde land bevinden als de output van het systeem in de EU wordt gebruikt.
Het is nog onduidelijk wanneer de AI-Verordening uiteindelijk in werking zal treden. Mogelijk bereiken het Europees Parlement en de Europese Commissie voor het einde van 2023 een definitief akkoord.
De makers van onrechtmatige deep fake zijn logischerwijs aansprakelijk voor het gebruik ervan. Als in deep fake een portret onrechtmatig wordt gebruikt, kan de benadeelde portretrechthebbende voor schadevergoeding bij de maker van de deep fake aankloppen.
Aanbieders van grote online platforms en van grote online zoekmachines moeten echter ook redelijke, evenredige en doeltreffende risicobeperkende maatregelen treffen om de publicatie van advertenties met deep fake tegen te gaan. Dit volgt uit artikel 35 lid 1 sub k van Verordening (EU) 2022/2065 betreffende digitale diensten. Platforms hebben daarmee ook een bepaalde verantwoordelijkheid in het voorkomen van verspreiding van deep fake.
Iedere lidstaat van de EU moet in ieder geval één of meerdere nationale bevoegde autoriteiten aanwijzen. De betreffende nationale bevoegde autoriteit wordt belast met het toezicht op de naleving van de AI-Verordening. Het is aan de lidstaten om niet-naleving van de AI-Verordening te sanctioneren. De lidstaten moeten afschrikkende sancties opleggen (zoals boetes) om inbreuk op de AI-Verordening te voorkomen.
Over de ontwikkeling en het gebruik van kunstmatige intelligentie (en deep fake) moet men volgens de toekomstige AI-Verordening transparant zijn. Kunstmatige intelligentie kan inbreuk maken op mensenrechten en daar moet men voor waken. Bedrijven zullen zich moeten voorbereiden op de komst van regelgeving over AI en wellicht gebruik maken van een AI impact assessement om verantwoording af te kunnen leggen over naleving van de Verordening. Niet alleen bedrijven zullen zich voor een implementatie-uitdaging gesteld zien, maar ook voor de Nederlandse overheid zal het niet eenvoudig zijn om de Nederlandse wetgeving zo in te richten dat de AI-Verordening ook praktisch goed uitvoerbaar wordt.
0900-8090. U krijgt direct een senior bedrijfsjurist aan de lijn die jarenlang werkte als advocaat en bedrijfsjurist die u helpt met juridisch advies.
|
