 |
Auteur: mr. Mareille Tol |
Artificial Intelligence (hierna: “AI”) is een onderwerp waar men tegenwoordig niet meer omheen kan. In vrijwel iedere branche is de impact van AI merkbaar. Dit brengt verantwoordelijkheden met zich mee voor ontwikkelaars van AI-toepassingen. Niet voor niets is in augustus 2024 in de Europese Unie een deel van de AI-verordening (hierna: de “Verordening”) in werking getreden. Het grootste deel van deze Verordening zal volgen in augustus 2026. Reden genoeg om hier in deze publicatie nader bij stil te staan.
Inhoud:
Twee jaar na inwerkingtreding (vanaf augustus 2026) zal een groot deel van de AI-verordening van kracht gaan. Dit deel gaat met name over eisen voor hoog-risico AI- systemen en eisen omtrent transparantie. In de AI-verordening staan regels voor het op een verantwoorde manier ontwikkelen en gebruiken van AI door bedrijven, overheden en andere organisaties met als doel mensen te beschermen. Organisaties krijgen met de Verordening een idee van verantwoorde AI.
AI-systemen die onaanvaardbare risico’s met zich meebrengen omdat ze bijvoorbeeld doelbewust manipuleren, misleiden of gebruikmaken van kwetsbaarheden van bepaalde personen of groepen personen zijn al vanaf 2 februari 2025 verboden; ze mogen niet in de handel worden gebracht noch professioneel worden gebruikt.
De meeste eisen die de AI-Verordening stelt, zullen gelden voor hoog-risico AI-systemen. Degene die hoog-risico AI-systemen ontwikkelt of laat ontwikkelen is
verantwoordelijk voor naleving van de Verordening omdat dit AI-systemen zijn die
worden beschouwd als risicovol voor fundamentele rechten, veiligheid en
gezondheid van mensen.
Die hoog-risico AI-systemen vallen binnen hoog-risico toepassingsgebieden
biometrie, kritieke infrastructuur, onderwijs en beroepsopleiding, werkgelegenheid,
personeelsbeheer en toegang tot zelfstandige arbeid, essentiële particuliere en
publieke diensten en uitkering, rechtshandhaving, migratie-, asiel- en grensbeheer,
rechtspraak of democratische processen en worden binnen die gebieden als hoog-risico AI-systeem beschreven. Naast de AI-systemen binnen voornoemde
toepassingsgebieden worden ook AI-systemen die een veiligheidsonderdeel zijn van
risicoproducten (die onder reeds bestaande productregelgeving vallen), aangemerkt
als hoog-risico AI-systemen. Denkt u daarbij aan liften, speelgoed of medische
hulpmiddelen.
Als een persoon of organisatie een hoog-risico AI-systeem ontwikkelt of laat
ontwikkelen en dat systeem in de handel brengt of zelf in gebruik neemt, moet deze
persoon of organisatie aan in de Verordening opgesomde verplichtingen voldoen. AI-
systemen voor het evalueren van kandidaten voor vacatures of voor het evalueren
van aanvragers van toeslagen van de overheid, moeten bijvoorbeeld aan de strenge
eisen van de Verordening voldoen. De ontwikkelaars moeten bijvoorbeeld passende
en gerichte risicobeheersmaatregelen treffen, technische documentatie opstellen,
gebeurtenissen die plaatsvinden met de AI-systemen registreren, menselijk toezicht
op de AI-systemen mogelijk maken en ervoor zorgen dat met de AI-systemen een
passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging gegarandeerd
wordt.
De makers van AI-systemen die content genereren, moeten gebruikers informeren. Het moet duidelijk zijn voor gebruikers dat het gebruikte AI-systeem content heeft gegenereerd of gemanipuleerd. Als sprake is van een chatbot moet ook voor de gebruiker duidelijk zijn dat het gaat om AI.
Wanneer een AI-systeem geen significant risico vormt voor de gezondheid, veiligheid of fundamentele rechten van mensen, is de Verordening niet van toepassing (bijvoorbeeld wanneer een AI-systeem geen wezenlijke invloed heeft op de uitkomst van een besluit).
De AI-verordening is een flinke kluif; bepaald niet vermakelijk maar wel noodzakelijk om
even goed door te lezen. De Verordening zal zorgen voor extra taken voor degene die AI-
systemen wil (laten) ontwikkelen. Een mooie uitdaging voor de ene ondernemer, een reden
om weg te blijven van hoog-risico AI voor de andere. U kunt voor meer informatie over onderwerpen uit deze publicatie contact opnemen met
0900-jurist op telefoonnummer 0900-8090. U krijgt direct een senior bedrijfsjurist aan de lijn
die jarenlang werkte als advocaat en bedrijfsjurist.
Heeft u vragen?
Lees verder:
Bekijk ook:
|
