 |
Auteur: mr. Mareille Tol |
Ook in de juridische rechtspraktijk wordt AI al volop toegepast. Dit is niet zonder risico’s.
Niet alleen voor de ontwikkelaar van AI-systemen bestaat er een gedragskader in de AI-verordening, maar ook voor de gebruiker en met name voor de professionele gebruiker is
een interne gedragscode gepast. AI kent valkuilen. Het kan zorgen voor snelle antwoorden,
maar wat als die antwoorden niet juist zijn of niet conform Nederlandse regelgeving worden
toegepast? Wat mag van een AI-gebruiker worden verwacht?
In deze publicatie worden twee zaken kort besproken. Het zijn zaken die verband houden
met onjuist gebruik of toepassing van AI in de juridische rechtspraktijk. Wellicht zet het u
aan het denken.
Inhoud:
Met de AI-verordening in het achterhoofd waarbij het er vooral om gaat dat u bij het (laten)
ontwikkelen van AI-systemen voor uw bedrijf zich houdt aan risico mitigerende regels, wordt
nu de overstap gemaakt naar gebruik van het AI-systeem ChatGPT in de professionele
rechtspraktijk.
Wanneer AI-systemen (zoals ChatGPT) worden gebruikt in de gang naar de rechter, zal
iedere keer de vraag opkomen of de procesrechtelijke regels in acht zijn genomen. Het
verkeerd toepassen van AI in een gerechtelijke procedure kan vergaande gevolgen met zich
meebrengen. Het is daarom goed om hierbij stil te staan. Hierna twee voorbeelden uit de
rechtspraak om dit te verduidelijken.
In een simpele zaak waarin het ging over onenigheid tussen twee buren en een
dakopbouw die zonlicht zou weghouden van zonnepanelen op het naastgelegen dak,
gebruikte de Kantonrechter voor zijn beslissing feiten die gegenereerd waren door ChatGPT,
zonder de partijen hierover te horen. De kantonrechter schond hiermee een beginsel van
het burgerlijk procesrecht, namelijk het beginsel van hoor en wederhoor. Informatie waarop
partijen niet hebben kunnen reageren, mag niet ten nadele van een van de partijen worden
gebruikt.
Artikel 19 lid 1 Wetboek van Burgerlijke Rechtsvordering (“Rv”):
De rechter stelt partijen over en weer in de gelegenheid hun standpunten naar voren te brengen en toe te lichten en zich uit te laten over elkaars standpunten en over alle bescheiden en andere gegevens die in de procedure ter kennis van de rechter zijn gebracht, een en ander tenzij uit de wet anders voortvloeit. Bij zijn beslissing baseert de rechter zijn oordeel, ten nadele van een der partijen, niet op bescheiden of andere gegevens waarover die partij zich niet voldoende heeft kunnen uitlaten.
De kantonrechter schatte de gemiddelde levensduur van de zonnepanelen alsmede de gemiddelde kWh-prijs met behulp van ChatGPT. Ingevolge artikel 19 lid 1 Rv had de rechter de partijen in de zaak over de bevindingen moeten horen.
Dan een zaak waarin de Rechtbank Rotterdam op 27 augustus 2025 tijdens de
mondelinge behandeling vaststelde dat de verwijzingen naar uitspraken van de Hoge Raad in
de conclusie van antwoord van de gedaagde onjuist waren. Geen van de in het stuk van de
gedaagd genoemde (vermeende) arresten had betrekking op het onderwerp
(handelsnaamrecht) waar het in de zaak over ging en sommige uitsprakennummers waren
zelfs niet bestaand. Volgens de advocaat in deze zaak was er een probleem opgetreden bij
het converteren van een Word-bestand naar een PDF-bestand. De rechter liet de vraag of
artikel 21 Rv geschonden is in deze zaak in het midden, omdat de gedaagde geen voordeel
heeft gehad van de onjuiste voorstelling van zaken in de conclusie van antwoord.
Artikel 21 Rv:
Partijen zijn verplicht de voor de beslissing van belang zijnde feiten volledig en naar waarheid aan te voeren. Wordt deze verplichting niet nageleefd, dan kan de rechter daaruit de gevolgtrekking maken die hij geraden acht.
De rechter ging mild om met voornoemde grove fouten van de advocaat. Dit kan in een andere zaak uiteraard weer anders worden aangepakt.
Voor de juridische professionals onder ons is voorzichtigheid geboden, als het gaat om het
gebruikmaken van AI-systemen. Met name openbare AI-systemen zullen niet altijd gevoed
worden met goede juridisch inhoudelijke informatie. Om risico’s die ontstaan bij het gebruik
van AI-systemen te beperken, is het raadzaam om enkel en alleen gebruik te maken van AI
wanneer je het antwoord al weet of (andersom) ter allerlaatste controle. U kunt voor meer informatie over onderwerpen uit deze publicatie contact opnemen met
0900-jurist op telefoonnummer 0900-8090. U krijgt direct een senior bedrijfsjurist aan de lijn
die jarenlang werkte als advocaat en bedrijfsjurist.
Heeft u vragen?
Lees verder:
Bekijk ook:
|
