Behoedzaam en met verstand

Dit komt onder meer door de snelheid waarmee deze toepassingen in staat zijn om data te verwerken, repeterende werkzaamheden uit te voeren, inzicht en overzicht te verstrekken en antwoord te geven op allerhande vragen. AI wordt gezien als een oplossing voor personeelstekorten, een belangrijk middel tot efficiencyverbetering en daarmee als een winstverbeteraar.

Kortom: de grootschalige inzet van AI lijkt een ontwikkeling die je niet mag missen, een oplossing voor veel problemen. So far, so good. Toch? Of zitten er addertjes onder het gras? Is AI niet meer dan een hype, een verschijnsel dat bovenmatige aandacht krijgt en daardoor belangrijker lijkt dan het in werkelijkheid is?

Niet bestaande rapporten

Ik zie AI niet als een hype, het is niet meer weg te denken. En dat hoeft ook niet. Met het gericht en met verstand gebruiken van AI-toepassingen is niets mis. Maar er zijn zeker addertjes, met name wanneer AI niet met verstand wordt ingezet: a fool with a tool is still a fool. Inmiddels zijn er voorbeelden te over: studenten die ChatGPT gebruiken bij het schrijven van een paper, maar de door een chatbot geproduceerde tekst niet begrijpen. Collega’s en vrienden die slimme prompts gebruiken om snel antwoorden op prangende vragen te verkrijgen, zonder die antwoorden op juistheid en volledigheid te controleren. Accountants en advocaten die AI onnadenkend en ongecontroleerd inzetten bij het vervaardigen van rapporten en processtukken.
Zo moest Deloitte de Australische overheid tonnen terugbetalen vanwege fouten in een rapport. Door AI-tools waren aan het rapport onjuiste citaten en verwijzingen toegevoegd, bijvoorbeeld naar niet-bestaande rapporten van hoogleraren. Meerdere advocaten zijn op de vingers getikt doordat zij gebruik maakten van citaten en jurisprudentie die niet juist waren. Vanwege het verkeerd gebruik van AI bij het opstellen van processtukken kregen drie advocaten een officiële waarschuwing van de toezichthouder en moeten twee van hen verplicht op AI-cursus.

Ondermaats

Ronduit gênant is de volgende passage in een uitspraak van de kantonrechter (ECLI:NL:RBOBR:2025:8495) in een kwestie waarin een eiser zelf met AI aan de slag ging en juridisch getinte stukken produceerde: ‘De kantonrechter rekent het [eiser] aan dat hij de door AI geproduceerde stukken niet goed naleest en de juridische relevantie en juistheid ervan niet laat controleren door bijvoorbeeld een raadsman. Aannemelijk is dat het [gedaagden] daardoor extra tijd en moeite heeft gekost om de stellingen van [eiser] te doorgronden en zich hiertegen te verweren. Het geheel overziend draagt ook het zonder meer gebruiken van ondermaatse, door AI geproduceerde processtukken bij aan misbruik van procesrecht.’

Het zijn negatieve voorbeelden die een tegenhanger vormen van de positieve kanten van AI. Voorbeelden die voor notarissen een waarschuwing moeten zijn: gebruik AI behoedzaam en met verstand. Dit is gelukkig ook de boodschap van de KNB. Bovendien helpt de beroepsorganisatie met een informatieve pagina op de website over AI in het notariaat. Daar komen onderwerpen aan bod als AI-geletterdheid en de AI-weegschaal, die de belangrijkste aandachtspunten overzichtelijk in kaart brengt. Ik raad iedereen in het notariaat aan om daarvan kennis te nemen. Baat het niet, dan schaadt het niet.