AI rukt op, ook op het dak
De dakenbranche digitaliseert in hoog tempo. Drones, thermografie, 3D-scans en sensoren leveren steeds meer data. Deze sensoren meten bijvoorbeeld vocht, temperatuur of windbelasting. Software voor conditiemetingen en meerjarenonderhoudsplannen (MJOP’s) verwerkt deze informatie. Steeds vaker wordt kunstmatige intelligentie (AI) op deze data ingezet. AI herkent schades, voorspelt risico’s, berekent offertes en plant onderhoud.
Tekst: Hilal Mauer, Poelmann van den Broek
Deze ontwikkeling biedt duidelijke kansen. AI werkt snel, consistent en goedkoop. Tegelijkertijd brengt het werken met AI risico’s met zich mee. AI kan immers fouten maken of belangrijke zaken missen. Aan de hand van onderstaande (fictieve) casus geeft dit artikel enkele juridische tips voor het werken met AI. Een dakdekker krijgt de opdracht om een dak te inspecteren. Als er sprake zou zijn van een gebrek, moet het hersteld worden. De dakdekker gebruikt een drone en maakt daarmee foto’s en thermische beelden. Vervolgens laat de dakdekker deze beelden beoordelen door een AI-gestuurd programma. Uit de beelden blijkt weliswaar dat er een thermisch lek is, het programma oordeelt dat er helemaal geen onderhoud nodig is. De dakdekker koppelt terug aan de opdrachtgever dat alles in orde is, en dat de scan geen risico’s heeft gesignaleerd. Enkele maanden later ontstaat er na een flinke hoosbui een grote lekkage op de plek waar het thermische lek op de beelden al zichtbaar was. Het AI-programma heeft helaas een flinke misser begaan, met alle gevolgen (schade) van dien. Het water heeft op meerdere verdiepingen schade aangericht. Delen van het pand moeten worden gedroogd, muren moeten opnieuw worden gestuct, vloeren moeten opnieuw worden gelegd, en meubels zijn onbruikbaar worden.
VOOR WIENS REKENING KOMT NU DEZE SCHADE?
In beginsel is de dakdekker uit het voorbeeld aansprakelijk voor de kosten als gevolg van de opgetreden schade. Je bent namelijk (in de relatie tot de opdrachtgever) zelf aansprakelijk voor de door jou ingezette hulpmiddelen (hier: AI) en het overeengekomen resultaat. Enkele tips om de risico’s te beperken.
AFSPRAKEN GOED VASTLEGGEN
Bij veel overeenkomsten – ook bij aanneming van werk – is het van groot belang wat partijen redelijkerwijs van elkaar mochten verwachten. Het is daarom heel belangrijk om in de overeenkomst zo nauwkeurig mogelijk vast te leggen wat precies de aard van de prestatie is, wat de foutmarge is van de AI die wordt gebruikt en voor wiens risico eventuele fouten komen (dat zal in de regel liggen bij de partij die de AI gebruikt). Het vastleggen van de afspraken aan de voorkant, verkleint de kans dat er aan de achterkant gedoe ontstaat over welke prestatie nu geleverd moet worden.
AANSPRAKELIJKHEID INPERKEN
Het is raadzaam om daarnaast je aansprakelijkheid in te perken. Dat kan door in de algemene voorwaarden uitsluitingen op te nemen ter zake van aansprakelijkheid, en het totaalbedrag te beperken. Onderstaande tekst dient als voorbeeld voor een artikel in algemene voorwaarden waarin aansprakelijkheid wordt beperkt:
Aannemer is in geen enkel geval aansprakelijk voor indirecte schade. Onder indirecte schade wordt in ieder geval – doch niet uitsluitend – begrepen gevolgschade, schade geleden door derden, verlies van goodwill, renteverlies, imagoschade, immateriële schade, bedrijfsschade, omzet- en/of winstderving en waardevermindering van goederen.
Met deze bepaling wordt een groot aantal geldelijke risico’s ondervangen. Let wel: voor zover het gaat om een contract die de dakdekker sluit met een professionele partij.
ZORGPLICHT EN WAARSCHUWINGSPLICHTEN (OOK BIJ AI)
Een dakprofessional of -inspecteur heeft in veel situaties een waarschuwingsplicht: als je ziet (of behoort te zien) dat uitgangspunten onjuist zijn, of dat een gekozen aanpak bepaalde risico’s met zich meebrengt, moet je daarvoor waarschuwen. AI brengt daarin geen verandering. Als de AI-tool een resultaat geeft dat afwijkt van de redelijke verwachtingen, dan mag de professional niet blind varen op een ‘groen vinkje’. Dat levert strijdigheid op met de (wettelijke) normen van professionele zorgvuldigheid. De maatstaf waarlangs een prestatie (veelal) gelegd wordt, is handelen als een redelijk bekwaam en redelijk handelend vakgenoot. Met andere woorden: wat mag je, als professional, redelijkerwijs verwachten van de te gebruiken tool, en welke controles moet je uitvoeren?
BEWIJS: AI KAN HET DOSSIER VERSTERKEN OF VERZWAKKEN
Mocht een zaak onverhoopt voor de rechter komen, dan speelt bewijs een cruciale rol. AI kan bijdragen aan de consistentie en de traceerbaarheid van het bewijs. Maar als AI wordt ingezet, is het van belang dat uitgelegd kan worden op welke manier het betreffende bewijsstuk tot stand is gekomen. De verantwoording ‘Het kwam uit de scan’ is in bovenstaande casus bijvoorbeeld niet overtuigend als niet inzichtelijk gemaakt kan worden op welke informatie het AI-gestuurde programma zich heeft gebaseerd. Voor de juridisch geïnteresseerden onder u: de Rechtbank Zeeland-West-Brabant oordeelde in een zaak (die misleidende reclame betrof) dat wanneer de input die voor AI-gegenereerde output gebruikt is, niet gecontroleerd kan worden, de betreffende output niet als bewijs kan gelden.1 Het is verstandig om, wanneer je met AI werkt, te zorgen voor een nauwkeurig logboek waarin precies wordt bijgehouden welke input het AI systeem gebruikt.
VERZEKERING: SLUIT AAN OP DE REALITEIT
Het is verstandig om bij gebruikmaking van AIgedreven dienstverlening te controleren of de beroepsaansprakelijkheidsverzekering adviesfouten
dekt waarbij een AI-tool is gebruikt.
SLOT
Er zijn nog veel meer onderwerpen die verband houden met het gebruik van AI, zoals data- en privacyregelgeving, maar behandeling daarvan gaat de strekking van dit artikel te buiten. Wanneer AI goed gebruikt wordt, kan AI bijdragen aan betere daken en een prettig proces. Maar zoals je het dak moet repareren als de zon schijnt, moet je juridische problemen inkaderen voor ze zich voordoen. Leg de afspraken daarom goed vast, perk de aansprakelijkheid in (bijvoorbeeld door bovenstaande standaardtekst op te nemen in de algemene voorwaarden), en manage de verwachtingen aan de voorkant.
Rechtbank Zeeland-West-Brabant 20 november 2024,
ECLI:NL:RBZWB:2024:9051, rechtsoverweging 2.5