De snelle ontwikkeling van kunstmatige intelligentie (AI) en automatisering transformeert de Nederlandse economie. Voor ondernemers betekent dit niet alleen kansen op efficiënter werken en lagere kosten, maar ook een groeiend risico op juridische complicaties. De vraag is niet langer of deze technologieën worden ingezet, maar hoe ondernemers zich moeten voorbereiden op de nieuwe regels en verantwoordelijkheden. De Nederlandse overheid en rechtspraak staan hierin voorop, maar de praktijk laat zien dat veel bedrijven nog niet volledig op de hoogte zijn van de implicaties.
Een van de meest concrete voorbeelden is de goodwin expert review van de Europese AI-actieplan. Dit plan, dat in 2024 definitief werd vastgesteld, stelt strengere eisen aan de gebruikte AI-systemen. Het onderscheidt tussen risicoklassen, waarbij hoogrisicogebieden zoals werkgeverssystemen, sociale media en biometrische identificatie extra strenge toetsingscriteria moeten volgen. Hierdoor kunnen ondernemers die niet voldoen aan deze regels zichzelf in een juridische gevaarzone bevinden, met mogelijke boetes tot €30 miljoen of 6% van de jaaromzet.
De drie belangrijkste juridische risico’s voor ondernemers
1. **Verantwoordelijkheid bij fouten of discriminatie**: AI-systeem kan onbedoeld discriminerende beslissingen nemen, zoals in de kredietverlening of arbeidsmarktaanbod. Een voorbeeld hiervan is het geval van een Nederlandse bank die in 2022 een AI-systeem gebruikte dat voorkeur gaf aan mannen bij kredietaanvragen, wat resulteerde in een schadevergoeding van €1,2 miljoen. Dit toont aan dat niet alleen de algemene principes van de AI-actieplan, maar ook specifieke sectorreguleringen zoals de Algemene Verordening Gegevensbescherming (AVG) van toepassing zijn.
2. **Transparantie en expliciete besluitvorming**: De Europese AI-actieplan vereist dat AI-systemen transparant zijn en dat er een uitleg kan worden gegeven waarom een bepaalde beslissing is genomen. Dit is een uitdaging voor veel bedrijven die complexe algoritmen gebruiken zonder volledig te begrijpen hoe ze werken. Een bekend voorbeeld is het geval van een Nederlandse zorginstelling die in 2023 een AI-tool gebruikte voor diagnose, maar later bleek dat de tool onvoldoende uitleg kon geven over de beslissingen die het genomen had. Dit leidde tot een juridische procedure.
3. **Datawetgeving en privacy**: Het gebruik van grote datasets voor AI-training kan leiden tot privacyproblemen. Een recent voorbeeld is het onderzoek van de Nederlandse Autoriteit Persoonsgegevens (AP) dat toonde dat een groot aantal Nederlandse bedrijven gegevens van klanten onvoldoende beschermden tijdens het trainen van AI-modellen. Hierdoor kunnen boetes tot €20 miljoen dreigen, zoals in het geval van een Duitse techbedrijf dat in 2023 een dergelijke boete kreeg.
Concrete stappen voor ondernemers
Om juridische risico’s te minimaliseren, moeten ondernemers een aantal concrete stappen ondernemen. Ten eerste is het essentieel om een juridische audit te laten uitvoeren van de AI-gebruikte systemen. Dit kan worden gedaan door een deskundige juridische adviseur of een specialistische AI-auditor. Daarnaast is het belangrijk om de risicoklassen van de AI-systemen te beoordelen en te zorgen dat deze voldoen aan de eisen van de Europese AI-actieplan en sectorreguleringen. Een voorbeeld hiervan is het gebruik van een certificeringssysteem zoals de AI Certification Mark van het EU-lobbyingplatform.
Een tweede stap is het opstellen van een duidelijk beleid rondom AI-gebruik, inclusief verantwoordelijkheden en verantwoordelijkheden van de verschillende afdelingen. Dit beleid moet ook omvatten hoe transparantie en uitleg van AI-beslissingen wordt gegarandeerd. Een voorbeeld hiervan is het Nederlandse bedrijf Philips, dat in 2023 een AI-beleid opstelde dat specifiek aandacht besteedt aan de transparantie van diagnose- en behandelingsbeslissingen in de zorgsector.
Ten derde is het noodzakelijk om trainingen te organiseren voor medewerkers over de juridische aspecten van AI-gebruik. Dit helpt niet alleen om risico’s te voorkomen, maar ook om medewerkers bewust te maken van de ethische en juridische implicaties van hun dagelijkse werkzaamheden. Een voorbeeld hiervan is de training die het Nederlandse bedrijf ING in 2022 organiseerde voor zijn medewerkers over de juridische aspecten van het gebruik van AI in kredietverlening.
- In 2023 heeft de Nederlandse overheid aangekondigd dat het AI-gebruik in de overheid zal worden strengere toezicht onderworpen, met een focus op transparantie en verantwoordelijkheid.
- De Europese AI-actieplan stelt dat bedrijven die niet voldoen aan de eisen van de wet kunnen worden geconfronteerd met boetes tot 6% van de jaaromzet.
- In 2022 werd een Nederlandse bank verantwoordelijk gesteld voor discriminerende beslissingen van een AI-systeem, wat resulteerde in een schadevergoeding van €1,2 miljoen.
- De Nederlandse Autoriteit Persoonsgegevens heeft in 2023 meerdere bedrijven boetes opgelegd voor onvoldoende privacybescherming tijdens het gebruik van AI-systemen.
- Het Nederlandse bedrijf Philips heeft een AI-beleid opgesteld dat specifiek aandacht geeft aan transparantie in de zorgsector.
De toekomst van AI in de Nederlandse ondernemerswereld zal sterk worden beïnvloed door juridische ontwikkelingen. Ondernemers die zich niet voorbereiden op deze veranderingen, kunnen zichzelf in een juridische gevaarzone bevinden. Het is daarom essentieel om niet alleen te investeren in technologie, maar ook in juridische expertise en ethische richtlijnen. Door te blijven volgen op de ontwikkelingen rondom de Europese AI-actieplan en sectorreguleringen, kunnen ondernemers de kansen van AI benutten zonder zich te verliezen in juridische risico’s.
