Nederland: 'Geen specifieke regels voor AI'

Op 19 februari 2020 heeft de Commissie haar digitale strategie gepubliceerd voor de periode 2020 2025. Met het witboek ‘Kunstmatige intelligentie’, ook wel Artificiële intelligentie (hierna AI), zet de recent aangetreden Europese Commissie (hierna Commissie) haar visie uiteen op de belangrijkste beleidsmaatregelen en investeringen op het gebied van AI. De EU-Commissie wil een regelgevend raamwerk voor betrouwbare AI dat burgers beschermt en bijdraagt aan een sterke Europese data-economie. Maar wil Nederland AI-regelgeving?

Actoren in de levenscyclus AI-systeem

In de levenscyclus van een AI-systeem zijn verschillende actoren betrokken; van softwareontwikkelaar tot de gebruiker en producent. Er komen verplichtingen die zich te richten tot de actor(en) die, gelet op de fase waarin het AI-systeem zich bevindt (ontwerp, pilot, test, implementatie en post-implementatie) in de beste positie verkeert om het desbetreffende risico te ondervangen. Er komt waarschijnlijk regelgeving die aanvullend is op, en niet afdoet aan, reeds bestaande wettelijke verplichtingen, zoals de AVG of de richtlijn productaansprakelijkheid. Nederland deelt de analyse van de Commissie dat AI-toepassingen door een breed kader aan EU-wetgeving worden gereguleerd. Belangrijke voorbeelden zijn de wetgeving op het gebied van productveiligheid en aansprakelijkheid, de fundamentele rechten, anti-discriminatiewetgeving het gegevensbeschermingsrecht en het mededingingsrecht.

Eisen AI-toepassingen

In de aankomende regelgeving wenst men eisen te stellen aan AI-toepassingen. Bijvoorbeeld op het gebied van: trainingsdata, transparantie door middel van documentatie- en informatieverplichtingen, degelijkheid en accuraatheid, menselijke tussenkomst en biometrische systemen.

Versterken positie consument bij B2C-toepassingen van online algoritmes

Het kabinet is zich bewust van de grote kansen, maar ook de risico’s waar online algoritmes consumenten aan kunnen blootstellen. Er is een ongelijk speelveld ontstaan tussen de offline consumentenbescherming en de bescherming in de online wereld. Daarom zet het kabinet zich in om de positie van de digitale consument te versterken door de consument centraal te stellen in het ontwikkelen en reguleren van B2C-toepassingen van online algoritmes. Het kabinet denkt daarbij aan o.a. transparantieverplichtingen, recht op uitleg, grotere zeggenschap van consumenten over algoritmes die producten en diensten aanbieden, recht tot bezwaar en rectificatie. Tevens onderzoekt het kabinet hoe de verantwoordelijkheid voor bijvoorbeeld grote online platforms voor wangebruik van consumentendata vormgegeven kan worden.

Waar pleit Nederland onder meer voor?

1. In de ontwikkelfase van AI toestaan dat (bijzondere) persoonsgegevens worden verwerkt voor zover dat noodzakelijk is om discriminerende effecten tegen te gaan.

2. Aandacht zal zijn voor situaties waarin een AI-toepassing getraind is met onrechtmatig verkregen data. Het moet duidelijk zijn wat de gevolgen zijn voor de inzet van dergelijke AI-toepassingen.

3. Een ex ante conformiteitsbeoordeling als nalevings- en handhavingsinstrument. Nederland heeft de voorkeur om uit te gaan van reeds bestaande instrumenten, zoals de AVG-gegevensbeschermingseffectbeoordeling, in plaats van een nieuw instrument te ontwikkelen.

4. Als aanvulling op de bestaande wetgeving een vrijwillige etiketteringsregeling op te stellen.

5. Nederland vooralsnog geen voorstander van een aparte toezichthouder vanwege het uitgangspunt dat zoveel mogelijk moet worden aangesloten bij bestaande kaders en structuren.

6. Laagdrempelige klacht- en bezwaarprocedures aanwezig zijn, om onbedoelde effecten snel te identificeren, op te lossen en deze data te gebruiken om de toepassingen te verbeteren.

Raadpleeg hier de Kabinetsappreciatie witboek over Kunstmatige intelligentie