24 augustus 2018

Whitepaper Juridische aspecten van AI en machine learning

In deze whitepaper zetten wij uiteen wat AI en machine learning zijn en geven wij een overzicht van ethische en juridische vragen die spelen bij het gebruik van deze technologieën.

Button _whitepaper _artificial _intelligence

Wat zijn AI en machine learning?

AI is een verzamelterm voor technologieën die een (rudimentaire) vorm van cognitie bezitten en waarmee de makers geprobeerd hebben om een deel van het menselijk brein na te bootsen.

Technologie die gebruik maakt vanmachine learningis een vorm van AI die in staat  is om door analyse van data zichzelf te ontwikkelen en dus beslissingen te nemen die niet door de mens zijn geprogrammeerd.

Meer weten over wat AI en machine learning zijn? Zie hoofdstuk 1 van de whitepaper

Machine ethics

Technologie die gebruik maakt van machine learning is niet objectief. Zij houdt rekening met de uitgangspunten die door de bouwer aan de technologie is meegeven. Dat roept de vraag op of aan technologie die gebruik maakt van machine learning bepaalde ethische of juridische kaders kunnen en moeten worden meegegeven.

Meer weten over machine ethics? Zie hoofdstuk 2 van de whitepaper.

Regulering van AI?

De verwachting is dat AI de komende jaren een vlucht zal nemen en een steeds grotere rol zal gaan spelen binnen ons dagelijks leven. Het is de vraag of, nu AI zich nog in het beginstadium bevindt, niet al nagedacht zou moeten worden over de vragen of, en zo ja, hoe AI gereguleerd zou moeten worden. Het risico bestaat immers dat indien AI zich verder ontwikkeld, bepaalde fundamentele aspecten van AI niet meer kunnen worden teruggedraaid.

Meer weten over de regulering van AI? Zie hoofdstuk 3 van de whitepaper

Juridische aspecten van AI

Vaak wordt gezegd dat de opkomst van AI noopt tot de aanpassing van wet- en regelgeving. Als echter op een meer detailniveau naar de wet- en regelgeving wordt gekeken, blijkt dat veel vragen over de juridische aspecten van AI binnen het bestaande wettelijk kader kunnen worden beantwoord.

AI & aansprakelijkheid

Wie is aansprakelijk als AI zelfstandig beslissingen neemt en als gevolg daarvan schade ontstaat? De bezitter van AI of misschien de producent van AI? Het is soms moeilijk om deze vraag te beantwoorden, omdat vaak onvoldoende transparant is hoe AI tot een beslissing is gekomen en dus uiteindelijk schade is ontstaan. Inherent aan AI is bovendien dat fouten worden gemaakt. Het ligt daarom meer voor de hand om de aansprakelijkheid voor schade die is veroorzaakt door AI te beantwoorden op grond van de leer van de gevaarzetting; als iemand wist of behoorde te weten dat AI schade zou kunnen veroorzaken en AI toch in het verkeer heeft gebracht, is hij of zij aansprakelijk voor de schade die AI veroorzaakt.

AI & privacyrecht

Technologie die gebruik maakt van machine learning, analyseert data om tot beslissingen te komen. Als van deze data persoonsgegevens deel uitmaken, dan is de Algemene Verordening Gegevensbescherming (AVG) van toepassing.

De AVG bevat allerlei regels die een rol kunnen spelen bij de analyse van persoonsgegevens door AI. Zo bevat de AVG regels overgeautomatiseerde individuele besluitvorming. Daarvan is sprake als persoonsgegevens worden gebruikt om tot een bepaalde beslissing te komen en deze beslissing uitsluitend is gebaseerd op geautomatiseerde verwerking van persoonsgegevens. De AVG bepaalt dat in een dergelijk geval in beginsel steeds moeten worden voorzien in een vorm van menselijke tussenkomst.

Verder is in de AVG bijvoorbeeld eentransparantieplichtopgenomen. Die bepaalt onder meer dat als door AI persoonsgegevens worden verwerkt, inzicht moet worden gegeven in de logica die aan geautomatiseerde besluitvorming ten grondslag ligt. Dat is bij verdergevorderde vormen van machine learning (deep learning) een uitdaging.

AI & bestuursrecht

Als de overheid gebruik gaat maken van AI, dient zij zich te houden aan dealgemene beginselen van behoorlijk bestuur, waaronder het transparantiebeginsel, het zorgvuldigheidsbeginsel en het gelijkheidsbeginsel. De Afdeling Bestuursrechtspraak van de Raad van State heeft recent bepaald hoe deze beginselen moeten worden ingezet indien de overheid technologie inzet bij het nemen van besluiten.

AI & intellectueel eigendomsrecht

Het gebruik van AI roept allerlei vragen op, op het terrein van intellectueel eigendomsrecht. In de eerste plaats is het de vraag of intellectuele eigendomsrechten toekomen aan werken en uitvindingen die worden gedaan door of met behulp van een algoritme en, zo ja, aan wie?

Verder is het de vraag of AI door data te analyseren die is beschermd door het auteursrecht, geen inbreuk maakt op de rechten van de auteursrechthebbenden.

AI & mededingingsrecht

Naarmate het belang van AI toeneemt zal ook het bezit van data belangrijker worden. Dit terwijl een relatief klein aantal partijen over een relatief groot deel van de data beschikt. Het is de vraag of het mededingingsrecht niet mee zou moeten brengen dat partijen verplicht worden een deel van de data te delen.

Meer weten over de juridische aspecten van AI? Zie hoofdstuk 4 van de whitepaper.