Ja, wij hebben een webshop 😉.

Ben je op zoek naar juridisch advies of het betere maatwerk voor je contracten of policies? Check ons aanbod!

EU publiceert richtlijnen rond ethisch gebruik van Artificiële Intelligentie

17.04.2019 Leesduur: 5 minuten

De Europese Unie heeft afgelopen week een reeks richtlijnen gepubliceerd die bedrijven en overheden een leidraad moeten geven bij het ontwikkelen van AI-toepassingen op een ethische manier.

 

De hoge vlucht van Artificiële Intelligentie

Artificiële Intelligentie of AI beheerst sinds enige tijd heel wat (juridische) debatten. Technologie is inmiddels zo ver geëvolueerd dat slimme en zelflerende computeralgoritmes heel wat taken kunnen overnemen die klassiek door mensen werden uitgevoerd.

Het gaat daarbij meestal over software die op basis van grote hoeveelheden data patronen kan leren herkennen en uit die patronen bepaalde besluiten kan trekken of acties kan ondernemen.  AI-toepassingen laten bvb toe om bepaalde medische diagnoses sneller en efficiënter geautomatiseerd te stellen dan wanneer een arts zelf hetzelfde werk zou moeten doen. Recente testen tonen bijvoorbeeld aan dat huidkankerdiagnoses met zeer grote precisie door AI-software gesteld kunnen worden.

Maar ook in andere sectoren vindt Artificiële Intelligentie of Machine Learning nuttige toepassingen.  AI kan helpen om verkeersstromen te begeleiden, om individueel rijgedrag te voorspellen (wat erg interessant is voor verzekeraars, die plots het individuele ongevalrisico van een bepaalde persoon kunnen inschatten met grote precisie), consumentengedrag te voorspellen, om onderwijs beter af te stemmen op de noden van studenten, om uit grote hoeveelheden data potentiële fraude te detecteren in bijvoorbeeld de financiële sector of in de online gokwereld, …

 

Risico’s en bezorgdheden

Heel wat potentiële nuttige toepassingen dus, maar tegelijkertijd stellen zich toch ook heel wat risico’s en bezorgdheden rond het gebruik van Artificiële Intelligentie,  met name op het vlak van privacy, non-discriminatie en individuele vrijheid.  AI laat immers toe om op zeer grote schaal data over mensen te verwerken en data uit verschillende bronnen aan elkaar te koppelen om daaruit soms erg onverwachte besluiten te trekken. Als die besluiten op hun beurt automatisch tot bepaalde gevolgen leiden (iemand krijgt geen verzekering of lening, iemand krijgt geen woning toegewezen, …) kan dat leiden tot discriminatie waartegen de betrokkene zich slechts zeer moeilijk kan verzetten.  Het hilarische Computer says no uit de legendarische tv-serie Little Britain wordt zo plots een erg reële situatie.

 

De EU komt tussenbeide

De EU probeert nu preventief in te grijpen en ervoor te zorgen dat overheden en bedrijven die met AI aan de slag gaan op zijn minst een aantal ethische en democratische principes toepassen die een garantie moeten bieden voor de individuele rechten en vrijheden van de burgers in de Europese Unie.

Hiervoor heeft de EU een groep van 52 deskundigen samengebracht.  Zij hebben op basis van hun specifieke vakkennis en ervaring een lijst opgesteld van zeven basisvereisten waaraan volgens hen alle toekomstige AI-systemen zouden moeten voldoen.  Deze lijst is verwerkt in een verslag met richtlijnen dat deze week publiek gemaakt werd.

Samengevat zijn deze als volgt:

  • Human agency and oversight

AI mag de menselijke autonomie niet in de weg staan. Mensen mogen niet gemanipuleerd of gedwongen worden tot bepaalde gedragingen door AI-systemen en mensen moeten kunnen ingrijpen of toezicht houden op elke beslissing die de software neemt.

  • Technische robuustheid en veiligheid

AI moet veilig en accuraat zijn. AI-systemen moeten bestand zijn tegen externe aanvallen en de werking ervan moet betrouwbaar zijn.

  • Privacy en gegevensbeheer

Persoonsgegevens die door AI-systemen worden verzameld, moeten veilig en vertrouwelijk verwerkt worden.  Ze mogen niet toegankelijk zijn voor onbevoegden en moeten afdoende beveiligd zijn. Dit volgt overigens eigenlijk ook logischerwijze uit een correcte toepassing van de GDPR of AVG, die deze beginselen sowieso ook al oplegt.

  • Transparantie

Gegevens en algoritmen die worden gebruikt om een ​​AI-toepassing te maken, moeten toegankelijk zijn en de beslissingen die door de software worden genomen, moeten begrepen en opgespoord kunnen worden door mensen.

  • Diversiteit, non-discriminatie en eerlijkheid

Diensten aangeboden op basis van AI moeten voor iedereen beschikbaar zijn, ongeacht leeftijd, geslacht, ras of andere kenmerken en vanzelfsprekend mag op basis van deze criteria door de software niet gediscrimineerd worden.

  • Milieu en maatschappelijk welzijn

AI-systemen moeten duurzaam zijn (d.w.z. ze moeten ecologisch verantwoord zijn) en “positieve sociale verandering bevorderen”

  • Verantwoordingsplicht

AI-systemen moeten controleerbaar zijn.  Potentiële negatieve effecten van systemen moeten van tevoren worden onderzocht en gerapporteerd.  Hiermee wordt in se verwezen naar de verplichte Data Protection Impact Assessment (DPIA) of Gegevensbeschermingseffectenbeoordeling onder GDPR of AVG.

Het rapport bevat bovenop bovenstaande principes ook wat een “betrouwbare beoordelingslijst voor AI” wordt genoemd.  Dit is een checklist met vragen waarmee deskundigen mogelijke zwakke plekken of gevaren in AI-software kunnen achterhalen en die moet helpen bij het maken van een voorafgaande impact assessment of effectenbeoordeling, al dan niet onder GDPR of AVG.

 

Geen bindende wetgeving

Deze richtlijnen zijn niet juridisch bindend, maar ze kunnen vorm geven aan toekomstige wetgeving van de Europese Unie. De EU heeft herhaaldelijk gezegd dat zij een leider wil zijn in ethische AI en heeft met de GDPR laten zien bereid te zijn om verreikende wetten te creëren die digitale rechten beschermen.

De beoordelingslijsten zijn ook slechts voorlopig, maar de EU zal de komende jaren feedback van bedrijven verzamelen, met een eindverslag over hun nut in 2020.

In afwachting heeft de EU de European AI Alliance opgericht, een denktank en overlegorgaan waar experten in AI uit allerlei vakgebieden in discussie kunnen gaan met de EU High Level Expert Group on Artificial Intelligence binnen de Europese Commissie.  Sirius Legal is, samen met vertegenwoordigers van heel wat universiteiten, overheden en beroepsfederaties, overigens actief lid van deze AI Alliance.

 

Vragen over Artificiële Intelligentie, nieuwe technologie of software development in het algemeen?

Neem gerust vrijblijvend contact op met Bart Van den Brande of een van de andere leden van ons team op bart@siriuslegal.be of op +32 486 901 931.

Over de auteur

Bart
Van den Brande

Ik ben de oprichter en Managing Partner van Sirius Legal.  In 2010 besloot ik de Brusselse advocatenwereld achter me te laten om op een and...


Digitale start-ups

Idealiter staat jouw start-up juridisch helemaal op punt. Kijk verder dan enkel het betere contractenwerk, maar kies een sparring partner die met je meedenkt en alle juridische valkuilen voor je afdekt. 


AI en blockchain

De digitalisering van onze economie brengt heel wat juridische uitdagingen met zich mee. Wij adviseren je graag over de juridische impact van AI, Blockchain, cryptocurrencies, Internet of Things en digitale handtekeningen.


Web & app & software development

Actief in web, app of software development? Dan zorg je maar beter dat de projecten die je oplevert juridisch helemaal op punt staan. En de relaties met je klanten zitten meestal wel goed… tot het eens fout gaat, toch? 


Cyber security

Ook jouw bedrijf kan het slachtoffer worden van cybercriminaliteit, de meldingen rond cybercrime nemen exponentieel toe. Wij helpen je bij de opzet van een performant technisch én juridisch cyber security beleid.


E-commerce

Heb je een webshop of wil je er een starten? Laat je juridisch adviseren door onze e-commerce experten. In een mum van tijd is je webshop compliant!