Rotterdam,
11
december
2017
|
09:57
Europe/Amsterdam

Mensenrechten en de ‘dark side’ van digitalisering

In het kader van de Dag van de Mensenrechten op 10 december staan twee Inholland-lectoren stil bij de invloed van ontwikkelingen in technologie en digitalisering op onze mensenrechten.

Slimme meters, zorgrobots, internettelevisie en Facebook-algoritmes: we denken te weten wat we doen, maar het is niet altijd duidelijk wat de gevolgen zijn. Aan de snelle digitale ontwikkeling zit ook een andere, duistere kant, die vragen oproept als: wie heeft mijn data? En: wat doen ze er mee? 

Het Rathenau Instituut schreef eerder dit jaar het rapport ‘Mensenrechten in het Robottijdperk’. Ze geven in het rapport aan dat digitale technologieën een steeds grotere invloed op het dagelijks leven van mensen hebben, maar dat de nieuwe technologieën onze samenleving tegelijkertijd voor nieuwe sociale, ethische en juridische uitdagingen stellen.

We spraken in dit kader met Inholland-lectoren Frans van der Reep (Digital world) en Ineke van den Berg (Toegankelijkheid van het recht) over de invloed van de digitale wereld op het dagelijks leven en op onze mensenrechten. Lector van der Reep, een expert op dit gebied die de verstrekkende gevolgen van digitalisering in 2001 al benoemde, doet onderzoek, geeft les en schrijft artikelen en blogs over zijn visie op de digitale wereld. Ineke van den Berg, sinds september 2017 als lector aan Inholland verbonden bij de onderzoeksgroep Recht en Veiligheid, doet onder meer onderzoek naar mogelijkheden om de toegang tot recht laagdrempeliger, goedkoper en innovatiever te organiseren. Zij kijkt hierbij vooral naar de toekomst, waarin nieuwe technologieën en digitale oplossingen voor juristen en hun klanten een rol spelen.

Invloed van digitale wereld op mensenrechten
Het rapport pleit onder meer voor aanscherping en verheldering van bestaande mensenrechten, én voor het creeëren van twee nieuwe mensenrechten. Op welke manier worden mensenrechten volgens deze lectoren bedreigd of geschonden door de ontwikkelingen in de digitale wereld?

Frans van der Reep richt zich met name op de groeiende onmacht om controle te hebben op wat er over je bekend raakt in de digitaliserende wereld. “Sluipenderwijs word je op zoveel plekken getrackt en geregistreerd, je kunt het niet meer tegenhouden. Je gedrag en houding worden bijvoorbeeld op Schiphol door camera’s gevolgd, en voor je het weet past jouw gedrag in een ‘negatief’ algoritme of voorspellingmodel en word je uit de rij geplukt door de marechaussee. Als er geen betekenis wordt gegeven aan data in een context (je deed raar op Schiphol omdat je vliegangst hebt, bijvoorbeeld), verdwijnt de erkenning (van dat gedrag). Dan gaan we plaatjes plakken, wat leidt tot polarisatie en tot profilering. Het is zorgwekkend dat de wereld meer en meer gestuurd wordt door dit soort algoritmes.”

Verkeerde interpretatie kan leiden tot discriminatie
Van der Reep geeft nog een voorbeeld: “Uit onderzoek blijkt dat de kans dat iemand psychopaat is, groter is indien iemand zijn/haar koffie zwart drinkt. Als jij dus een keer ergens invult ‘Ik drink zwarte koffie’, dan ben je - in de wereld gestuurd door algoritmen - een hoger risico met alle gevolgen van dien. Dit patroon zal je steeds vaker zien, dat feiten in een andere context ook anders geïnterpreteerd worden. Dat leidt uiteindelijk tot willekeur en discriminatie. Het recht op bescherming tegen discriminatie staat zo op de tocht.”

De lector pleit daarom voor een nieuw recht. “Alles wat je op social media doet, wordt opgeslagen en je bent soms zelfs gedwongen om iets digitaal aan te vragen of in te vullen omdat er geen analoog alternatief is. Ik pleit daarom voor het ‘Recht op een selectief offline leven’. Dat je dus de keuze hebt om niet deel uit te maken van Big data.” Zijn voorstel sluit aan op een conclusie uit het Rathenau-rapport, namelijk dat mensen het recht moeten krijgen om niet gemeten, geanalyseerd of beïnvloed te worden; en om online profilering, tracking en beïnvloeding te kunnen weigeren.

Robots, kunstmatige intelligentie en het internet-of-things leggen steeds meer druk op onze mensenrechten, zoals het recht op privacy, op vrijheid van meningsuiting en op bescherming tegen discriminatie.
Rapport 'Mensenrechten in het Robottijdperk' - Rathenau Instituut

Verantwoordelijkheid van overheid en bedrijfsleven
Voor lector van den Berg is het niet alleen een zaak van het individu om te zorgen dat zijn of haar rechten beschermd worden. “De ontwikkelingen kun je niet tegenhouden, maar er is behoefte aan regulering. Dat kunnen mensen niet zelf en dat zouden ze ook niet behoeven doen: overheid en bedrijfsleven moeten hierin een verantwoordelijkheid nemen. De overheid heeft een taak in wet- en regelgeving, maar de ontwikkelingen gaan zo snel dat deze nu steeds achter de feiten aanloopt.”

Frans valt haar bij: “Ja, dat duurt inderdaad lang: van alle innovaties die context van het leven veranderen, weten we dat het 50 jaar duurt voor we dat helemaal begrepen hebben. Dat gold al voor de film en voor de trein, de auto en het vliegtuig, en nu voor digitale ontwikkelingen. Het heeft veel tijd nodig voordat het ‘institutioneel geland’ is en overheid en wetgever en handhavingsinstellingen er goed mee om weten te gaan.” Kennelijk zijn veel slimme” spullen ook helemaal niet veilig en echt gemakkelijk te hacken, zoals camera’s, tv’s en speelgoed. Van der Reep: “Productaansprakelijkheid van software bestaat nu niet. Zolang die niet is geregeld, is de kans niet groot dat op grote schaal ongemerkt hacken en data-verzamelen minder wordt.”

Wat kunnen we zelf doen om ons te weren en voor onze rechten op te komen?
Opletten waar je je gegevens achterlaat is belangrijk. Maar we hoeven het niet alleen te doen, want van den Berg benadrukt dat de bescherming van burgers door het bedrijfsleven nodig is. Dit heeft volgens haar alles te maken met Maatschappelijk verantwoord ondernemen (MVO). “MVO is namelijk ook: ervoor zorgen dat klanten of schuldenaren weten wat met hun data gebeurt. Dit is juist een verantwoordelijkheid van organisaties en bedrijven zelf. Ook Cybersecurity is een taak van de organisatie zelf.” Je weet dus eigenlijk niet welke data van je verzameld worden en opgeslagen zijn en bij wie. Is het recht op privacy een illusie? De lector ziet het somber in: “Het recht op privacy wordt in ieder geval momenteel helemaal niet of nauwelijks gehandhaafd. Zeker als je met zoveel data te maken hebt, moeten bedrijven daar echt hun best voor doen.”

Weerbaar worden en kritisch nadenken
Kan het onderwijs nog een rol spelen in dit proces? Lector van den Berg vindt het belangrijk dat mensen kritisch en weerbaarder gemaakt worden, zodat ze zich staande kunnen houden in het digitale tijdperk, met fake-news verspreidende bots en dergelijke. “De uitdaging is leren omgaan met de verleiding van korting of winst op korte termijn, en je te realiseren dat je steeds meer autonomie verliest. Het is een taak van het onderwijs om studenten bewust maken van ‘the dark site’ van digitalisering. We willen ze weerbaar maken en kritisch laten denken, zodat ze nepnieuws kunnen herkennen en onderscheiden van ‘echt’ nieuws. Dat kritisch kijken naar nieuws en betrouwbare bronnen kunnen onderscheiden is overigens een essentieel onderdeel van mediawijsheid, dit soort ‘21st century skills’ brengen we studenten natuurlijk bij. Het blijft een interessant spanningsveld tussen de mogelijkheden van internet en het recht van vrijheid van meningsuiting.”

Reacties (0)
Het bericht is verzonden, deze zal worden geplaatst na goedkeuring.