The Ethical Companion: in gesprek over AI en ethiek

Het doel van het project

Weet je wat technologie met je doet – als consument én als maker? Wie zich bewust is van AI, maakt andere keuzes en neemt minder snel aan wat AI voorschotelt. AI-geletterdheid betekent dat je kritisch naar AI kijkt: je begrijpt hoe AI je privéleven, bedrijven en politiek beïnvloedt. En je bent je bewust van de ethische gevolgen. 

Dit project ontwikkelt hiervoor een interactieve installatie: The Ethical Companion. Deze installatie nodigt bezoekers uit om in gesprek te gaan over AI en ethiek. Denk aan thema’s als algoritmische vooroordelen, manipulatie, auteurschap en privacy. Daarmee is de Ethical Companion een communicatiemiddel én een onderzoeksinstrument. De interactie vergroot het bewustzijn over AI, waarbij de onderzoeksvraag is: hoe neem je ethiek vanaf het begin mee in het ontwerpen van software?

De installatie komt in het Nxt Museum in Amsterdam te staan. Ze nodigt studenten, docenten en voorbijgangers uit om op een speelse en visuele manier in gesprek te gaan over deze thema’s. Door verhalen, beelden en interactie maakt het scherm complexe ethische vraagstukken begrijpelijk, herkenbaar en tastbaar voor een breed publiek. Denk bijvoorbeeld aan vragen als: hoe gebruik je social media of ChatGPT? Weet je hoe het zit met je privacy en digitale rechten?

Tegelijk richt het project zich op de vraag hoe ethiek vanaf het begin een plek krijgt in het ontwerpen van software. De ontwerpprincipes die hieruit voortkomen helpen professionals om ethisch denken beter te integreren in hun werkprocessen.

Hoe pakt Inholland dit onderzoek aan?

We ontwikkelen kennis door te maken, testen en reflecteren – ook wel een Research-through-Design-aanpak genoemd. De interactieve installatie staat centraal in dit proces. Bezoekers gaan in gesprek met AI over ethische vragen en dilemma’s. Tegelijkertijd gebruiken we deze interacties om inzichten te verzamelen over hoe mensen denken over AI en ethiek. Daarmee is de installatie zowel een communicatiemiddel als een onderzoeksinstrument.

In het Datalab in Alkmaar en het Urban Leisure Tourism Lab in Amsterdam werken studenten van ICT-opleidingen, Creative Business en Tourism Management samen aan ideeën, bouwen prototypes en testen deze met gebruikers. We verzamelen feedback via workshops en tests. Deze input gebruiken we om het ontwerp te verbeteren. Zo nemen we verschillende perspectieven mee. 

Het onderzoek wordt uitgevoerd door Daniëlle Leentjens, PD-onderzoeker bij Hogeschool Inholland. Zij begeleidt het proces en vertaalt inzichten naar ontwerpkeuzes en onderwijs. 

Zij werkt samen met Ben Wagner (lector Media, Technology and Society) en wordt begeleid door Joke Hermes en Cock Heemskerk. 

Wat is het belang voor het onderwijs?

Dit project draagt bij aan het vergroten van de AI-geletterdheid van studenten en docenten. We ontwikkelen een onderwijsmethode waarbij studenten leren om ethische overwegingen mee te nemen in het ontwerpproces. Ook draagt het onderzoek bij aan een framework voor (toekomstige) Human Computer Interaction (HCI)-professionals. Dit framework is een soort stappenplan waarmee je in elke fase van het ontwerpproces nadenkt over de ethische gevolgen van je ontwerp.   

Studenten van ICT-opleidingen, Creative Business en Toerisme werken als stagiairs en afstudeerders mee vanuit minors en BIPs. 

Hoe betrekken we het werkveld?

Onze werkveldpartners geven advies en kijken mee met alle werkzaamheden. De installatie The Ethical Companion komt fysiek te staan in het Nxt museum, dat gewijd is aan digitale kunst. Via Nxt komt Daniëlle in contact met andere kunstenaars die kunst maken waarbij emerging technologies zoals AI een rol spelen. 

De beroepsvereniging van Human Computer Interaction designers, CHI Nederland, verzorgt congressen en conferenties waar waardevolle kennis opgedaan kan worden. 

Wat zijn de (verwachte) resultaten?

Het project resulteert in een combinatie van een ervaarbaar kunstwerk, praktische tools en nieuwe inzichten. Samen dragen deze bij aan meer bewustwording en verantwoordelijkheid rondom AI.

We verwachten de volgende resultaten:

• Een interactieve installatie over AI-ethiek: een kunstwerk dat bezoekers activeert om na te denken over de invloed van AI op hun dagelijks leven.

• Onderwijsmodules voor AI-geletterdheid: toepasbaar lesmateriaal waarin kritisch denken en ethiek een vaste plek krijgen.

• Ontwerpprincipes voor digitale professionals: praktische richtlijnen om ethische afwegingen structureel mee te nemen in ontwerpkeuzes.

• Meer bewustwording van digitale rechten en AI: bij zowel studenten en docenten als een breder publiek.