Verantwoorde AI vraagt om dialoog, niet om een checklist.
Over de ethiek achter AI
Door Peter Reddering, Domain Lead Data Strategy @ Cmotions, Katinka Knops, – Ethicus @ Digethiek – advies over ethiek en digitalisering & Jurriaan Nagelkerke, Tech Lead Data Science & AI @ Cmotions
De ontwikkelingen rondom AI gaan razendsnel en de beloften zijn immens. Data zijn immers ‘het nieuwe goud’, dus wat is er logischer dan de data scientists de mijn in te sturen en te beginnen met delven? Toch blijken de echte vragen telkens niet alleen technologisch te zijn, maar ook ethisch: wat vinden we wenselijk, wie ondervindt de gevolgen en welke waarden zijn belangrijk?
In dit artikel laten we zien dat dit ethische perspectief geen bijzaak is, maar een rode draad die door de ontwikkeling van elke AI-toepassing loopt. Techniek is niet neutraal en bij de ontwikkeling ervan maak je voortdurend keuzes. Die rode draad weef je er daarom vanaf het begin in. Dat begint met de juiste dialoog.
De keuzes die je hoe dan ook maakt
Wie een AI-toepassing ontwikkelt, neemt vanaf dag één beslissingen die bepalen hoe de toepassing zich gedraagt en wie daar bedoeld of onbedoeld de gevolgen van ondervindt. Denk aan:
- welke data je gebruikt om het AI model te trainen of je prompts scherp te stellen – garbage in, gospel out, om maar eens een oude wijsheid te actualiseren;
- op welke gegevens het model zich baseert als het in de dagelijkse praktijk wordt gebruikt bij het maken van keuzes – gedragsdata of bijzondere persoonsgegevens zonder medeweten van de betrokkenen?;
- wat voor soort model je inzet: zelf getraind, gefinetuned, of een foundation model dat je ‘bevraagt’;
- waar model, invoer en uitvoer worden opgeslagen – en welke monitoring je inricht om te zien of het goed blijft gaan.
- hoe de gebruiker met het model kan (samen-)werken.
Elk van deze keuzes klinkt technisch, maar is in de kern ook ethisch: bij elke keuze weeg je waarden af en bepaal je welke waarden zwaarder wegen. Medewerkers moeten met de uitkomsten werken, klanten moeten met een chatbot uit de voeten kunnen, er worden besluiten genomen die impact hebben op burgers. Uit onze praktijk blijkt dan ook dat de belangrijkste keuzes niet over de techniek gaan, maar over de organisatie: welke doelen streef je na, welke menselijke afwegingen automatiseer je en welke waarden zijn zo belangrijk dat je ze wilt borgen in je ontwerp? Scoren met AI begint dus niet bij de techniek. Het begint bij de vraag waar je als organisatie voor wilt staan.
Uit de praktijk — Niet meer bellen
Een overheidsorganisatie in het zorgdomein beoordeelt aanvragen voor zorg of zorgbudget. Belangrijke stap in het proces: een telefoongesprek met de aanvrager, om te controleren of alles compleet is én of de cliënt overziet wat de gevolgen van de aanvraag op de persoonlijke situatie kan zijn. Om schaarse capaciteit te sparen wordt onderzocht of dit kan worden geautomatiseerd. Slimme techniek controleert straks de volledigheid en vraagt ontbrekende informatie digitaal op. Efficiënt! Alleen… daarmee verdwijnt mogelijk ook het enige persoonlijke contactmoment. Is dat wenselijk – voor de organisatie, de medewerkers én de cliënt? Of offert de nadruk op efficiëntie hier stilletjes andere waarden op?
Neutraal?
Wie denkt aan die ethische afwegingen te kunnen ontsnappen door te vertrouwen op de neutraliteit van de techniek, komt bedrogen uit. Een algoritme rekent consequent en zonder klagen, en daardoor lijken de uitkomsten objectief. Maar het rekent op basis van data die mensen hebben verzameld, met criteria die mensen hebben bedacht, richting doelen die mensen hebben gekozen. Kortom, er zit verrassend veel mens — en dus verrassend veel moraal — in die ‘neutrale’ machine. Train een model op het verleden en het reproduceert dat verleden consequent, inclusief de scheve blik die erin zat. Een algoritme dat een bepaalde postcode als ‘risico’ aanduidt, is niet visionair. Het is een spiegel met een selectief geheugen.
Uit de praktijk — de vlijtige papegaai
Een jeugdzorgorganisatie ontwikkelt voorspelmodellen om risico’s op problematisch gedrag in te schatten, getraind op historische dossiers. Het model maakt keurig onderscheid tussen hoog en laag risico. Totdat verdiepende analyse laat zien dat jongeren met een bepaalde culturele achtergrond in het verleden simpelweg vaker zijn gemeld en gevolgd – mogelijk door verschillen in interpretatie of vooroordelen. Het model leert braaf: die groep = hoger risico. Zelfs zonder afkomst als variabele sluipen postcode en schooltype als indirecte indicatoren naar binnen. Zo wordt het algoritme een vlijtige papegaai van oude patronen, met een self-fulfilling prophecy als risico. Technisch doet het précies wat gevraagd is. Dat is nou juist het probleem.
Het checklist-verlangen
Als we dus niet zomaar op de neutraliteit van de techniek kunnen vertrouwen, hoe maak je dan wel de juiste keuzes in het ontwerp? Misschien een lijstje met criteria? In onze gesprekken en sessies met opdrachtgevers zien we die behoefte aan checklists en frameworks telkens terugkomen. Begrijpelijk: een afgevinkte lijst geeft een gevoel van controle. ‘Kijk, ik heb alle criteria nagelopen, dus ik kan me verantwoorden.’ Het probleem is alleen dat ethiek zich niet in vakjes laat vangen: de werkelijk relevante vragen staan zelden op een standaardlijstje, omdat ze afhangen van de specifieke toepassing en context.
Wat in de ene situatie onschuldig is (een algoritme dat een outfit voorstelt op basis van de inhoud van je kledingkast), is dat in de andere allerminst (een algoritme dat op basis van geslacht, leeftijd en postcode over je lening beslist). Het ethische perspectief is daarom geen formulier dat je éénmalig invult en archiveert, maar een doorlopende dialoog over waarden en de gevolgen van je keuzes: wie heeft baat bij deze toepassing, wie kan erdoor benadeeld worden, en vinden we die gevolgen met elkaar acceptabel? Bij ethische vraagstukken is er zelden een zwart-wit ‘goed’ of ‘fout’; het gaat om een afgewogen argumentatie die keuzes onderbouwt. Juist in die afweging – en de transparantie daarover – ligt zorgvuldige verantwoording besloten. Niet in een voor 100% ingevuld standaardformulier.
‘Maar het mág toch van de wet?’
Wie het gesprek over waarden liever overslaat, heeft nog één troef achter de hand: de wet. ‘We handelen 100% ethisch, want we blijven volledig binnen de wettelijke kaders.’ Een geruststellende gedachte, maar ethiek en wetgeving zijn niet hetzelfde. Sterker nog: ethiek gaat vooraf aan wetgeving. In de wet leggen we vast wat we als samenleving na maatschappelijk en moreel debat met elkaar hebben afgesproken. Daarmee loopt wetgeving per definitie achter op de werkelijkheid, zeker bij techniek die heel wat sneller verandert dan een gemiddeld wetgevingsproces! Bovendien kan de wet onmogelijk in elke specifieke situatie voorzien. Maar is iets wat wettelijk is toegestaan automatisch ook een goed idee dat past bij de waarden van je organisatie en stakeholders?
Hoe dan wel?
De rode draad is duidelijk: het ethische perspectief zit in elke stap — in de keuzes die je maakt, in de techniek die je bouwt en hoe je je daarover verantwoordt. AI verantwoord inzetten begint dan ook niet met een algoritme, maar met de juiste mensen aan tafel en een aantal “ongemakkelijke vragen”. Weinig glamour, veel effect. Dat roept uiteraard praktische vragen op: hoe organiseer je dat gesprek en wie betrek je erbij? Hoe leg je afwegingen navolgbaar vast? En hoe borg en beleg je ethiek structureel in de organisatie, zodat het geen eenmalige exercitie blijft maar een vast onderdeel wordt van hoe je met AI werkt – zonder dat het tot, je raadt het al, een checklist? In het vervolg op dit artikel werken we deze vragen verder uit!
Meer weten
Cmotions helpt organisaties met het slim en verantwoord inzetten van AI in hun ontwikkelproces. Loop je tegen vragen aan over agentic werken, governance rond AI-tooling of het opschalen van Claude Code binnen je team? Neem gerust contact met ons op.
