De ethiek van big data en AI: verleiding en angst

Ethiek bepaalt of je goed of fout zit

Ethiek bepaalt of je goed of fout zit vanuit een bepaald denkkader. Deze richting binnen de filosofie, ook moraalfilosofie genoemd, houdt zich bezig met wat toelaatbaar gedrag is; ze wil ons begrip van goed en slecht handelen verbeteren, vastleggen, beargumenteren en ondersteunen. In dit artikel verkennen we het denkkader rond big data en ethiek, de impact van big data op klanten en samenleving en waar de grenzen liggen. Van techniek valt in elk geval geen ethiek te verwachten.

In de praktijk houdt ethiek zich bezig met vragen als:

• Wat is goed of fout handelen en waar liggen precies de grenzen?
• Hoe komen we tot nieuwe denkkaders over goed en fout?
• Hoe kunnen mensen vanuit ethisch ontwikkelde kaders het best samenleven?

Ethische vraagstukken zijn cultuurgebonden: sommige samenlevingen zien directheid als moedig, andere als brutaal. Door de globalisering speelt dit meer dan ooit, want data gaat steeds vaker de landsgrenzen over. Wetgevers en wetenschappers zullen dat moeten meenemen bij het ontwikkelen van nieuwe ethische grenzen.

Toegepaste ethiek van big data

Naast de brede hoofdstroom van de ethiek bestaat er toegepaste ethiek, die op een beperkter terrein werkt, zoals medisch handelen, zakelijk handelen of de toepassingen van ICT. Juist die laatste richting, ethiek binnen de ICT en vooral het gebruik van big data, onderzoeken we hier, inclusief aspecten van persoonsbescherming en privacy bij het toepassen van data-analyse.

Big data is verleidelijk

Big data-systemen kennen vrijwel onbegrensde mogelijkheden, want de data en de mogelijke combinaties nemen in een ongelooflijk tempo toe. Vooral de combinatie van machine learning, kunstmatige intelligentie en big data biedt ongekende mogelijkheden om voorspellingen te doen over iemands leven. Zoals alles in dit leven heeft big data een verleidelijke en een beangstigende kant.

Verleiding en angst: de twee kanten van big data

Voor bedrijven en voor klanten.

We willen alles weten van de klant

De verleiding is groot om zo veel mogelijk informatie over mensen, machines en zaken te verzamelen. Een bedrijf wil het liefst alles weten van zijn klanten. Hoe beter het denken en gedrag van klanten in kaart is gebracht, hoe beter een bedrijf producten op maat kan maken. Bedrijven die zo gestructureerd te werk gaan, zijn logischerwijs succesvoller in het verkrijgen en behouden van een voorkeurspositie bij de klant.

Gooi je geld niet in een bodemloze put

De angst bestaat dat klanten je bedrijf langzaam vergeten als je niet investeert in big data. Maar er is ook het schrikbeeld dat investeren in big data gelijkstaat aan geld in een bodemloze put gooien, zonder rendement. Hoeveel bedrijven leggen niet een data lake aan omdat ze gewoon niet willen achterblijven?

Wat vindt de klant?

Aan de andere kant vinden klanten het niet prettig dat bedrijven zomaar de beschikking krijgen over hun persoonlijke gegevens. De roep om bescherming van onze privacy klinkt de laatste jaren alleen maar luider. Tegelijk wil de klant wel persoonlijke aanbiedingen en kortingen op veelgekochte producten. Daar zit een spanningsveld. De Europese betaalrichtlijn PSD2 geeft klanten bijvoorbeeld meer vrijheid om hun financiën te beheren: je kunt ervoor kiezen je betaalgegevens met andere bedrijven te delen, bijvoorbeeld om sneller te betalen in een webshop. Als je dat wilt, natuurlijk.

Big data is here to stay

Big data infiltreert langzaam ons hele leven, of we het willen of niet. Het gebruik ervan betekent dat een deel van onze persoonlijke gegevens, gevoelens en ideeën toegankelijk wordt voor veel anderen. Big data is here to stay en zal zich alleen nog uitbreiden. We zullen moeten accepteren dat mensen die we niet kennen, en ook niet-natuurlijke personen, informatie over ons kunnen krijgen.

Wie dit niet wil, stelt zich buiten de maatschappij en buiten de moderne wereld.

De discussie zou dan ook niet meer moeten gaan over de vraag óf we big data willen gebruiken. We moeten eerder nadenken over hoe we willen omgaan met de uitwassen die big data mogelijk met zich meebrengt. Anders gezegd: wat is de ethiek van big data?

Hoe ga je ethisch verantwoord om met big data?

Ethisch verantwoorde oplossingen zijn vaak lastig te vinden, maar ze zijn nodig als deze wereld niet moet veranderen in een Brave New World, de beroemde roman van Aldous Huxley over een totalitaire maatschappij.

Van techniek valt geen ethiek te verwachten

Informatie heeft geen ethiek en handelt niet ethisch. Dat geldt ook voor alle technieken waarmee big data wordt doorzocht. Maar zodra een techniek wordt gebruikt, is er iemand die daarover heeft beslist en iemand die die beslissing uitvoert. In beide gevallen gaat het om mensen, die wel degelijk een ethisch bewustzijn hebben en tot ethische reflectie in staat zijn. Vaak beroepen mensen zich erop dat hun bedrijf, een niet-natuurlijk persoon, opdracht geeft om bepaalde handelingen uit te voeren. Toch geeft dat een persoon nooit een excuus om zich te verschuilen achter een façade van bedrijfspolitiek: ‘stelen in opdracht’ blijft stelen.

Je kunt de oplossing ook vinden door de redenering om te draaien. Vaak wordt ervan uitgegaan dat big data wordt gebruikt om mij als burger te exploiteren. Een andere aanpak is big data te gebruiken om mij iets over mezelf te leren.

Big data maakt ons onderbewuste zichtbaar

Door ons surf- of koopgedrag in kaart te brengen en daar correlaties in te vinden, maakt big data ons onderbewuste zichtbaar. Van die correlaties zijn we ons zelden bewust. Kennis van deze onbewuste verlangens is een zeer effectieve grondstof voor reclame: hoe onbewuster het gedrag, hoe eenvoudiger we te beïnvloeden zijn. De morele vraag die we moeten stellen is daarom:

Mogen we het onbewuste zo beïnvloeden dat we klanten ertoe bewegen te doen wat wij willen?

Menig bedrijf zal hier onomwonden ‘ja’ op antwoorden. Veel klanten zullen vanuit persoonlijke motieven ‘nee’ zeggen. Het is opmerkelijk dat mensen bij die bedrijven menen de klant te kunnen aandoen wat ze zelf zeker niet aangedaan willen worden. De gewetensvraag is: vinden onze klanten het prettig om onbewust te worden beïnvloed? Zouden ze niet liever bewust voor een product kiezen? En zo ja, hoe help je je klant dan met big data om tot die bewuste keuze te komen?

Ontdek de correlaties samen met de klant

Big data kan inzicht geven in correlaties tussen schijnbaar losstaande gebeurtenissen. De werkelijke kracht ervan zou kunnen zijn:

1. deze losstaande gebeurtenissen in kaart brengen;
2. samen met de klant de correlaties ertussen vinden;
3. en dan samen achter het waarom van deze correlaties komen.

Door met klanten te zoeken naar hun werkelijke wensen kunnen ze bewust hun volgende stap kiezen. Daar zijn ze veel meer mee geholpen dan met het oprakelen van onbewuste verlangens. De vraag die volgt is hoe iedere klant, persoon of burger zo kan worden geschoold dat deze aanpak werkt.

Ethiek blijft mensenwerk

Ethiek in relatie tot computergebruik is en blijft mensenwerk. Helaas hebben wij mensen daar regels voor nodig. Zoals een uitspraak luidt die aan de Griekse filosoof Plato wordt toegeschreven:

Mensen die het goede doen, hebben geen wetten nodig en slechte mensen doen alles om wetten te omzeilen.

Dat betekent dat ethisch handelen altijd van mensen en omstandigheden blijft afhangen.

De 10 geboden van computerethiek

Om mensen houvast te geven hebben diverse organisaties die zich met computergebruik bezighouden ethische codes opgesteld. Veel daarvan zijn te herleiden tot tien simpele (volgens sommigen te simpele) regels, oorspronkelijk geformuleerd door het Computer Ethics Institute in 1992:

1. Gij zult de computer niet gebruiken om anderen te schaden.
2. Gij zult andermans computerwerk niet verstoren.
3. Gij zult niet rondneuzen in andermans databestanden.
4. Gij zult de computer niet gebruiken om te stelen.
5. Gij zult de computer niet gebruiken om een valse getuigenis af te leggen.
6. Gij zult de licentievoorwaarden van software respecteren.
7. Gij zult andermans computercapaciteit niet gebruiken zonder toestemming.
8. Gij zult andermans geestesvruchten niet als de uwe presenteren.
9. Gij zult nadenken over de sociale consequenties van de code die gij maakt.
10. Gij zult de computer met overleg en respect gebruiken.

Wie de berichten over hackers, virussen en malware volgt, kan zich afvragen hoeveel computergebruikers deze geboden kennen én toepassen. Waarschijnlijk is de aan Plato toegeschreven opmerking ook van toepassing op deze codes, waarmee een uitspraak van meer dan 2300 jaar oud nog steeds bijzonder actueel is.

Verder lezen

• Big data
• Artificial intelligence
• Blog: Data-ethiek: 5 principes voor verantwoorde AI
• Blog: 6 redenen om geen data lake aan te leggen

Over de auteur

Jack Esselink

Jack is een zeer ervaren trainer en spreker over data en AI. Als Data Science & Machine Learning Evangelist bij IBM gaf hij trainingen, workshops en keynotes op alle continenten. Zijn motto: “It’s all about data.”

Over Diamond Decisions

Diamond Decisions helpt organisaties beter te worden door betere beslissingen mogelijk te maken. We starten niet bij data, dashboards of AI, maar bij de beslissing die beter moet, en bouwen van daaruit terug naar KPI’s, data en technologie. Dat doen we in vier stappen: inspiratie en alignment, business modeling, analytics en dataplatform en datagedreven beslissers. Zo zorgen we dat BI en AI geen IT-project blijven, maar elke dag waarde opleveren.