Data-ethiek: de 5 heilige principes voor verantwoorde toepassing van AI

De schaduwkant van algoritmes en AI

Besluiten van overheden, creditcardmaatschappijen en banken zijn soms volledig gebaseerd op algoritmes die geen verdere uitleg geven. Hoewel er wereldwijd inmiddels tientallen gedragscodes voor het ethisch gebruik van artificial intelligence (AI), big data en algoritmes zijn geschreven, blijven steeds meer burgers zitten met een onbehaaglijk gevoel. In hoeverre worden we gestuurd of gemanipuleerd door algoritmes? Harvard-hoogleraar Shoshana Zuboff spreekt van surveillance capitalism. Is het tijd voor een algoritmewaakhond, of is een keurmerk voor ethisch handelen vooralsnog afdoende?

Wat is ethiek?

Ethiek is de wetenschap waarbij mensen proberen bepaalde handelingen als goed of fout te kwalificeren. Op ethische vragen is geen eenduidig antwoord te vinden, omdat ze vaak erg persoonlijk zijn.

Ethiek kan descriptief of prescriptief zijn. Bij de beschrijvende vorm blijft het eigen oordeel achterwege; bij de voorschrijvende ethiek nemen mensen ook zelf standpunten in. Data-ethiek is toegepaste ethiek: het gaat om concrete keuzes bij het verzamelen van data en het inzetten van algoritmes.

Ethiek in de praktijk

• China bouwt aan een ongeëvenaard surveillancesysteem, met in 2019 naar schatting 200 miljoen camera’s. Koploper is de stad Chongqing met omgerekend één camera per zes inwoners. Hoe zit het met de privacy?
• De Nationale Politie experimenteert al jaren met CAS, het Criminaliteits Anticipatie Systeem. Deze vorm van predictive policing moet voorspellen waar en wanneer misdrijven als straatroof en inbraak plaatsvinden. Discriminatie ligt op de loer.
• Banken experimenteren met AI voor risicoscoring op basis van machine learning-modellen, early-warningsystemen voor witwassen en het geautomatiseerd afhandelen van leningaanvragen. Worden leningen ten onrechte geweigerd? New York onderzocht seksisme bij de kredietlimieten van de Apple Card.
• SyRI (Systeem Risico Indicatie) was een systeem van de Nederlandse overheid dat persoonsgegevens van burgers koppelde om verschillende vormen van fraude op te sporen en risicoprofielen opstelde. In hoeverre worden onschuldige burgers gecriminaliseerd?

Kortom: AI zit al in de haarvaten van onze samenleving. Omdat de wetgever altijd achterloopt op de realiteit, moet het grijze gebied waar AI ethische grenzen overschrijdt worden beteugeld. Dat proces begint met bewustwording. Filosofen, sociologen, futurologen, antropologen en zelfs theologen zoeken naar praktische richtlijnen, terwijl ontwikkelaars in hun agile sprints algoritmes schrijven, ogenschijnlijk zonder zich om de gevolgen te bekommeren. Dat is geen onwil; soms zijn ze gewoon onbewust onbekwaam.

Een raamwerk voor ethiek

Wat zijn de belangrijkste ethische principes waaraan AI moet voldoen? Luciano Floridi en Josh Cowls schetsen in de Harvard Data Science Review een helder raamwerk en vergelijken de belangrijkste gedragscodes. Daaruit volgen vijf principes.

Principe 1: AI bevordert de rechtvaardigheid door vooroordelen aan te pakken

Vooroordelen (biases) kunnen zich diep wortelen in mensen, data en algoritmes, vaak in die volgorde. Data die je opslaat is niet zo objectief als je denkt; het is de neerslag van wie wij zijn als mens. Alle impliciete waarden en vooroordelen zitten ook in big data. Discussies over het discriminerende karakter van algoritmes spitsen zich toe op fairness, een lastig te definiëren begrip. De beschuldiging: het algoritme wijst mensen met een buitenlandse achternaam of een bepaalde postcode af voor een baan of lening. Maar menselijke beslissingen zijn ook niet vrij van vooroordelen. ‘If you want the bias out, get the algorithms in’, stelt Andrew McAfee van MIT. Menselijke besluiten zijn bovendien moeilijk toetsbaar: mensen kunnen liegen of onbewust discrimineren.

Bij ongewenste uitkomsten zijn de onderliggende data en de gebruikte trainingsdata voor machine learning meestal de boosdoeners, niet het algoritme zelf. Soms is sprake van een selffulfilling prophecy: als de politie in bepaalde wijken intensiever surveilleert, treft zij daar ook meer criminaliteit aan. Een ‘silver bullet’ voor biases bestaat niet, concluderen onderzoekers van McKinsey. Het menselijke beoordelingsvermogen blijft van belang.

Principe 2: AI bevordert het welzijn van de mens en onze planeet

AI zou principieel ten goede moeten komen aan zoveel mogelijk burgers. Het aantal initiatieven voor ‘AI for good’ is niet meer op twee handen te tellen. Google, Microsoft, IBM, de Verenigde Naties, de Europese Commissie en nationale overheden beloven allemaal AI alleen in te zetten ten gunste van de mensheid en een duurzame samenleving. Hoewel de intenties op de werkvloer meestal goed zijn, is er ook sprake van greenwashing: organisaties doen zich mooier voor met pr-praatjes. Een IT-bedrijf claimt mensenlevens te redden omdat een bekende hulporganisatie zijn software gebruikt. Met een heldere visie op ethiek heeft dat weinig te maken, met marketing des te meer.

De mogelijkheden van AI scheppen nieuwe dilemma’s. Is een overheid die haar burgers wil conditioneren met een sociaal kredietsysteem goed bezig? In hoeverre zijn genetische modificatie, augmented reality en transhumanisme bedreigingen? Het ontwikkelen van ethische principes voor AI staat nog in de kinderschoenen en precedenten ontbreken. Volgens Floridi kunnen we daarom veel leren van de bio-ethiek, die zich bezighoudt met de ethische aspecten van menselijke ingrepen in het leven van mensen, dieren en planten.

Principe 3: AI mag burgers geen schade berokkenen

Algoritmes moeten niet alleen eerlijk en profijtelijk zijn, maar ook betrouwbaar, consistent en juist, en mensen moeten ze kritisch kunnen controleren en verifiëren. De Universiteit Utrecht inventariseerde hoe algoritmegedreven technologieën als big data, het internet of things en AI de grondrechten van burgers kunnen raken: privacyrechten, vrijheidsrechten, gelijkebehandelingsrechten en procedurele rechten. De menselijke waardigheid is soms in het geding.

Organisaties moeten bij het ontwerpen van AI-toepassingen altijd uitgaan van privacy by design en de grondrechten respecteren. De 23 Asilomar-principes zijn een goede leidraad. De transparantie en integriteit van algoritmes blijven zorgpunten. Sommigen pleiten voor een algoritmewaakhond met verregaande bevoegdheden; intussen werken verschillende organisaties aan een keurmerk voor het verantwoord gebruik van algoritmes. Wellicht kunnen accountants een rol spelen met in-controlverklaringen, zoals zij die nu al bij jaarverslagen afgeven.

Principe 4: AI staat in dienst van de mens en niet omgekeerd

De menselijke controle over AI is een groot goed. Mensen moeten te allen tijde zelf kunnen kiezen of en hoe zij delen van hun beslissingsbevoegdheid overdragen aan een AI-systeem, en voor welke doelen. Het gaat om behoud van autonomie: de macht om te beslissen. Het risico bij zelflerende systemen en neurale netwerken is dat de beslissingsmacht van de computer de menselijke bevoegdheid op een gegeven moment ondermijnt.

Het is zoeken naar de juiste balans. In het algemeen moet de autonomie van het systeem zoveel mogelijk worden begrensd, en de beslissingen mogen niet onomkeerbaar zijn, zeker niet bij leven of dood. Een mens moet de beslissingsmacht altijd weer naar zich toe kunnen trekken, zoals de piloot die bij een incident de besturing overneemt van de automatische piloot.

Principe 5: Algoritmes moet je kunnen uitleggen

Slechts een fractie van de beroepsbevolking is betrokken bij de ontwikkeling van de algoritmes die het dagelijks leven van bijna de hele wereldbevolking ingrijpend veranderen. Ingewikkelde algoritmes die al jaren worden gebruikt en aangepast, zoals PageRank van Google, zijn nauwelijks meer door mensen te doorgronden. De roep om transparantie, verantwoording, interpreteerbaarheid en begrijpelijkheid klinkt dan ook steeds luider: explainable AI. Open source kan die transparantie vergroten.

Organisaties hoeven concurrentiegevoelige informatie niet zomaar prijs te geven; bescherming van intellectueel kapitaal is ook een groot goed. Maar onafhankelijke experts moeten in staat worden gesteld een algoritme binnenstebuiten te keren en enkele basisvragen te beantwoorden. Hoe werkt het algoritme? Zijn de uitkomsten verklaarbaar? Wie is verantwoordelijk voor de werking? Wie is aanspreekbaar als het tot een ernstig incident of een schadelijke uitkomst leidt, en kan diegene achteraf verklaren waarom het niet naar behoren werkte?

De vijf principes in één oogopslag

Elk principe met de centrale vraag en een praktische waarborg.

Conclusie

Hoewel sommige wetenschappers AI-engines een set ethische waarden willen meegeven, kun je ethiek niet overlaten aan een computer. Mensen van vlees en bloed moeten bewaken dat algoritmes ethisch worden ingezet voor maatschappelijk verantwoorde doelen. Organisaties die AI-toepassingen ontwikkelen volgens het principe ‘ethics by design’ worden meer vertrouwd door hun afnemers, en dat betaalt zich uiteindelijk uit.

Verder lezen

• Artificial intelligence
• Machine learning
• Blog: Ethiek van big data
• Blog: Zes misverstanden over algoritmes

Bronnen

• Luciano Floridi en Josh Cowls, A Unified Framework of Five Principles for AI in Society, Harvard Data Science Review (2019)
• McKinsey Global Institute, Tackling bias in artificial intelligence (and in humans) (2019)
• Universiteit Utrecht, Algoritmes en grondrechten (2018)
• Future of Life Institute, Asilomar AI Principles (2017)

Over de auteur

Jack Esselink is een zeer ervaren trainer en spreker over data en AI. Na zijn studie bedrijfseconomie werkte hij bij diverse softwarebedrijven, waaronder Cognos en IBM, het laatst als Data Science & Machine Learning Evangelist bij IBM, waar hij wereldwijd trainingen, workshops en keynotes verzorgde.

Over Diamond Decisions

Diamond Decisions helpt organisaties beter te worden door betere beslissingen mogelijk te maken. We starten niet bij data, dashboards of AI, maar bij de beslissing die beter moet, en bouwen van daaruit terug naar KPI’s, data en technologie. Dat doen we in vier stappen: inspiratie en alignment, business modeling, analytics en dataplatform en datagedreven beslissers. Zo zorgen we dat BI en AI geen IT-project blijven, maar elke dag waarde opleveren.