Zes misverstanden over algoritmes

Onbegrip over algoritmes

Artificial intelligence is hot. Een algoritme bepaalt voortaan de noten van een nieuw parfum. De kunstwereld had een primeur met een portret dat door een algoritme is samengesteld en gesigneerd met een regel code. Het zijn twee willekeurige voorbeelden van onschuldige, verrassende toepassingen van AI. Maar algoritmes kunnen ook angst inboezemen: zelfrijdende auto’s die crashen, slimme speakers die het huishouden overnemen, algoritmes die sollicitanten afwijzen of verdachten beoordelen. Kunnen we algoritmes nog in goede banen leiden? Omdat er veel onbegrip is, ruimen we zes misverstanden uit de weg.

Zes misverstanden en hoe het werkelijk zit

Het beeld zoals het in 2018 was.

Misverstand 1: Nederland loopt voorop met AI

Echt? Als we onderzoekers van Microsoft en EY mogen geloven, liep Nederland in 2018 met AI voor op de rest van Europa. Het zou behoren tot de landen met de hoogste fase van volwassenheid in AI-projecten: 37 procent van de onderzochte Nederlandse organisaties werkte aan AI-initiatieven die daadwerkelijk in productie waren genomen of zich in een gevorderde fase bevonden. Van de overige Nederlandse bedrijven zat 45 procent in de vroege fase van een pilotproject en maakte 9 procent plannen. AI stond bovendien iets vaker op de agenda van het C-levelmanagement dan in andere landen.

Bij nader inzien valt daar veel op af te dingen. EY ondervroeg 277 organisaties in vijftien Europese landen, maar slechts 22 Nederlandse bedrijven, vooral grotere beursgenoteerde bedrijven met diepe zakken. Niet echt representatief voor het hele bedrijfsleven. Ook het investeringsniveau was niet om over naar huis te schrijven: rond de 40 miljoen euro in AI-start-ups in tien jaar, aanzienlijk minder dan koplopers Frankrijk en Duitsland. Tegelijk dreigde een braindrain bij Nederlandse universiteiten, zo waarschuwde het innovatiecentrum ICAI, en had Nederland nog geen nationale AI-strategie, terwijl de Duitse regering tot 2025 drie miljard euro in AI wilde investeren. Kortom: Nederland was op dat moment eerder hekkensluiter dan koploper.

Misverstand 2: het zal mijn tijd wel duren

No way. Algoritmes en big data worden allang niet meer alleen toegepast door webwinkels, sociale media en streamingdiensten. Overheidsdiensten overwegen big data te gebruiken om fraude op te sporen. Algoritmes nemen de beurshandel over. In de precisielandbouw voorspellen en optimaliseren gps, sensortechnologie, robots en drones de oogst. In de zorg helpen algoritmes ziektes te voorspellen en diagnoses te stellen. In de openbare ruimte voorspellen camera’s en sensoren waar ongewenst gedrag dreigt. In de logistiek helpt software goederenstromen, vrachtwagens en chauffeurs beter te plannen en te combineren. En in de werving maakt een zelflerend algoritme een voorselectie van geschikte kandidaten.

AI en robots zijn voor elk bedrijf een manier om het bedrijfsproces te optimaliseren, stelt het Rathenau Instituut in het rapport Robotisering en automatisering op de werkvloer. De digitale revolutie heeft de industrie allang bereikt: onderhoud op afstand, predictive maintenance en slimme datamodellen zijn volledig gebaseerd op digitale inzameling en analyse van data uit het productieproces.

Internet of Things en predictive maintenance

Volgens onderzoekers van ABN AMRO zou het industriële Internet of Things een hoge vlucht nemen. In 2017 waren wereldwijd al zo’n negen miljard actieve apparaten met elkaar verbonden; BI Intelligence schatte dat dit in 2025 circa 55 miljard zou kunnen zijn. Predictive maintenance, regressieanalyse inzetten om te voorspellen wanneer een machine of onderdeel aan vervanging toe is, maakt zijn beloften aantoonbaar waar, meldden onderzoekers van PwC: 95 procent van de bedrijven meldde positieve resultaten, de uptime van machines nam gemiddeld negen procent toe en het aantal visuele inspecties kon drastisch omlaag.

Misverstand 3: vadertje staat waakt over ons

Vergeet het maar. Bij digitaal communiceren door de overheid staat het gemak van het functioneren van de overheid voorop. Overheidsorganen staan nog onvoldoende stil bij de gevolgen van digitalisering voor de verhouding tussen overheid en burger, waarschuwde de Raad van State in 2018. Overheidsorganen gebruiken steeds vaker computers om besluiten voor hen te nemen, via geautomatiseerde beslisregels, algoritmes, zonder menselijke tussenkomst. Burgers kunnen dan niet meer nagaan welke regels de overheid toepast en welke gegevens ze gebruikt. De Raad van State adviseerde daarom scherp te letten op een goede motivering van besluiten: duidelijk moet zijn welke beslisregels zijn toegepast en wat de bron is van de gegevens.

Het gebruik van algoritmes is niet zonder problemen. Voor niet-specialisten is niet te controleren of het omzetten van regels in een programmeertaal foutloos en nauwkeurig is gegaan, en regels in natuurlijke taal zijn lang niet altijd één-op-één te vertalen in een algoritme. De AVG bepaalt bovendien dat geautomatiseerde besluitvorming, inclusief profilering, zonder menselijke tussenkomst in beginsel niet is toegestaan. In het politieke debat is voorgesteld een ‘algoritme-waakhond’ in te stellen die elk algoritmesysteem inclusief de datasets zou moeten controleren. Dat lijkt mij onrealistisch en onwerkbaar. Er werd ook gepleit voor ethische richtlijnen; daar valt veel voor te zeggen.

Misverstand 4: AI en big data zijn alleen relevant voor grote bedrijven

Nonsens. Big data stond onvoldoende op de radar van het Nederlandse mkb, bleek uit onderzoek van Kantar TNS in opdracht van ABN AMRO. Meer dan zes op de tien mkb’ers vonden big data niet relevant voor het functioneren van hun bedrijf. Door die onverschillige houding laten ze een groot omzet- en winstpotentieel braak liggen. Data-analyse geeft beter inzicht in klantgedrag, leidt tot efficiëntere productieprocessen en kan kansen creëren die vergelijkbaar zijn met die van grotere ondernemingen.

Schaalgrootte speelt wel een rol: hoe groter het bedrijf, hoe meer big data als toegevoegde waarde wordt gezien. Van het kleinbedrijf zag 48 procent weinig toegevoegde waarde, tegen slechts 21 procent van de bedrijven met 50 tot 250 werknemers. Gebrek aan prioriteit, kennis of informatie zijn de grootste hindernissen.

Misverstand 5: algoritmes nemen de macht over

Onzin. Mensen zijn en blijven verantwoordelijk voor het programmeren en waar nodig trainen van algoritmes. Algoritmes zijn primair menselijke creaties, aldus de auteurs van ‘Algoritmes en grondrechten’. Het belang van de keuzes die mensen in de ontwerpfase maken kan nauwelijks worden overschat, omdat die keuzes doorwerken in de analyse en de uitkomst ervan. De gevleugelde uitspraak ‘technology is neither good nor bad; nor is it neutral’ geldt ook voor algoritmes.

Algoritmes zijn bevooroordeeld

Doordat algoritmes menselijke constructen zijn, kunnen de vooroordelen en waarden van programmeurs of hun opdrachtgevers erin worden ingebed. Ook de oefendata van een zelflerend algoritme kan biases bevatten die bepalend zijn voor de uitkomsten. Eenzijdige data brengt eenzijdige resultaten voort. In een artikel over het gevaar van algoritmes spreekt Bart Schermer, universitair hoofddocent ICT-recht aan de Universiteit Leiden, van ‘vooringenomen data’.

Organisaties moeten daarom maatregelen treffen om het gebruik van algoritmes in goede banen te leiden; anders ligt reputatieverlies op de loer. Je kunt de verantwoordelijkheid voor falende algoritmes niet zomaar bij de techneuten neerleggen. Catelijne Muller, rapporteur voor AI bij het Europees Economisch en Sociaal Comité, pleit voor richtlijnen: ‘Machines blijven machines en mensen zullen te allen tijde controle over machines moeten houden.’

Algoritmes zijn machtige wapens in handen van mensen.

Misverstand 6: mens en machine zijn elkaars vijanden

Integendeel. Mens en machine worden goede collega’s. In de nabije toekomst werkt de mens bij bepaalde taken samen met de computer en vullen ze elkaar zo veel mogelijk aan, signaleert het Rathenau Instituut in ‘Werken aan de robotsamenleving’. Denk aan een arts die door software wordt geholpen bij het stellen van een diagnose. Ook Duitse onderzoekers gaan uit van verschillende vormen van complementaire samenwerking, van een mens die de machine instrueert tot gelijkwaardige vormen van samenwerking: de robot als collega.

Stuart Russell, hoogleraar computerwetenschappen aan UC Berkeley en oprichter van het Center for Human-Compatible AI, gelooft vooral in een set strakke afspraken tussen mens en machine. Een computer of robot weet niet op voorhand wat menselijke waarden en bedoelingen zijn. Value alignment moet ervoor zorgen dat algoritmes en robots niet op hol slaan en de maatschappij opzadelen met ongewenste effecten of zelfs schadelijke producten en diensten.

Verder lezen

• Artificial intelligence
• Machine learning
• Blog: Een algoritme maakt zomaar 100 rapportages overbodig
• Blog: De ethiek van big data en AI: verleiding en angst
• Blog: Data-ethiek: 5 principes voor verantwoorde AI

Over de auteur

Jack Esselink is een zeer ervaren trainer en spreker over data en AI. Na zijn studie bedrijfseconomie werkte hij bij diverse softwarebedrijven, waaronder Cognos en IBM, het laatst als Data Science & Machine Learning Evangelist bij IBM, waar hij wereldwijd trainingen, workshops en keynotes verzorgde.

Over Diamond Decisions

Diamond Decisions helpt organisaties beter te worden door betere beslissingen mogelijk te maken. We starten niet bij data, dashboards of AI, maar bij de beslissing die beter moet, en bouwen van daaruit terug naar KPI’s, data en technologie. Dat doen we in vier stappen: inspiratie en alignment, business modeling, analytics en dataplatform en datagedreven beslissers. Zo zorgen we dat BI en AI geen IT-project blijven, maar elke dag waarde opleveren.