Jubileumblog #2 Uitzoomen

We zijn geneigd ons te laten verleiden om, als het gaat om de inzet van technologie, louter te kijken naar de technologie zelf. En daarmee vallen we dan snel in de dilemma-valkuil: Moeten we de technologie wel of niet inzetten?

In deze blog leg ik graag uit hoe ik uitzoom om beter begrip te krijgen van een vraagstuk.

Vraagstuk

Stel, een organisatie wil een algoritme gaan inzetten om betaalgedrag van klanten in beeld te gaan brengen, zodat betaalgedrag in de toekomst voorspeld kan gaan worden. Dan kunnen we het gaan hebben over het algoritme en de werking ervan. Of over de klanten, of die wel geïnformeerd en betrokken worden. Ja, we kunnen het ook hebben over de zorgen die misschien meteen in ons opkomen. Maar voordat we dat doen, zoom ik graag uit. Dat doe ik door naar de context te kijken waarin dit voorstel voor dit algoritme naar voren wordt gebracht.

Het voorgestelde algoritme is een middel om tot een bepaald doel te komen. En veel te vaak focussen we ons op het middel. Waar willen we dat het middel aan voldoet? Hoe gaan we het ontwikkelen? Implementeren? Et cetera. Dit is overigens ook een kritiekpunt dat ik bij vele data-ethische tools heb: ook daar gaat het vaak om de voorgestelde technologie, zonder uit te zoomen en het vraagstuk werkelijk te doorgronden.

Noodzaak en doel bepalen

Want er is een groter geheel waarbinnen zo'n technologie als oplossing wordt aangedragen. Ik geloof dat Douglas Rushkoff het al eens the Technology Solution Bias noemde: de valse aanname dat alles met tech opgelost kan worden. Ben Green spreekt over Tech Goggles: dat we voor alle problemen technologische oplossingen zoeken (en niets anders).

Belangrijk is dus om even uit te zoomen en te kijken naar de context en de probleemdefinitie. Hiervoor gebruik leen ik wat van de methode die Terpstra beschrijft in het boek Omstreden Besluiten (2002).

Wat is de noodzaak? We gaan terug naar de organisatie met het voorspellende algoritme dat ze als oplossing brengen voor een probleem. Of beter gezegd, we moeten op zoek gaan naar de aanleiding van het voorstel om dit middel in te zetten. Als je de noodzaak wil bepalen ga je na wat de huidige situatie is en wat daar onwenselijk aan is. Betalen mensen niet of te laat? Kost het versturen van herinneringen te veel tijd en energie? Of loopt het op een andere manier in de spreekwoordelijke papieren? Met andere woorden: wat is het probleem. Definieer dat helder.

Daarna bepaal je het doel. Wat is de gewenste situatie? Hoe wil je dat de situatie is?

Op de doelvraag is het middel nooit het antwoord. Daar zit idealiter een hoger doel achter. Bepaalde waarden die men nastrevenswaardig vindt, bijvoorbeeld. Het voorstel om het algoritme voor betaalgedrag in te zetten is dus een middel, geen doel op zich.

Doel-middelverwarring

Wat ik veel tegenkom in organisaties is een doel-middelverwarring. Technologie wordt doel op zich. Of er dient zich een mogelijkheid aan en dat wordt met beide handen aangegrepen. Waarom is dat een probleem? De vraag is dan wie er nog aan het stuur zit. Als de mogelijkheid bepaalt, dan bepaal je niet vanuit waarden.

Wat levert dit uitzoomen op?

Om werkelijk het vraagstuk te doorgronden moeten we eerst weten wat de probleemdefinitie is. Vaak zegt die al heel veel over de blik die men heeft op het vraagstuk.

Door uit te zoomen zie je dat er meerdere wegen leiden van de noodzaak naar het doel. Er zijn meerdere middelen voor te stellen. En om werkelijk een weloverwogen keus te maken, zal je ook moeten onderzoeken wat de alternatieven zijn en in hoeverre die wenselijk zijn.

Het uitzoomen is allereerst de vraag stellen: waartoe? Dat is voor mij essentieel binnen data-ethiek: hoe kan je een weloverwogen keuze maken om een middel in te zetten, als je de alternatieven en diens voor- en nadelen niet eens kent?