Appathon en verantwoordelijkheid
Ik wil graag met je mijn gedachtes delen over mijn rol als data-ethicus bij de appathon: wel of niet deelnemen aan een expertpanel? Of, hoe deel te nemen?
Enerzijds, anderzijds
Vrijdag en zaterdag dacht ik na over het vraagstuk, niet wetende dat ik zelf voor die vraag zou komen te staan: zou ik vanuit mijn expertise bijdragen aan de totstandkoming van de Corona-app?
Enerzijds kon ik me vinden in de uiting van experts zoals o.a. Brenno de Winter die zich terugtrokken uit het proces van de selectie van de app. De experts hadden o.a. kritiek op het proces bij de selectie van de apps: geen helder toetsingskader en gebrek aan transparantie over het selectieproces. De experts die zich terugtrokken wilden vanuit professionele integriteit zich niet verbinden aan de uitkomst van deze procedure. Daar kan ik me in vinden. Zeker ook omdat ik twijfels heb bij de effectiviteit van de app, ongeacht welke.
Anderszijds zag ik dat Peter-Paul Verbeek wel als expert betrokken bleef. Op twitter uitte hij zijn zorgen over de berichtgeving rondom de selectie van apps (een van de ontwikkelde apps zou de toets der kritiek tot 3 x toe niet hebben doorstaan). Hij tweette: "Juist daarom vind ik het goed dat er toch een panel van experts kritisch blijft meekijken." Ja, precies. Dichtbij het vuur blijven is ook een strategie! Dan is het mogelijk om kritisch mee te kijken en invloed uit te oefenen (is de hoop). In andere projecten heb ik ook al wel eens gedacht dat ik dan in ieder geval aan schadebeperking zou kunnen doen.
Hoe neem je hierin als expert je verantwoordelijkheid? Hoeveel heb je werkelijk in te brengen? Hoe weet je wat er met je vragen en opmerkingen gebeurt? Word je als panel niet gewoon gebruikt voor 'rechtvaardiging' (of in mijn geval 'ethics washing')? En, aanhakend bij de zorg van de terugtrekkende experts: Waar verbind je je naam aan? Wil je hier aan bijdragen?
Appathon dag 1
Met interesse volgde ik de livestream op zaterdag 18 april. Mocht je die willen nalezen, dan raad ik je van harte het verslag van Daniël Verlaan aan op Twitter. Ik had al wat vragen genoteerd. Het meest schokkende vond ik de bijdrage van SIA & Partners, omdat die niet voldeed aan de gestelde eisen. Privacy by Design was bijvoorbeeld niet meegenomen. Ik tweette die avond dat ik het vermoeden had dat een van die voorstellen was die er volgens de terugtrekkende experts nooit door had mogen komen. Brenno de Winter bevestigde dat op twitter.
Laat die avond volgde contact met Marieke Bak. Zij had kritische (ethische) vragen gesteld tijdens het expertpanel met SIA. Ze gaf aan zelf op dag 2 niet aanwezig te kunnen zijn en stelde mij voor als haar vervanger aan de organisatie van de Appathon. Haar houding als expert vond ik zeer interessant: ze wilde niet als panelvoorzitter bij de closing table aansluiten o.a. omdat ze nog te veel vragen heeft bij de inzet van een app en niet de indruk wilde wekken achter de inzet van een app te staan. Een mooi (deugdethisch) midden tussen terugtrekken als expert, en betrokken blijven door kritische vragen te stellen!
Appathon dag 2 - zelf in het panel
En toen kreeg ik zelf de vraag. Ik heb er voor gekozen om wél deel te nemen aan het panel vanuit dezelfde houding als Marieke Bak: Kritisch meedenken? JA! App rechtvaardigen? Nee, dat kan ik niet. Dat de teruggetrokken experts hun naam niet willen verbinden aan de uitkomst, onderschrijf ik. Dat wil ik oók niet. Wat ik wel wil is mijn overwegingen meegeven bij de inzet van technologie.
Ethische vragen bij de apps die zijn gepresenteerd
Veel vragen over ethiek en privacy, en in het algemeen de inzet van de app waren al gesteld tijdens dag 1. Op dag 2 kregen wij als panel de presentatie te zien van vier ontwikkelaars: Accenture, Covid19, Deus en SIA. Zij presenteerden hun aanpassing t.a.v. de vragen en verbetersuggesties op dag 1 en daarop konden wij reageren. Belangrijk dus: de vragen die wij stelden gaan daarom niet over nut of noodzaak van de app in algemene zin (met uitzondering van vraag 2 en 7, ik kon het niet laten). Meer de vraag: hoe dan? Dit zijn de vragen die ik heb gesteld die voor alle apps van toepassing zijn in willekeurige volgorde:
In hoeverre is er gewerkt volgens ethics-by-design of gebruik gemaakt van ethische tools bij de ontwikkeling en implementatie van de app?
In hoeverre is de installatie van de app werkelijk vrijwillig?
Welke autonomie hebben de gebruikers van de app (welke instellingsmogelijkheden / welke verantwoordelijkheden liggen er bij gebruiker en welke bij ontwikkelaar in relatie tot bijv. privacy)?
Wat is de timespan tussen positieve test en melding in de app? Wat betekent dat voor de effectiviteit en (schijn)veiligheid van de app?
Hoe kan het dat er app-ontwikkelaars meedoen waarvan hun voorstellen niet aan de basisvoorwaarden voldoen?
In hoeverre worden medisch-ethische kaders meegenomen in de ontwikkeling en de inzet van de app?
In hoeverre is er sprake van een schijnoplossing en risico op schijnveiligheid bij de inzet van een app?
Apps zijn erg talig en veronderstellen bepaalde capaciteiten. In hoeverre wordt er rekening gehouden met laaggeletterden en mensen met een verstandelijke beperking?
Corona App ja of nee?
Ik heb verschillende zorgen als het aankomt op de keuze voor de app en de inzet ervan. Wat mij helpt is om onderscheid te maken tussen de noodzaak, middel en doel. Het ministerie is bij de tender meteen in gaan zetten op het middel, terwijl de noodzaak en het doel daarvan te veel buiten beschouwing worden gehouden. Wat we daar nu van merken is dat er vooral wordt gefocust in de appathon op het het middel: onder welke voorwaarden kan en mag het? Maar de discussie OF we dat middel wel willen inzetten, die lijkt te worden overgeslagen. Er zit tempo achter en de reflectie op de wenselijkheid ervan, daar lijkt geen tijd voor.
Aangaande wenselijkheid zijn er onder meer vragen te stellen over a) maatschappelijke impact (individu is niet meer beschermd, groep wel / stigmatisering / kloof tussen bevolkingsgroepen / verschil in capaciteiten); b) privacy (in het groot: welke data is waar, en in het klein: hoe worden notificaties weergegeven?); c) effectiviteit (hoeveel mensen maken gebruik van de app EN hoeveel draagt het werkelijk bij); d) subsidiariteit (kan het ook minder ingrijpend; Lodewijk Asscher kondigde aan de mogelijkheid te willen onderzoeken om meer mankracht in te gaan zetten bij contact tracing; kan een alternatief zijn, of wat te denken van het zelf bijhouden van je contactmomenten zoals Premier Arden van Nieuw-Zeeland voorstelt).
Haastige spoed
Uiteindelijk werd 10 minuten voordat Appathon dag 2 mijn deelname bevestigd. Dat zegt iets over mijn voorbereiding - ik had het graag grondiger gedaan. Het is mijns inziens tekenend voor hoe deze hele procedure is ingestoken (daarover later mogelijk meer).
Dit stuk is ook snel geschreven en wordt mogelijk nog aangepast in de loop van de dag. Ik vind het belangrijk om mijn overwegingen, bevindingen, werkwijze en ervaringen te delen.
Naschrift na einddemo's en afsluiting livestream (17.30)
Na de presentatie van de einddemo's werd er door presentator Donatello Piras een samenvatting van "de visie van de betrokken experts" gegeven. Die zouden (voorzichtig) positief zijn over de inzet van de app (in zijn algemeenheid) maar nog vragen hebben over uitvoering.
Ik wil graag transparant zijn over de inzet van experts in deze Appathon: er is ons niet gevraagd om een oordeel te geven of een advies te formuleren. Hoe het door Donatello Piras werd samengevat lijkt het alsof alle experts gezamenlijk tot de gepresenteerde conclusies zijn gekomen. Dat is niet zo, er is geen overleg geweest waarin we conclusies hebben geformuleerd. Dat was ook onze taak niet. Onze taak was kritisch bevragen van de voorstellen. That's it. Ik ben heel benieuwd hoe dit door de media wordt opgepikt of overgenomen.
Deze tekst werd eerder op de dag gepubliceerd als LinkedIn-artikel.