Bij juiste keuzes is app CoronaMelder niet eng

‘De CoronaMelder wordt door velen nog met scepsis en wantrouwen bejegend.’ FOTO ANP/ROB ENGELAAR

De vrees voor misbruik van de app CoronaMelder door de staat is overdreven. De achilleshiel bij het gebruik van technologie en algoritmes is en blijft de mens.

De CoronaMelder wordt door velen nog met scepsis en wantrouwen bejegend. Het past in de bredere discussie rond het gebruik van technologie en algoritmes door de overheid. Er wordt een angstbeeld gecreëerd rond de app, waarbij Nederland zou veranderen in een Orwelliaanse surveillancestaat waarin algoritmes het voor het zeggen hebben.

Nederland is echter geen China. Technologie kan in een totalitair systeem leiden tot een versterking van de controle, maar dit is niet hoe ons systeem werkt. De overheid is bij de inzet van technologie gebonden aan wet- en regelgeving. Privacy en mensenrechten moeten gewaarborgd zijn en discriminatie mag nooit. Ook moet er een juridische basis zijn voor het gebruik van technologieën zoals de CoronaMelder. Na kritiek van de Autoriteit Persoonsgegevens komt er dan ook een wet om de inzet van de app goed te regelen.

Overheden moeten daarnaast uitleg kunnen geven over hoe zij tot een besluit komen of – wanneer transparantie niet gewenst is – aantonen dat er rechtmatig en billijk gehandeld is. Wordt niet aan deze voorwaarden voldaan, dan kan de rechter het gebruik van het algoritme verbieden, zoals eerder dit jaar is gebeurd bij SyRI (Systeem Risico Indicatie).

De vraag of we toepassingen als de CoronaMelder of algoritmes ook ethisch vinden, is van een andere orde. Dat gaat niet zozeer over de technologie, maar over hoe we die gebruiken.

Een systeem is uitstekend in staat grote hoeveelheden data te analyseren om statistische patronen en verbanden te herkennen die wij niet zien. Wat daar vervolgens mee gebeurt, is in vrijwel alle gevallen aan de mens. Zo kan de CoronaMelder vrij nauwkeurig aangeven of u in aanraking bent gekomen met het virus. De keuze – en de ethische afweging – om u vervolgens op basis hiervan al dan niet vrijwillig in quarantaine te plaatsen, is in dit geval aan de politiek.

Vraag is niet of maar hoe we technologie gebruiken

Dat is niet anders dan nu, alleen kan met de CoronaMelder een meer weloverwogen en beter onderbouwd besluit genomen worden. Het nemen van ethisch verantwoorde beslissingen is dan ook aan de mens, en niet aan algoritmes of systemen.

Menselijk handelen

In veel van de gevallen waarvan we achteraf stellen dat er onethisch is gehandeld, zoals bij de Belastingdienst, was dat het gevolg van menselijk handelen. Zoals het onjuist of zelfs onwettig gebruik van data, maar bovenal het onterecht en mogelijk moedwillig interpreteren van zachte signalen als hard bewijs. Daardoor zijn op basis van niet meer dan vermoedens ten onrechte toeslagen stopgezet, waardoor burgers in de problemen kwamen.

Achilleshiel bij het gebruik van technologie en algoritmes is en blijft de mens. Dat begint al bij het ontwerp. Bij het gebruik van algoritmes moet goed worden nagedacht over het doel ervan en de data die ervoor nodig zijn. De werking van het algoritme wordt immers in grote mate bepaald door menselijke ontwerpkeuzes of bias (vooringenomenheid) in de data. Ontwikkelt de Belastingdienst een algoritme dat bepaalde groepen stigmatiseert, dan is dat algoritme niet meer dan een reflectie van onze eigen vooroordelen.

Om dat te voorkomen moeten ingrijpende algoritmes getoetst en beproefd worden. Bijvoorbeeld aan de hand van een onafhankelijk toetsingskader of door kritische burgers en experts erbij te halen, zoals bij de ontwikkeling van de CoronaMelder. Door transparant te zijn over het gebruik en dat waar nodig te toetsen, helpen algoritmes juist bestaande vooroordelen bloot te leggen en keuzes expliciet te maken.

Het is aan de mens om kritisch te reflecteren op deze keuzes. Technologie als de CoronaMelder is nooit een doel op zich, maar altijd een middel. Hoe we dat middel inzetten, is aan ons. De CoronaMelder helpt ons betere beslissingen te nemen om het virus in te dammen en algoritmes zijn bij goed gebruik een verrijking van ons eigen afwegingskader, ter vervanging van de onderbuik.

Christian Verhagen is senior-adviseur data & analytics voor de publieke sector bij ICT-adviesbureau Verdonck, Klooster & Associates.