Tool legt ethische problemen in data bloot
De Utrecht Data School, een onderzoeksplatform van de Universiteit van Utrecht, ontwikkelde een tool die moet helpen om ethische problemen in data-initiatieven en -beleid op te sporen. "Data, algoritmes en modellen zijn niet neutraal."
Door digitalisering kunnen zorginstellingen alsmaar meer data verzamelen, gaande van data van bloedtesten en andere laboratoriumonderzoeken tot beeldvormende diagnostiek, DNA-onderzoek en de complete ziektegeschiedenis van een patiënt. Ook de hoeveelheid gegevens uit apps, wearables en andere connected devices groeit. Maar de manier waarop deze data worden verzameld, geanalyseerd en ingezet is niet neutraal, klinkt het bij de Utrecht Data School.
Het onderzoeksplatform ontwierp een 'worksheet' die data-analisten, projectmanagers, beleidsmakers,... al in een vroeg stadium van het project kan helpen om zicht te krijgen op de ethische aspecten van dataverzameling en -gebruik. Voorbeelden van vragen zijn: hoe transparant bent u in uw project naar burgers toe? Wat is niet zichtbaar in uw dataset? Wie heeft toegang tot de dataset? Is de steekproef een waarheidsgetrouwe representatie van de populatie?
Met 'DEDA' (Data Ethics Decision Aid) wil de Utrecht Data School een instrument aanbieden om data-ethiek concreet en toepasbaar te maken. "De vragenlijst doet initiatiefnemers even stilstaan bij hun project, en mogelijke gevolgen van hun acties", klinkt het.
"Vaak worden dataprojecten opgezet met de beste intenties, maar even vaak is de sociale impact moeilijk te voorzien, worden onbedoelde gevolgen over het hoofd gezien en mogelijke risico's niet beperkt. De wet reguleert sommige aspecten, zoals privacy, maar in veel gevallen geldt er geen wetgeving." Voor de oprichters een aanleiding om na te denken over ethiek, gedeelde waarden en gedragscodes.
Bron: Zorgvisie, Utrecht Data School