Kiezen uit twee kwalen

Voor één op 5 Belgen zijn ethische dilemma's een groot struikelblok bij de aanvaarding van zelfrijdende wagens. In bepaalde situaties zal een autonoom voertuig onvermijdelijk moeten kiezen: een zwangere vrouw aanrijden die oversteekt bij rood, of uitwijken en daarbij een bejaarde op het voetpad raken? Moet de wagen uitwijken voor een kind dat op straat springt, als daarbij het risico bestaat dat de bestuurder verongelukt? Moraalfilosofen smullen van dergelijke gedachtenexperimenten, maar veel mensen voelen zich ongemakkelijk bij de gedachte dat een computer dergelijke beslissingen zou maken.

Het Amerikaanse onderzoeksinstituut MIT onderzoekt al sinds 2016 hoe mensen denken dat een auto zou moeten reageren in dergelijke situaties. Op de website http://moralmachine.mit.edu mogen deelnemers aangeven wat ze zelf in dergelijke scenario's wenselijk achten. Uit de miljoenen antwoorden distilleerden de onderzoekers al drie universele richtlijnen. Over heel de wereld zijn de respondenten het erover eens dat een zelfrijdende auto altijd moet kiezen voor het laagste aantal slachtoffers; dat het leven van een mens altijd voorrang heeft op dat van een dier; en dat het leven van een kind eerder gespaard moet worden dan dat van een bejaarde.

Ethische dilemma's

Bij dergelijke dilemma's waren er grote verschillen tussen landen en culturen. In Aziatische culturen en in het Midden-Oosten is er meer respect voor ouderen: hier toonden respondenten een minder duidelijke voorkeur voor het sparen van jongeren. In landen met hoge inkomensongelijkheid speelt de sociale status van de slachtoffers een grotere rol. Respondenten zijn er eerder geneigd een arts te redden dan een dakloze. In landen met een zwakke overheid en rechtssysteem is er meer tolerantie voor weggebruikers die de wet overtreden, terwijl in landen waar de wetten strikter worden toegepast meer mensen kiezen om een voetganger die het rode licht negeert aan te rijden.

Deze resultaten wijzen erop hoe moeilijk het zal zijn om ethische regels voor autonome voertuigen te formuleren die in elk land aanvaard zullen worden. "Nooit in de geschiedenis van de mensheid hebben we een machine toegestaan om autonoom te beslissen wie moet leven en wie moet sterven, in een fractie van een seconde, zonder toezicht. Voordat we onze auto's toestaan te maken dergelijke ethische beslissingen te maken, moeten we wereldwijde conversatie voeren om onze voorkeuren kenbaar te maken aan de bedrijven die morele algoritmen zullen ontwerpen, en aan de beleidsmakers die hen zullen reguleren", besluiten de onderzoekers.