Robot neemt het stuur over

Stel, je rijdt over een bergpas en plotseling steken twee kinderen de weg over nét wanneer je de bocht om komt. In een flits moet je besluiten de kinderen aan te rijden (met mogelijk twee slachtoffers die het gevaar veroorzaakten) of jezelf in het ravijn te storten (met inzittenden als slachtoffer). Spaar je het leven van de kinderen of offer je jouw leven?

Dergelijke keuzes moeten wij in een split second nemen op basis van onze eigen waarneming en inschatting in de context van een specifieke situatie. Een zelfrijdende auto kan op basis van algoritmen betere keuzes maken. In milliseconden kunnen zo verschillende scenario’s worden doorgenomen, waarbij de situatie van meerdere auto’s kan worden meegenomen. Alleen moeten wij software dan wel zo programmeren dat de gewenste keuze wordt gemaakt bij ethische dilemma’s. Wat zijn die gewenste keuzes? Wij vroegen het in een enquête van iBestuur. Tweederde van de respondenten geeft aan zichzelf op te offeren als de keuze gemaakt moet worden tussen overstekende mensen op het zebrapad of het betonblok.

Onderzoekers van de Universiteit van Osnabrück deden een virtual reality-studie naar de keuzes die mensen maken bij dit soort verkeersdilemma’s. Deelnemers kregen een Oculus Rift-bril op en maakten in een virtuele realiteit keuzes bij verkeersscenario’s. De uitkomst van het onderzoek wees uit dat een mens meer waard is dan een dier. De hond heeft de hoogste waardering onder de dieren. Bij mensen worden mannen sneller geofferd dan vrouwen en ouderen eerder dan jongeren. Daarnaast heeft ook de reactiesnelheid invloed op de keuze. Is die tijd korter dan een seconde dan zijn bestuurder niet meer geneigd van baan te veranderen. Een meerderheid van de participanten kiest voor een altruïstische benadering gericht op het beperken van het aantal slachtoffers, ook als dit ten koste gaat van inzittenden in de eigen auto.

Vorig jaar kwamen 613 mensen om het leven in het verkeer (201 automobilisten, 206 fietsers en 50 voetgangers). Door de komst van de zelfrijdende auto zal het autoverkeer bijna even veilig worden als het reizen met de trein. Op termijn komen er auto’s die onderling met elkaar in verbinding staan en als konvooien dicht op elkaar kunnen rijden. Vooralsnog moeten we het doen met adaptieve cruise control die de snelheid bepaalt op basis van de afstand tot de voorganger. In een volgend level kunnen auto’s zelfstandig de rijbaan volgen en automatisch afremmen voor voetgangers. De nieuwe Audi A8 behoort tot level 3 en kan onder bepaalde omstandigheden volledig automatisch rijden.

Vanaf level 4 rijdt de auto volledig zelfstandig. Eerst nog in een afgeschermd gebied en vaste routes, bijvoorbeeld voor robottaxi’s waar volop mee wordt geëxperimenteerd. Vanaf level 5 is de auto volledig de baas en beslist in noodsituaties over leven of dood. Bij simulaties gaven deelnemers aan voorstander te zijn van het opofferen van passagiers als er daardoor minder slachtoffers vallen. Tenminste, behalve als zij zelf de bestuurder zijn. Is dat wel het geval, dan wint egoïsme het wellicht toch van altruïsme. Met een robot aan het stuur hebben we daar in ieder geval geen last van.

Computer Says No

In veel grote organisaties regeert de computer. Het zijn telecomaanbieders, verzekeraars en overheden die hun medewerkers slaafs taken met behulp van de computer laat uitvoeren. Meedenken met de klant is niet nodig, want de computer heeft altijd gelijk. De Britse comedy serie Little Britain steek daarmee de draak. Een moeder meldt zich met haar dochtertje bij de balie van het ziekenhuis voor het verwijderen van de amandelen bij het meisje. De receptioniste kijkt op haar scherm en zegt: ‘Computer Says No’. Het meisje staat in het systeem ingeboekt voor een dubbele heupoperatie. ‘Wil je die?’ vraagt de receptioniste. Natuurlijk wil ze die niet, maar de amandeloperatie zit er niet in: ‘Computer Says No’.

Door voortschrijding van de technologie gaat de receptioniste achter een beeldscherm snel verdwijnen. Balie- en helpdeskmedewerkers maken op termijn plaats voor een virtuele assistent voor klantenondersteuning. Die werkt 24 uur per dag en kan oneindig veel klanten tegelijk helpen. Dankzij kunstmatige intelligentie gedraagt de virtuele assistent zich steeds menselijker, toont inlevingsvermogen en denkt met de klant mee. Het Amerikaanse bedrijf IPSoft gaf haar virtuele assistent ‘Amalia’ een menselijk gezicht. De digitale wereld verovert steeds meer terrein op de fysieke wereld. Zelf zijn we met onze smartphones en waerables ook continu aangesloten op die digitale wereld.

Mijn sporthorloge meet 24 uur per dag mijn hartslag en activiteit. Dit gebruik ik zelf als ondersteuning bij het sporten en fit te blijven. Wat zou ik van vinden om deze gegevens te delen met een arts die mijn gezondheid dan continu kan bewaken? Sta ik de informatie af aan mijn zorgverzekeraar om mijn premie en risicotoeslag te bepalen? Wat doe ik als mijn zieke moeder wordt ontslagen uit het ziekenhuis en haar toestand voortaan op afstand wordt bewaakt op basis van een slimme pleister die vitale functies kan meten? Door voortschrijdende technologische ontwikkelingen worden we steeds meer voor ethische afwegingen geplaatst. Op basis van de informatiesporen die wij achter laten en alom aanwezige camera’s worden wij bespied en op basis van slimme algoritmen gemanipuleerd zonder dat in de gaten te hebben. Zonder dat we het door hebben worden taken van mensen overgenomen door robots. We bellen naar de helpdesk en worden geholpen door een robot. Een rechterlijke uitspraak of beoordeling van onze sollicitatiebrief wordt achter de schermen door een robot afgehandeld. Moeten we dan ook verhaal halen bij de robot als we het er niet mee eens zijn? Aan de andere kant kunnen de robots ook veel gemak geven, bijvoorbeeld voor uitvoering van zorgtaken of zelfrijdende auto. Dan vertrouwen we op de juiste beslissingen van de robot. Als de auto moet kiezen tussen fatale botsing tegen betonblok of doodrijden van overstekende mensen, welke keuze moet de auto dan van jou maken? Waar ligt de grens? Welke afweging maak je tussen bijvoorbeeld veiligheid en privacy of terrorismebestrijding en digitale veiligheid? Wat vind je nog ethisch verantwoord?

De voortschrijding van de technologie brengt een aantal van dit soort ethische dillema’s met zich mee. Trek je ergens een grens of accepteer je digitalisering als een soort natuurverschijnsel waarop je geen invloed hebt? Waar trek jij de grens? Is het ‘Computer Says No!’, of zeg je ‘Ho!’?

Op basis van deze test meet je jouw houding ten opzichte van enkele dilemma’s.

Eerdere publicaties over ethische dilemma’s en technologie
eHaelth Continue gezondheidsmonitor
Overheidsregistraties Een systeem leeft niet
Gezichtsherkenning Orwells 1984 nabij
Ongewenste reclame Nationale Postspam Loterij
Smart Cities Nudge de overheid
Veiligheidsdiensten Behoorlijk goede privacy
eCourt Transparante robotadviseur
Zelfrijdende auto Robot neemt het stuur over

Washington – juni 2018

Leading by example

Minister President Rutte laat zijn kartonnen bekertje met koffie vallen bij het passeren van de toegangspoortjes van de Tweede Kamer en dweilt de gemorste koffie daarna keurig op. Het filmpje van dit voorval gaat viral op Facebook en YouTube. Buitenlandse nieuwszenders besteden er aandacht aan. De Washington Post  noemt Rutte een ‘symbol of etiquette’.

Rutte ruimde zijn eigen rommel op. Het is een kwestie van fatsoen die ons van jongs af aan is bijgebracht. Waarom oogstte deze poetsactie dan alom bewondering en verbazing? Wellicht omdat velen tegenovergestelde eigenschappen verwachten van leiders en hen associëren met agressieve zeemeeuwen. Ze komen krijsend aangevlogen, schijten de hele boel onder en vliegen daarna weer verder met een vette vis in de snavel. Het zijn de leiders die weinig oog hebben voor de mensen en vooral uit zijn op eigenbelang, hun eigen bonus of herverkiezing.

De leiderschapsstijl van Rutte staat daarmee in schril contrast. Hij is altijd opgewekt, attent en vriendelijk tegen iedereen en hij geeft het goede voorbeeld. Die vorm van leiderschap ‘leading by example’ maakt de leider geliefd en is bovendien bijzonder effectief. Dat is goed zichtbaar bij baby’s die hun ouders nadoen en met hun na-apen worden beloond met een glimlach van de ouder. Wij realiseren ons dan dat belonen het effectiefste middel is om gedrag te veranderen. Het is veel effectiever dan louter straffen. Dat geldt overigens ook aansturing van werknemers of handhaving van regels door de overheid.

Leiders overtuigen door zelf het goede voorbeeld te geven: ‘practice what you preach’. Zij winnen vertrouwen door goed voorbeeldgedrag. Omgekeerd verliezen zij hun geloofwaardigheid als ze het eigenbelang laten prevaleren boven het algemeen belang en strijdig met hun eigen boodschap handelen. Dat geldt bijvoorbeeld voor ouders bij de opvoeding, bestuurders en overheid bij handhaving. Ouders die zelf roken kunnen hun kinderen niet overtuigend wijzen op de gezondheidsrisico’s. Bestuurders die medewerkers om loonoffer moeten vragen hebben een probleem als zij zichzelf wel verrijken. Dat geldt bijvoorbeeld ook voor de overheid die van organisaties verlangt te voldoen aan de nieuwe privacywet, maar daar zelf nog niet klaar voor is.

‘Leading by example’ is de eeuwenoude weg om echt impact te maken. Jezus deed dat door naar deze aarde te komen en uiteindelijk te sterven. Hij heeft zijn grootheid opgegeven door de gestalte van een slaaf te aanvaarden en aan mensen gelijk te worden. Mensen die voorleven wat ze verkondigen zijn de beste voorbeelden voor anderen. Franciscus van Assisi, moeder Teresa, Gandhi en Nelson Mandela gaven het goede voorbeeld. Een mooie uitspraak van Nelson Mandela in dit verband is: “Als wij ons licht laten stralen geven we onbewust andere mensen toestemming hetzelfde te doen. Als we bevrijd zijn van onze angst, bevrijdt onze aanwezigheid vanzelf anderen.”

Yellowstone – juni 2018