Geen overheidsbesluit gebaseerd op foute registratie

Uitkomsten enquête ethische dilemma’s en technologie

Negen op de tien respondenten accepteert niet dat een overheidsbesluit (bijvoorbeeld over een uitkering of een vergunning) gebaseerd is op een foutieve overheidsregistratie. Dat is een van de uitkomsten van een enquête over ethische Dillema’s in relatie tot technologie.

Uitgesproken waren de respondenten ook over de gezichtsherkenning van Facebook. 98 Procent van de ondervraagden accepteert niet dat Facebook (of een vergelijkbaar bedrijf) hun gezicht beschouwt als publieke informatie. Minder uitgesproken was de uitkomst op de vraag of mensen vertrouwen op een slimme pleister die continu de vitale lichaamsfuncties kan meten (45 procent vindt dat prima, 55 procent heeft daar problemen mee). Ook de vraag of mensen de zorg van hun hulpbehoevende moeder toevertrouwen aan een zorgrobot leverde niet al te veel verschil tussen voors en tegens op (42 procent vertrouwt dat de robot wel toe, 57 procent doet dat niet).

Groot verschil was er wel op de vraag of het verantwoord is als het ministerie van Defensie wapens inzet die zonder menselijke tussenkomst hun doelen selecteren. Bijna negen op de tien ondervraagden vindt dat niet verantwoord, iets meer dan 10 procent heeft daar geen bezwaar tegen. Eenzelfde verschil in voors en tegens treffen we aan bij de uitkomst op de vraag of het acceptabel is dat veiligheidsdiensten kwetsbaarheden in software die zij gebruiken in het kader van hun hackbevoegdheid bewust niet melden aan ontwikkelaars (waardoor ook criminelen hun slag kunnen slaan). Iets meer dan 10 procent vindt dat prima, de rest vindt dat niet prima of heeft geen mening.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Robots nemen de wereld niet over

Vind je het verantwoord als Defensie wapens inzet die zonder menselijke tussenkomst hun doelen selecteren? Nee, zegt 87 procent van de ondervraagden in een enquête van iBestuur. Dat is een duidelijke afkeuring van de wapenwedloop die nu gaande is. De Verenigde Staten is namelijk al vergevorderd met het ontwikkelen van wapens die zonder menselijke tussenkomst kunnen opstijgen, landen, doelen selecteren én vernietigen. De Amerikaanse ‘vliegende vleugel’ X-47B moet over twee jaar al paraat zijn voor gevechtsmissies. Het scenario in onderstaande film zou werkelijkheid kunnen worden als we autonome wapens toelaten in onze samenleving.

De ontwikkeling van ‘killer robots’ opent een doos van Pandora. Ruim honderd bedrijven wereldwijd op het terrein van robotica en kunstmatige intelligentie maken zich grote zorgen over de mogelijk catastrofale gevolgen als de ontwikkeling van dodelijke, autonome wapens wordt toegestaan. In een open brief roepen zij regeringsleiders op een internationaal verdrag te steunen dat dodelijke autonome wapens beperkt. Meer dan 20.000 mensen ondersteunen inmiddels de oproep tegen autonome wapens.

Technologie gebaseerd op artificiële intelligentie en robotisering gaat in toenemende mate ons leven beïnvloeden. Dit kan op goede manieren om ons leven makkelijker te maken. Het kan ook een bedreiging gaan vormen. De Netflix-serie ‘Black Mirror’ toont op surrealistische wijze enkele horrorscenario’s waarin technologische vooruitgang botst met onze menselijke gevoelens. Wat gebeurt er als we de technologie ons volledig gaat beheersen, maar erger nog: als we de  controle over onze slimme uitvindingen kwijtraken? Die ontwikkeling wordt al een eeuwenlang in sciencefictionfilms en -boeken aangekondigd.

Vijftig jaar geleden kwam de baanbrekende sciencefictionfilm 2001: A Space Odyssey uit. In de film gaan vijf reizigers op weg naar Jupiter. Hun ruimteschip wordt bestuurd door boordcomputer HAL die beschikt over menselijke intelligentie en spraakvermogen. De ruimtevaarders beschouwen de computer als zesde bemanningslid. HAL is als enige op de hoogte van het doel van de missie en grijpt tijdens de reis de macht. Uiteindelijk weet één van de bemanningsleden de computer te overwinnen door HAL’s geheugencentrum uit te schakelen.

Ook in het laatste boek van Dan Brown ‘De Oorsprong’ speelt een computer met menselijke eigenschappen de sleutelrol. De alwetende computerhulp luistert naar de naam Winston. Het is een verwijzing naar de geniale strateeg Winston Churchill. Waarschijnlijk verwijst de naam ook naar IBM’s supercomputer Watson. Winston bezit krachtige eigenschappen van een supercomputer en is gelijktijdig onmogelijk van een mens te onderscheiden. De computer is uitgerust met volledig geperfectioneerde kunstmatige intelligentie en slaagt ruimschoots voor de Turing-test. Winston handelt in ‘het belang’ van zijn opdrachtgever, voert zelfstandig taken uit en beslist over leven en dood. De afloop van het boek is voorspelbaar.

We leven in een tijd waarin sciencefiction werkelijkheid wordt. Robots gaan steeds meer taken van mensen overnemen. Dit past in de evolutie van gereedschappen die de mensheid heeft ontwikkeld vanaf het stenen tijdperk. Robots blijven hulpmiddelen en zullen altijd ondergeschikt blijven aan mensen. Het is ook evident dat een robot geen verantwoordelijkheid kan nemen. Dat kunnen alleen de mensen die robots ontwerpen, programmeren en gebruiken. Juridisch gezien is dat nog een complexe puzzel. Nieuwe internationale afspraken, regelgeving en toezicht blijven altijd noodzakelijk om het gebruik van technologische innovaties in goede banen te leiden.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

 

Afgewezen door een robot

Accepteer je een afwijzing van een sollicitatie op basis van een voorspellend algoritme? Nee, zegt 78 procent van de ondervraagden in een enquête van iBestuur. Werving en selectie van personeel was aanvankelijk hoofdzakelijk mensenwerk, maar nieuwe technologieën nemen veel taken over. Zo propageert internetbedrijf Google al sinds 2015 het wervings- en selectiebeleid primair te baseren op harde data, analytische tests en algoritmen.

Op termijn zal deze markt voor werving en selectie worden gedomineerd door internetplatforms, zoals LinkedIn en Facebook. Het proces tussen bedrijven en werkzoekenden wordt dan volledig geautomatiseerd. De platforms hebben nu al de vacature- en talentenmarkt, die voorheen was voorbehouden aan professionele recruiters, online toegankelijk gemaakt. Bedrijven worden daardoor overspoeld met sollicitaties. Met behulp van algoritmes kunnen platformbedrijven vervolgens ook de werving en selectie overnemen. Moeten we vrezen dat de personeelswervingsdienst in navolging van hotels en taxi’s ook wordt ‘geuberiseerd’? Dit staat en valt bij de betrouwbaarheid van de algoritmes en het vertrouwen dat bedrijven en werkzoekenden daarin hebben.

Een onderzoeker van Erasmus Universiteit ontwikkelde een algoritme om CV’s te selecteren op basis van big data. Hij analyseerde bijna een half miljoen CV’s van echte kandidaten en informatie over het verloop van hun sollicitaties. De software die hij ontwikkelde scande de CV’s op basis van een aantal variabelen in relatie tot het besluit over het wel of niet uitnodigen van de kandidaat voor een eerste gesprek. Met die kennis ontwikkelde hij een algoritme dat met een nauwkeurigheid van 80 procent kan voorspellen welke CV’s door recruiters zal worden geselecteerd. Die betrouwbaarheid kan nog verder worden verhoogd, maar het is de vraag of de kwaliteit en objectiviteit van de selectie daardoor toeneemt. Persoonlijke waardeoordelen zijn namelijk vervat in het algoritme.

Het Chinese bedrijf Seedlink presenteert een aanpak waardoor de selectie van kandidaten eerlijker moet verlopen zonder te kijken naar leeftijd, geslacht of achtergrond. Zij selecteren met een algoritme personeel voor multinationals. Op basis van kunstmatige intelligentie ontwikkelen zij drie dominante open vragen op basis van de competenties die het bedrijf van de nieuwe werknemer wenst, zoals probleemoplossend vermogen of creativiteit. Die vragen worden vervolgens door de medewerkers van het bedrijf beantwoord. Op basis van de antwoorden wordt een model gemaakt dat de verschillen tussen de beste en de minder goed presenterende werknemers weergeeft. Met behulp van een voorspellend algoritme komt het toptalent dan bovendrijven.

De CV’s en persoonlijk gesprekken verliezen aan belang bij werving van talent. Bedrijven willen uit een grote vijver van kandidaten kunnen vissen. Sommige bedrijven laten een grote groep kandidaten daarom eerst online assessments uitvoeren. Dat bespaart bedrijven, die voorheen honderden CV’s moesten scannen in hun zoektocht naar talent, veel tijd. De kandidaten doen nu thuis achter de PC online toetsen. De programma’s zijn zodanig ontwikkeld dat kandidaten zich niet beter kunnen voordoen zonder door de mand te vallen. De computer meet onder meer concentratie, intelligentie en risicogedrag. Een algoritme berekent daarna of een kandidaat geschikt is voor de functie. Een autoverkoper mag zich bijvoorbeeld risicovoller gedragen dan een boekhouder.

Een robot beslist uiteindelijk wie door mag naar de volgende ronde. Op basis van een algoritme wordt iedere aarzeling, woordkeuze of gezichtsuitdrukking meegewogen. De robot voorspelt of de kandidaat oprecht is en de waarheid spreekt. Op basis daarvan kunnen sollicitanten worden afgewezen als ze niet passen in het gewenste profiel. Ondanks uitgebreide rapportages met beoordeling per competentie hebben bedrijven het nodige uit te leggen als kandidaten afvallen op basis van een computertest. Algoritmes kunnen beter dan mensen voorspellen wie geschikt is voor een baan. Afwijzen blijft mensenwerk.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Robot neemt het stuur over

Stel, je rijdt over een bergpas en plotseling steken twee kinderen de weg over nét wanneer je de bocht om komt. In een flits moet je besluiten de kinderen aan te rijden (met mogelijk twee slachtoffers die het gevaar veroorzaakten) of jezelf in het ravijn te storten (met inzittenden als slachtoffer). Spaar je het leven van de kinderen of offer je jouw leven?

Dergelijke keuzes moeten wij in een split second nemen op basis van onze eigen waarneming en inschatting in de context van een specifieke situatie. Een zelfrijdende auto kan op basis van algoritmen betere keuzes maken. In milliseconden kunnen zo verschillende scenario’s worden doorgenomen, waarbij de situatie van meerdere auto’s kan worden meegenomen. Alleen moeten wij software dan wel zo programmeren dat de gewenste keuze wordt gemaakt bij ethische dilemma’s. Wat zijn die gewenste keuzes? Wij vroegen het in een enquête van iBestuur. Tweederde van de respondenten geeft aan zichzelf op te offeren als de keuze gemaakt moet worden tussen overstekende mensen op het zebrapad of het betonblok.

Onderzoekers van de Universiteit van Osnabrück deden een virtual reality-studie naar de keuzes die mensen maken bij dit soort verkeersdilemma’s. Deelnemers kregen een Oculus Rift-bril op en maakten in een virtuele realiteit keuzes bij verkeersscenario’s. De uitkomst van het onderzoek wees uit dat een mens meer waard is dan een dier. De hond heeft de hoogste waardering onder de dieren. Bij mensen worden mannen sneller geofferd dan vrouwen en ouderen eerder dan jongeren. Daarnaast heeft ook de reactiesnelheid invloed op de keuze. Is die tijd korter dan een seconde dan zijn bestuurder niet meer geneigd van baan te veranderen. Een meerderheid van de participanten kiest voor een altruïstische benadering gericht op het beperken van het aantal slachtoffers, ook als dit ten koste gaat van inzittenden in de eigen auto.

Vorig jaar kwamen 613 mensen om het leven in het verkeer (waaronder 201 automobilisten, 206 fietsers, 58 voetgangers, 51 motorrijders, 46 brom- en snorfietsers en 25 bestuurders van gemotoriseerde invalidevoertuigen). Door de komst van de zelfrijdende auto zal het autoverkeer bijna even veilig worden als het reizen met de trein. Op termijn komen er auto’s die onderling met elkaar in verbinding staan en als konvooien dicht op elkaar kunnen rijden. Vooralsnog moeten we het doen met adaptieve cruise control die de snelheid bepaalt op basis van de afstand tot de voorganger. In een volgend level kunnen auto’s zelfstandig de rijbaan volgen en automatisch afremmen voor voetgangers. De nieuwe Audi A8 behoort tot level 3 en kan onder bepaalde omstandigheden volledig automatisch rijden.

Vanaf level 4 rijdt de auto volledig zelfstandig. Eerst nog in een afgeschermd gebied en vaste routes, bijvoorbeeld voor robottaxi’s waar volop mee wordt geëxperimenteerd. Vanaf level 5 is de auto volledig de baas en beslist in noodsituaties over leven of dood. Bij simulaties gaven deelnemers aan voorstander te zijn van het opofferen van passagiers als er daardoor minder slachtoffers vallen. Tenminste, behalve als zij zelf de bestuurder zijn. Is dat wel het geval, dan wint egoïsme het wellicht toch van altruïsme. Met een robot aan het stuur hebben we daar in ieder geval geen last van.

De volledige uitkomsten van de enquête zijn hier terug te vinden.