Robothanden aan het bed

Mensen worden steeds ouder. Daardoor neemt de zorgvraag toe. Zijn er in de toekomst nog wel voldoende handen beschikbaar om zieke en hulpbehoevende ouderen te verzorgen? Zorgrobots kunnen een helpende hand bieden. Vertrouw je de zorg van jouw hulpbehoevende moeder toe aan een zorgrobot? Nee, zegt een meerderheid van 57 procent van de ondervraagden in een enquête van iBestuur, 42 procent heeft wel vertrouwen in een zorgrobot en 1 procent heeft geen mening.

Het dilemma van een keuze tussen een zorgverlener en een zorgrobot is vooralsnog niet actueel. Robots kunnen patiënten en zorgverleners een handje helpen. Robots kunnen prima helpen bij uitvoeren van uitvoerende taken, zoals stofzuigen en grasmaaien. Artsen kunnen robots inzetten bij onderzoek, diagnose en bij het verrichten van chirurgische handelingen. Sociale robots, luisterend naar namen zoals Alice, Zora en Tessa, kunnen zorgen voor een beetje aanspraak voor ouderen. Een ziekenhuis kan een pratende robot inzetten om patiënten bij hun opname te bevragen.

Robots worden dan misschien geschapen naar het evenbeeld van een mens, zij benaderen bij lange na nog niet de menselijke intelligentie.  Een sociale robot kan nu nog nauwelijks meer dan het uitspreken van voorgeprogrammeerde teksten. Een volgende stap bestaat eruit dat de robot zelf gaat leren door eigen resultaten terug te koppelen, te analyseren en vervolgens slimmer te worden. De zorgrobot wordt een grote toekomst voorspeld, maar een autonoom functionerende zorgrobot is Science Fiction. Van vervanging van de mens in de zorg is geen sprake. Mensen met hulpbehoevende ouders kunnen opgelucht ademhalen. Zij hoeven hun moeders nooit aan een robot toe te vertrouwen.

De discussie over robotisering wordt nog overwegend gedomineerd door de gedachte dat robots onze banen gaan innemen. Dat is onterecht, want het is  niet óf óf, maar én én. Het gaat om betere zorg door het optimaal benutten van de kracht in de combinatie van menselijke creativiteit en digitale technologie. Lotte de Bruijn, directeur Nederland ICT, roept in haar speech tijdens de Avond van de Digitale Economie op de mogelijkheden van die combinatie te benutten:

“Computers overtreffen mensen op talloze gebieden. Ze kunnen veel sneller analyses maken, informatie opdiepen, patronen herkennen. Maar ze zijn niet in staat tot een originele gedachte. Dat is helemaal oké, want dat is net waar wij mensen goed in zijn. Uit onderzoek blijkt dat bij detectie van borstkanker kunstmatige intelligentie het in 8 procent van de gevallen mis heeft. Dus in 8 procent van de diagnoses heeft kunstmatige intelligentie het verkeerd. De beste artsen hebben het slechts in 3,5 procent van de gevallen mis. Maar een arts die gebruik maakt van kunstmatige intelligentie heeft slechts een foutmarge van 0,5 procent. De combinatie is dus zoveel sterker dan de som der delen.”

Dit is (voorlopig) mijn laatste publicatie over ethische dilemma’s en technologie. Eerdere publicatie over dit onderwerp:
eHaelth	Continue gezondheidsmonitor
Overheidsregistraties	Een systeem leeft niet
Gezichtsherkenning	Orwells 1984 nabij
Ongewenste reclame	Nationale Postspam Loterij
Persoonlijke informatie	Privacy inleveren voor korting
Digitaal bespieden	Digitale pottenkijkers
Smart Cities	Nudge de overheid
Veiligheidsdiensten	Behoorlijk goede privacy
Werving en selectie	Afgewezen door een robot
eCourt	Transparante robotadviseur
Chatbot	In gesprek met een robot
Zelfrijdende auto	Robot neemt het stuur over
Killer robots	Robots nemen de wereld niet over
Ethische dillema’s technologie	Computer Says No
Enquête ethische dilemma’s	Geen overheidsbesluit gebaseerd op foute registratie

De volledige uitkomsten van de iBestuur enquête zijn hier terug te vinden.

Digitale pottenkijkers

Als je op het perron op een trein wacht en een reclamebericht bekijkt, dan wordt jouw belangstelling misschien geregistreerd door een verborgen camera in de reclamezuil. Op die manier kunnen adverteerders de populariteit van hun advertentie meten. Mogen verborgen camera’s in reclamezuilen registreren hoe lang je naar de advertentie kijkt? Ja, zegt 25 procent van de ondervraagden in een enquête van iBestuur. Een grote meerderheid van 74 procent stelt dat niet op prijs en 1 procent heeft geen mening.

Met behulp van Deep Learning technieken kan de computer emoties afleiden. Het herkennen van personen op basis van camerabeelden door vergelijking met een foto’s uit bijvoorbeeld sociale media is eveneens technisch mogelijk. De verborgen camera’s mogen geen persoonsgegevens verzamelen die zijn te herleiden tot personen. Het is dus de vraag of de NS met haar slimme reclamezuilen de privacywet overtreedt. Als de camera’s alleen patronen en bewegingen registreren, dan is er weinig aan de hand. Als de gefilmde personen duidelijk in beeld zijn, dan is het in strijd met de wet. In dat geval moeten de reizigers er van op de hoogte zijn dat ze worden gefilmd en daarvoor vooraf toestemming verlenen.

Wat wij in de openbare ruimte nog ontoelaatbaar vinden is in de digitale wereld allang realiteit. Achter ons beeldscherm voelen wij ons onbespied, maar ondertussen wordt elke stap op het internet in de gaten gehouden. Vrijwel alle websites bevatten trackers die bijhouden wat je daar doet en wie je bent. Je routine, je voorkeuren, alle kleine stukjes worden bij elkaar gebracht om een persoonlijk profiel op te bouwen. Dat profiel kan worden gebruikt om persoonlijk advies te geven over aankoop van producten, gepersonaliseerde advertenties en aanbiedingen te presenteren en relevante informatie te tonen. De profielen worden ook verhandeld door datahandelaren.

Op basis van profielen voeren zoekmachines en sociale media gepersonaliseerde zoekopdrachten uit. Je krijgt alleen artikelen, nieuwberichten, muziek, video’s en boeken te zien die aansluiten bij jouw voorkeur. Dat lijkt een voordeel, maar in de praktijk word je een filterbubbel ingetrokken. Op basis van jouw klikgedrag, locatie en zoekgeschiedenis krijg je alleen die informatie te zien die past bij jouw voorkeuren. Ondoorzichtige algoritmes zuigen je in een web van eentonigheid dat steeds minder afwijkende, vernieuwende en verbredende ideeën, meningen en ervaringen bevat. De belangrijkste voorbeelden van de filterbubbel zijn resultaten van Googles Personalized Search en van Facebooks personalized news stream.

Wat kun je doen om de negatieve effecten van pottenkijken, datahandel en manipulatie in de digitale wereld te beperken? Natuurlijk kun je de veiligheidsinstellingen aanpassen en de toegang tot bijvoorbeeld locatie, contacten en camera beperken. Je kunt ook een stap verder gaan: verwijder je Facebook account, gebruik Firefox als standaard browser, zoek met DuckDuckGo en installeer plug-in Pricacy Badger. Deze plug-in herkent en blokkeert tracking cookies voor relevante advertenties. Uiteraard moet je ook de webcam afplakken om digitale pottenkijkers tegen te gaan. Mark Zuckerberg doet dat met een plakbandje. Inmiddels zijn ook fraaie schuifjes (voor 10 euro Nederlands product Spy-Fy) in de markt om de camera af te dekken.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Privacy inleveren voor korting

Deel je persoonlijke informatie met verzekeraars in ruil voor korting op de premie? Ja, zegt 29 procent van de ondervraagden in een enquête van iBestuur. Zij waarderen de meerwaarde van een autoverzekering die korting op de premie biedt op basis van rijstijl. De resterende 71 procent lijkt daar nog niet klaar voor.

Een beperkt aantal verzekeraars biedt in Nederland een rijstijlverzekering. Zij beloven 10 tot 35 procent korting op de premie basis van gemeten rijgedrag. Sommige verzekeraars bieden een app aan waarmee het rijgedrag wordt gemeten op basis van gps en G-kracht. Een app kan meten waar je rijdt, hoe hard je rijdt en of je remt of optrekt. De meeste verzekeraars meten het rijgedrag op basis van een stekker die je in de auto plugt. De stekker registreert continu gereden routes, locatie en rijstijl. De stekker registreert het remmen en optrekken, zonder de oorzaak te kennen. Hard remmen of plotseling uitwijken wordt dus beschouwd als slecht rijgedrag, ook al is dat om een ongeluk te voorkomen.

De ANWB biedt een rijstijlverzekering in combinatie met een ANWB-lidmaatschap. Een stick in de auto meet het rijgedrag op basis van snelheid ten opzichte van toegestane snelheid, optrekken en het nemen van bochten. Via een app krijgt de bestuurder feedback over het rijgedrag. Dit moet de bestuurder stimuleren veilig(er) te rijden. De ANWB zegt een bijdrage te willen leveren aan bevordering van de veiligheid in het verkeer. De verzamelde data wordt enkel voor dat doel gebruikt en niet gedeeld met de politie of ander bevoegd gezag, tenzij dit wettelijk wordt afgedwongen of in het geval van vermoedens van fraude.

Onderzoeksbureau GfK deed onderzoek naar de houding van automobilisten ten aanzien van rijstijlpolissen. Daaruit blijkt dat één op de drie  automobilisten met een rijstijlverzekering zegt veiliger te zijn gaan rijden nadat zij de verzekering hebben afgesloten. Hier staat tegenover dat 38 procent het rijgedrag, ondanks de rijgedragmonitoring, niet heeft aangepast. Opvallend is dat meer dan de helft het ziet zitten om hun rijgedrag te laten opnemen in een voor verzekeraars openbare database, mits hier voldoende beloning tegenover staat. Privacy lijkt daarmee voor de consument een minder groot probleem dan vaak wordt gedacht.

GfK verwacht een zeer sterke groei in rijstijlpolissen binnen de markt voor autoverzekeringen. In 2020 laat 25 procent van de autorijders zich volgen in ruil voor beloning, verwacht het bureau. In het Verenigd Koninkrijk hebben momenteel al bijna 1 op de 10 van de nieuwe verzekerden een rijstijlverzekering. Met name onder jongeren is de verzekering populair. Jonge autorijders beschikken nog niet over veel rijervaring en veroorzaken relatief veel schade. Zij betalen nu meer dan gemiddeld voor een autoverzekering. Een rijstijlverzekering is daarom voor jongeren een aantrekkelijke optie om de premie te drukken.

Consumenten delen nu al massaal persoonlijke data in ruil voor korting en service. Bijna de helft van de Nederlanders lijkt bereid om informatie over hun gezondheid te delen met hun zorgverzekeraar in ruil voor korting. Nu al delen we op grote schaal gegevens als gewicht, bloeddruk, aantal slaapuren of het aantal stappen via gezondheidsapps, slimme armbanden of horloges. Als de verzekeraars hun aanbod van rijstijlverzekeringen afstemmen op beloning voor de klant dan zullen de meeste autorijders bereid zijn om hun rijgedragdata te delen.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Geen overheidsbesluit gebaseerd op foute registratie

Uitkomsten enquête ethische dilemma’s en technologie

Negen op de tien respondenten accepteert niet dat een overheidsbesluit (bijvoorbeeld over een uitkering of een vergunning) gebaseerd is op een foutieve overheidsregistratie. Dat is een van de uitkomsten van een enquête over ethische Dillema’s in relatie tot technologie.

Uitgesproken waren de respondenten ook over de gezichtsherkenning van Facebook. 98 Procent van de ondervraagden accepteert niet dat Facebook (of een vergelijkbaar bedrijf) hun gezicht beschouwt als publieke informatie. Minder uitgesproken was de uitkomst op de vraag of mensen vertrouwen op een slimme pleister die continu de vitale lichaamsfuncties kan meten (45 procent vindt dat prima, 55 procent heeft daar problemen mee). Ook de vraag of mensen de zorg van hun hulpbehoevende moeder toevertrouwen aan een zorgrobot leverde niet al te veel verschil tussen voors en tegens op (42 procent vertrouwt dat de robot wel toe, 57 procent doet dat niet).

Groot verschil was er wel op de vraag of het verantwoord is als het ministerie van Defensie wapens inzet die zonder menselijke tussenkomst hun doelen selecteren. Bijna negen op de tien ondervraagden vindt dat niet verantwoord, iets meer dan 10 procent heeft daar geen bezwaar tegen. Eenzelfde verschil in voors en tegens treffen we aan bij de uitkomst op de vraag of het acceptabel is dat veiligheidsdiensten kwetsbaarheden in software die zij gebruiken in het kader van hun hackbevoegdheid bewust niet melden aan ontwikkelaars (waardoor ook criminelen hun slag kunnen slaan). Iets meer dan 10 procent vindt dat prima, de rest vindt dat niet prima of heeft geen mening.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

In gesprek met een robot

Ga je in gesprek met een chatbot van de klantenservice? Ja, zegt 64 procent van de ondervraagden in een enquête van iBestuur. Zij hebben vertrouwen in kunstmatige intelligentie, ook wel artificial intelligence (AI) genoemd, in de dienstverlening. Een minderheid wijst het contact met een robot af.

Tot voor kort was kunstmatige intelligentie voorbehouden aan de wetenschap of technologische toepassingen. Zo wist supercomputer Deep Blue in 1997 een schaakpartij te winnen van wereldkampioen Kasparov. De laatste jaren is AI bezig aan een wedergeboorte. De technologie is doorgedrongen in onze leefwereld en staat op het punt onze samenleving te veranderen. Organisaties gebruiken in toenemende mate AI om klantervaring te verbeteren. Zij doen dit in de vaste overtuiging dat dit zowel het belang van klanten als de eigen organisatie dient.

Pega deed internationaal onderzoek naar het oordeel van consumenten over kunstmatige intelligentie. De respondenten van het onderzoek zijn verdeeld over hun oordeel over kunstmatige intelligentie. Meer dan een derde zegt dat ze zich comfortabel voelen bij organisaties die AI gebruiken, terwijl iets minder dan een derde zegt dat dit niet het geval is. Dan is er nog een derde die zegt dat ze het gewoon nog niet weten. Sommige consumenten zijn positief en vinden AI veelbelovend. Anderen blijven vasthouden aan een voorkeur voor persoonlijk contact. Over de hele linie blijkt uit het onderzoek dat de meeste consumenten AI niet begrijpen en onwetend zijn hoe dit hun dagelijkse praktijk raakt.

Uit de enquête blijkt dat meer dan 70 procent van de consumenten angst voor kunstmatige intelligentie koesteren. Als we inzoomen op de weerstand tegen kunstmatige intelligentie dan blijkt dit voornamelijk te berusten op angst voor het onbekende. 33 procent is van mening dat een mens hun persoonlijke voorkeuren altijd beter herkent dan een robot. 24 procent vreest dat robots de mensheid kunnen bedreigen. Opmerkelijk is de grote meerderheid van 72 procent van respondenten die zegt te begrijpen wat AI is. Vervolgens kunnen zij slechts een beperkt aantal eigenschappen van AI, zoals spraakherkenning en lerend vermogen, noemen. Hoewel vrijwel alle consumenten dagelijks met AI worden geconfronteerd (bijvoorbeeld via Google zoekopdrachten of het gebruik van Apple’s assistent Siri)  zegt slechts 34 procent ooit via AI te hebben gecommuniceerd.

Over het algemeen ervaren klanten bij digitale dienstverlening op basis van AI weinig toegevoegde waarde. Zij herkennen een robot makkelijk op basis van de voorspelbare interacties. De meeste chatbots zijn vandaag de dag nog niet verfijnd genoeg om in te spelen op context, sentiment of emotie. Daar staat tegenover dat consumenten meer open zouden staan ​​voor AI als het in hun dagelijks leven zou helpen, zoals tijd of geld besparen. Er is voldoende potentieel voor AI om klantenervaring te verbeteren. Daarbij moet een grote kennisachterstand worden overbrugd. Klanten staan positiever tegenover AI in de dienstverlening naar mate zij beter begrijpen wat AI voor hen betekent en de voordelen ervaren.

De enquête onthult ook de sectoren waarin consumenten zich het prettigst voelen bij het gebruik van AI. Online verkoop scoort het hoogst. Klanten zijn gewend aan productaanbevelingen bij online shoppen. Zij zijn meestal tevreden over de aanbevelingen en storen zich niet aan de koopsuggesties die niet aansluiten bij hun wensen.  Toepassing van AI in de gezondheidszorg scoort ook hoog. Consumenten realiseren zich dat AI kan bijdragen aan snelle diagnoses, nauwkeurige behandelingen en goed geïnformeerde patiënten. Het minst vertrouwen hebben de respondenten in toepassing van AI door de overheid. Consumenten vertrouwen autodealers bij gebruik van AI zelfs meer dan de overheid.

Download hier gratis het rapport ‘What consumers really think about AI: A global study’

Robots nemen de wereld niet over

Vind je het verantwoord als Defensie wapens inzet die zonder menselijke tussenkomst hun doelen selecteren? Nee, zegt 87 procent van de ondervraagden in een enquête van iBestuur. Dat is een duidelijke afkeuring van de wapenwedloop die nu gaande is. De Verenigde Staten is namelijk al vergevorderd met het ontwikkelen van wapens die zonder menselijke tussenkomst kunnen opstijgen, landen, doelen selecteren én vernietigen. De Amerikaanse ‘vliegende vleugel’ X-47B moet over twee jaar al paraat zijn voor gevechtsmissies. Het scenario in onderstaande film zou werkelijkheid kunnen worden als we autonome wapens toelaten in onze samenleving.

De ontwikkeling van ‘killer robots’ opent een doos van Pandora. Ruim honderd bedrijven wereldwijd op het terrein van robotica en kunstmatige intelligentie maken zich grote zorgen over de mogelijk catastrofale gevolgen als de ontwikkeling van dodelijke, autonome wapens wordt toegestaan. In een open brief roepen zij regeringsleiders op een internationaal verdrag te steunen dat dodelijke autonome wapens beperkt. Meer dan 20.000 mensen ondersteunen inmiddels de oproep tegen autonome wapens.

Technologie gebaseerd op artificiële intelligentie en robotisering gaat in toenemende mate ons leven beïnvloeden. Dit kan op goede manieren om ons leven makkelijker te maken. Het kan ook een bedreiging gaan vormen. De Netflix-serie ‘Black Mirror’ toont op surrealistische wijze enkele horrorscenario’s waarin technologische vooruitgang botst met onze menselijke gevoelens. Wat gebeurt er als we de technologie ons volledig gaat beheersen, maar erger nog: als we de  controle over onze slimme uitvindingen kwijtraken? Die ontwikkeling wordt al een eeuwenlang in sciencefictionfilms en -boeken aangekondigd.

Vijftig jaar geleden kwam de baanbrekende sciencefictionfilm 2001: A Space Odyssey uit. In de film gaan vijf reizigers op weg naar Jupiter. Hun ruimteschip wordt bestuurd door boordcomputer HAL die beschikt over menselijke intelligentie en spraakvermogen. De ruimtevaarders beschouwen de computer als zesde bemanningslid. HAL is als enige op de hoogte van het doel van de missie en grijpt tijdens de reis de macht. Uiteindelijk weet één van de bemanningsleden de computer te overwinnen door HAL’s geheugencentrum uit te schakelen.

Ook in het laatste boek van Dan Brown ‘De Oorsprong’ speelt een computer met menselijke eigenschappen de sleutelrol. De alwetende computerhulp luistert naar de naam Winston. Het is een verwijzing naar de geniale strateeg Winston Churchill. Waarschijnlijk verwijst de naam ook naar IBM’s supercomputer Watson. Winston bezit krachtige eigenschappen van een supercomputer en is gelijktijdig onmogelijk van een mens te onderscheiden. De computer is uitgerust met volledig geperfectioneerde kunstmatige intelligentie en slaagt ruimschoots voor de Turing-test. Winston handelt in ‘het belang’ van zijn opdrachtgever, voert zelfstandig taken uit en beslist over leven en dood. De afloop van het boek is voorspelbaar.

We leven in een tijd waarin sciencefiction werkelijkheid wordt. Robots gaan steeds meer taken van mensen overnemen. Dit past in de evolutie van gereedschappen die de mensheid heeft ontwikkeld vanaf het stenen tijdperk. Robots blijven hulpmiddelen en zullen altijd ondergeschikt blijven aan mensen. Het is ook evident dat een robot geen verantwoordelijkheid kan nemen. Dat kunnen alleen de mensen die robots ontwerpen, programmeren en gebruiken. Juridisch gezien is dat nog een complexe puzzel. Nieuwe internationale afspraken, regelgeving en toezicht blijven altijd noodzakelijk om het gebruik van technologische innovaties in goede banen te leiden.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

 

Afgewezen door een robot

Accepteer je een afwijzing van een sollicitatie op basis van een voorspellend algoritme? Nee, zegt 78 procent van de ondervraagden in een enquête van iBestuur. Werving en selectie van personeel was aanvankelijk hoofdzakelijk mensenwerk, maar nieuwe technologieën nemen veel taken over. Zo propageert internetbedrijf Google al sinds 2015 het wervings- en selectiebeleid primair te baseren op harde data, analytische tests en algoritmen.

Op termijn zal deze markt voor werving en selectie worden gedomineerd door internetplatforms, zoals LinkedIn en Facebook. Het proces tussen bedrijven en werkzoekenden wordt dan volledig geautomatiseerd. De platforms hebben nu al de vacature- en talentenmarkt, die voorheen was voorbehouden aan professionele recruiters, online toegankelijk gemaakt. Bedrijven worden daardoor overspoeld met sollicitaties. Met behulp van algoritmes kunnen platformbedrijven vervolgens ook de werving en selectie overnemen. Moeten we vrezen dat de personeelswervingsdienst in navolging van hotels en taxi’s ook wordt ‘geuberiseerd’? Dit staat en valt bij de betrouwbaarheid van de algoritmes en het vertrouwen dat bedrijven en werkzoekenden daarin hebben.

Een onderzoeker van Erasmus Universiteit ontwikkelde een algoritme om CV’s te selecteren op basis van big data. Hij analyseerde bijna een half miljoen CV’s van echte kandidaten en informatie over het verloop van hun sollicitaties. De software die hij ontwikkelde scande de CV’s op basis van een aantal variabelen in relatie tot het besluit over het wel of niet uitnodigen van de kandidaat voor een eerste gesprek. Met die kennis ontwikkelde hij een algoritme dat met een nauwkeurigheid van 80 procent kan voorspellen welke CV’s door recruiters zal worden geselecteerd. Die betrouwbaarheid kan nog verder worden verhoogd, maar het is de vraag of de kwaliteit en objectiviteit van de selectie daardoor toeneemt. Persoonlijke waardeoordelen zijn namelijk vervat in het algoritme.

Het Chinese bedrijf Seedlink presenteert een aanpak waardoor de selectie van kandidaten eerlijker moet verlopen zonder te kijken naar leeftijd, geslacht of achtergrond. Zij selecteren met een algoritme personeel voor multinationals. Op basis van kunstmatige intelligentie ontwikkelen zij drie dominante open vragen op basis van de competenties die het bedrijf van de nieuwe werknemer wenst, zoals probleemoplossend vermogen of creativiteit. Die vragen worden vervolgens door de medewerkers van het bedrijf beantwoord. Op basis van de antwoorden wordt een model gemaakt dat de verschillen tussen de beste en de minder goed presenterende werknemers weergeeft. Met behulp van een voorspellend algoritme komt het toptalent dan bovendrijven.

De CV’s en persoonlijk gesprekken verliezen aan belang bij werving van talent. Bedrijven willen uit een grote vijver van kandidaten kunnen vissen. Sommige bedrijven laten een grote groep kandidaten daarom eerst online assessments uitvoeren. Dat bespaart bedrijven, die voorheen honderden CV’s moesten scannen in hun zoektocht naar talent, veel tijd. De kandidaten doen nu thuis achter de PC online toetsen. De programma’s zijn zodanig ontwikkeld dat kandidaten zich niet beter kunnen voordoen zonder door de mand te vallen. De computer meet onder meer concentratie, intelligentie en risicogedrag. Een algoritme berekent daarna of een kandidaat geschikt is voor de functie. Een autoverkoper mag zich bijvoorbeeld risicovoller gedragen dan een boekhouder.

Een robot beslist uiteindelijk wie door mag naar de volgende ronde. Op basis van een algoritme wordt iedere aarzeling, woordkeuze of gezichtsuitdrukking meegewogen. De robot voorspelt of de kandidaat oprecht is en de waarheid spreekt. Op basis daarvan kunnen sollicitanten worden afgewezen als ze niet passen in het gewenste profiel. Ondanks uitgebreide rapportages met beoordeling per competentie hebben bedrijven het nodige uit te leggen als kandidaten afvallen op basis van een computertest. Algoritmes kunnen beter dan mensen voorspellen wie geschikt is voor een baan. Afwijzen blijft mensenwerk.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Robot neemt het stuur over

Stel, je rijdt over een bergpas en plotseling steken twee kinderen de weg over nét wanneer je de bocht om komt. In een flits moet je besluiten de kinderen aan te rijden (met mogelijk twee slachtoffers die het gevaar veroorzaakten) of jezelf in het ravijn te storten (met inzittenden als slachtoffer). Spaar je het leven van de kinderen of offer je jouw leven?

Dergelijke keuzes moeten wij in een split second nemen op basis van onze eigen waarneming en inschatting in de context van een specifieke situatie. Een zelfrijdende auto kan op basis van algoritmen betere keuzes maken. In milliseconden kunnen zo verschillende scenario’s worden doorgenomen, waarbij de situatie van meerdere auto’s kan worden meegenomen. Alleen moeten wij software dan wel zo programmeren dat de gewenste keuze wordt gemaakt bij ethische dilemma’s. Wat zijn die gewenste keuzes? Wij vroegen het in een enquête van iBestuur. Tweederde van de respondenten geeft aan zichzelf op te offeren als de keuze gemaakt moet worden tussen overstekende mensen op het zebrapad of het betonblok.

Onderzoekers van de Universiteit van Osnabrück deden een virtual reality-studie naar de keuzes die mensen maken bij dit soort verkeersdilemma’s. Deelnemers kregen een Oculus Rift-bril op en maakten in een virtuele realiteit keuzes bij verkeersscenario’s. De uitkomst van het onderzoek wees uit dat een mens meer waard is dan een dier. De hond heeft de hoogste waardering onder de dieren. Bij mensen worden mannen sneller geofferd dan vrouwen en ouderen eerder dan jongeren. Daarnaast heeft ook de reactiesnelheid invloed op de keuze. Is die tijd korter dan een seconde dan zijn bestuurder niet meer geneigd van baan te veranderen. Een meerderheid van de participanten kiest voor een altruïstische benadering gericht op het beperken van het aantal slachtoffers, ook als dit ten koste gaat van inzittenden in de eigen auto.

Vorig jaar kwamen 613 mensen om het leven in het verkeer (waaronder 201 automobilisten, 206 fietsers, 58 voetgangers, 51 motorrijders, 46 brom- en snorfietsers en 25 bestuurders van gemotoriseerde invalidevoertuigen). Door de komst van de zelfrijdende auto zal het autoverkeer bijna even veilig worden als het reizen met de trein. Op termijn komen er auto’s die onderling met elkaar in verbinding staan en als konvooien dicht op elkaar kunnen rijden. Vooralsnog moeten we het doen met adaptieve cruise control die de snelheid bepaalt op basis van de afstand tot de voorganger. In een volgend level kunnen auto’s zelfstandig de rijbaan volgen en automatisch afremmen voor voetgangers. De nieuwe Audi A8 behoort tot level 3 en kan onder bepaalde omstandigheden volledig automatisch rijden.

Vanaf level 4 rijdt de auto volledig zelfstandig. Eerst nog in een afgeschermd gebied en vaste routes, bijvoorbeeld voor robottaxi’s waar volop mee wordt geëxperimenteerd. Vanaf level 5 is de auto volledig de baas en beslist in noodsituaties over leven of dood. Bij simulaties gaven deelnemers aan voorstander te zijn van het opofferen van passagiers als er daardoor minder slachtoffers vallen. Tenminste, behalve als zij zelf de bestuurder zijn. Is dat wel het geval, dan wint egoïsme het wellicht toch van altruïsme. Met een robot aan het stuur hebben we daar in ieder geval geen last van.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Computer Says No

In veel grote organisaties regeert de computer. Het zijn telecomaanbieders, verzekeraars en overheden die hun medewerkers slaafs taken met behulp van de computer laat uitvoeren. Meedenken met de klant is niet nodig, want de computer heeft altijd gelijk. De Britse comedy serie Little Britain steekt daarmee de draak. Een moeder meldt zich met haar dochtertje bij de balie van het ziekenhuis voor het verwijderen van de amandelen bij het meisje. De receptioniste kijkt op haar scherm en zegt: ‘Computer Says No’. Het meisje staat in het systeem ingeboekt voor een dubbele heupoperatie. ‘Wil je die?’ vraagt de receptioniste. Natuurlijk wil ze die niet, maar de amandeloperatie zit er niet in: ‘Computer Says No’.

Door voortschrijding van de technologie gaat de receptioniste achter een beeldscherm snel verdwijnen. Balie- en helpdeskmedewerkers maken op termijn plaats voor een virtuele assistent voor klantenondersteuning. Die werkt 24 uur per dag en kan oneindig veel klanten tegelijk helpen. Dankzij kunstmatige intelligentie gedraagt de virtuele assistent zich steeds menselijker, toont inlevingsvermogen en denkt met de klant mee. Het Amerikaanse bedrijf IPSoft gaf haar virtuele assistent ‘Amalia’ een menselijk gezicht. De digitale wereld verovert steeds meer terrein op de fysieke wereld. Zelf zijn we met onze smartphones en waerables ook continu aangesloten op die digitale wereld.

Mijn sporthorloge meet 24 uur per dag mijn hartslag en activiteit. Dit gebruik ik zelf als ondersteuning bij het sporten en fit te blijven. Wat zou ik van vinden om deze gegevens te delen met een arts die mijn gezondheid dan continu kan bewaken? Sta ik de informatie af aan mijn zorgverzekeraar om mijn premie en risicotoeslag te bepalen? Wat doe ik als mijn zieke moeder wordt ontslagen uit het ziekenhuis en haar toestand voortaan op afstand wordt bewaakt op basis van een slimme pleister die vitale functies kan meten? Door voortschrijdende technologische ontwikkelingen worden we steeds meer voor ethische afwegingen geplaatst. Op basis van de informatiesporen die wij achter laten en alom aanwezige camera’s worden wij bespied en op basis van slimme algoritmen gemanipuleerd zonder dat in de gaten te hebben. Zonder dat we het door hebben worden taken van mensen overgenomen door robots. We bellen naar de helpdesk en worden geholpen door een robot. Een rechterlijke uitspraak of beoordeling van onze sollicitatiebrief wordt achter de schermen door een robot afgehandeld. Moeten we dan ook verhaal halen bij de robot als we het er niet mee eens zijn? Aan de andere kant kunnen de robots ook veel gemak geven, bijvoorbeeld voor uitvoering van zorgtaken of zelfrijdende auto. Dan vertrouwen we op de juiste beslissingen van de robot. Als de auto moet kiezen tussen fatale botsing tegen betonblok of doodrijden van overstekende mensen, welke keuze moet de auto dan van jou maken? Waar ligt de grens? Welke afweging maak je tussen bijvoorbeeld veiligheid en privacy of terrorismebestrijding en digitale veiligheid? Wat vind je nog ethisch verantwoord?

De voortschrijding van de technologie brengt een aantal van dit soort ethische dilemma’s met zich mee. Trek je ergens een grens of accepteer je digitalisering als een soort natuurverschijnsel waarop je geen invloed hebt? Waar trek jij de grens? Is het ‘Computer Says No!’, of zeg je ‘Ho!’?

Overige publicaties over ethische dilemma’s en technologie
eHaelth	Continue gezondheidsmonitor
Overheidsregistraties	Een systeem leeft niet
Gezichtsherkenning	Orwells 1984 nabij
Ongewenste reclame	Nationale Postspam Loterij
Persoonlijke informatie	Privacy inleveren voor korting
Digitaal bespieden	Digitale pottenkijkers
Smart Cities	Nudge de overheid
Veiligheidsdiensten	Behoorlijk goede privacy
Werving en selectie	Afgewezen door een robot
Zorgrobot	Robothanden aan het bed
eCourt	Transparante robotadviseur
Chatbot	In gesprek met een robot
Zelfrijdende auto	Robot neemt het stuur over
Killer robots	Robots nemen de wereld niet over
Enquête ethische dilemma’s	Geen overheidsbesluit gebaseerd op foute registratie

Behoorlijk goede privacy

In 2016 kreeg de politie via Canada een bestand met 3,6 miljoen berichten in handen. Die berichten waren via 40.000 smartphones met pgp-versleuteling verstuurd. De politie wist de encryptie ongedaan te maken en kreeg zo inzicht in de communicatie binnen een crimineel netwerk. De rechtbank stond de ontsleutelde berichten vervolgens toe als bewijs in een rechtszaak tegen een crimineel. Verwacht mag worden dat het Openbaar Ministerie in de toekomst vaker berichten uit pgp-telefoons zal gaan gebruiken als bewijs tegen criminelen. De jacht op encryptiesleutels is geopend.

Tot twee jaar terug waren online berichtendiensten zoals Whatsapp een belangrijke bron voor politie en inlichtingendiensten. Via chatapplicaties konden zij veel te weten komen over activiteiten van criminelen en terroristen. Na de onthullingen van Snowden hebben technologiebedrijven hun diensten beveiligd met end-to-end encryptie. Dit heeft de veiligheidsdiensten de mogelijkheid ontnomen om het berichtenverkeer af te luisteren.

AIVD-baas Bertholee pleitte vergeefs voor een achterdeurtje voor de veiligheidsdiensten om de versleuteling te kunnen omzeilen. De FBI ving bot bij Apple bij verkrijgen van toegang tot de iPhone 5C van de San Benardino-schutter. Een externe partij moest er aan te pas komen om het apparaat te hacken. De Russische geheime dienst FSB eiste vrijgave van de encryptiesleutels van Telegram. Telegram weigerde dit te doen met als argument dat daardoor de privacy van gebruikers zou worden geschonden. De Russische autoriteiten blokkeerden vervolgens het gebruik van de chatapp in het hele land. Tussen de 10 en 15 miljoen gebruikers in Rusland kunnen de dienst nu niet goed meer gebruiken.

Door de versleuteling van berichten van chatapps is het voor de veiligheidsdiensten moeilijker geworden inzicht te krijgen in de communicatie van terroristen. Na inwerkingtreding van de nieuwe Wet op de inlichtingen- en veiligheidsdiensten (Wiv) kan de AIVD nu wel met kabelgebonden interceptie inzicht krijgen in de metadata over de communicatie. Ze kunnen zien wie met wie praat, zonder de inhoud van die communicatie zien. Het levert bijvoorbeeld informatie over gebruikte nummers of IP-adressen, de start- en eindtijd van de communicatie en gebruikte communicatiemiddelen.

Voor informatie over de inhoud van de berichten moeten de veiligheidsdiensten door de beveiliging heen zien te breken. De Wiv biedt hiertoe uitgebreide hackbevoegdheid om binnen te dringen op apparatuur en netwerken. Daarbij moeten de diensten veelal gebruik maken van onbekende kwetsbaarheden in de beveiliging. Die kwetsbaarheden hoeven de diensten niet te melden aan de leveranciers en ontwikkelaars van software en apparaten. Het geheim houden van die informatie vergroot de kans op uitlekken daarvan en gebruik door buitenlandse inlichtingendiensten en cybercriminelen. Bedrijfsgegevens en privégegevens kunnen daardoor in verkeerde handen vallen. Dit is schadelijk voor economische veiligheid en privacy van burgers. Schade die mogelijk terrorismedreiging kan overstijgen. PGP-versleuteling staat voor Pretty Good Privacy. Die beveiliging biedt inmiddels geen volledige garantie.