In gesprek met een robot

Ga je in gesprek met een chatbot van de klantenservice? Ja, zegt 64 procent van de ondervraagden in een enquête van iBestuur. Zij hebben vertrouwen in artificiële intelligentie (AI) in de dienstverlening. Een minderheid wijst het contact met een robot af.

Tot voor kort was artificiële intelligentie voorbehouden aan de wetenschap of technologische toepassingen. Zo wist supercomputer Deep Blue in 1997 een schaakpartij te winnen van wereldkampioen Kasparov. De laatste jaren is AI bezig aan een wedergeboorte. De technologie is doorgedrongen in onze leefwereld en staat op het punt onze samenleving te veranderen. Organisaties gebruiken in toenemende mate AI om klantervaring te verbeteren. Zij doen dit in de vaste overtuiging dat dit zowel het belang van klanten als de eigen organisatie dient.

Pega deed internationaal onderzoek naar het oordeel van consumenten over artificiële intelligentie. De respondenten van het onderzoek zijn verdeeld over hun oordeel over artificiële intelligentie. Meer dan een derde zegt dat ze zich comfortabel voelen bij organisaties die AI gebruiken, terwijl iets minder dan een derde zegt dat dit niet het geval is. Dan is er nog een derde die zegt dat ze het gewoon nog niet weten. Sommige consumenten zijn positief en vinden AI veelbelovend. Anderen blijven vasthouden aan een voorkeur voor persoonlijk contact. Over de hele linie blijkt uit het onderzoek dat de meeste consumenten AI niet begrijpen en onwetend zijn hoe dit hun dagelijkse praktijk raakt.

Uit de enquête blijkt dat meer dan 70 procent van de consumenten angst voor artificiële intelligentie koesteren. Als we inzoomen op de weerstand tegen artificiële intelligentie dan blijkt dit voornamelijk te berusten op angst voor het onbekende. 33 procent is van mening dat een mens hun persoonlijke voorkeuren altijd beter herkent dan een robot. 24 procent vreest dat robots de mensheid kunnen bedreigen. Opmerkelijk is de grote meerderheid van 72 procent van respondenten die zegt te begrijpen wat AI is. Vervolgens kunnen zij slechts een beperkt aantal eigenschappen van AI, zoals spraakherkenning en lerend vermogen, noemen. Hoewel vrijwel alle consumenten dagelijks met AI worden geconfronteerd (bijvoorbeeld via Google zoekopdrachten of het gebruik van Apple’s assistent Siri)  zegt slechts 34 procent ooit via AI te hebben gecommuniceerd.

Over het algemeen ervaren klanten bij digitale dienstverlening op basis van AI weinig toegevoegde waarde. Zij herkennen een robot makkelijk op basis van de voorspelbare interacties. De meeste chatbots zijn vandaag de dag nog niet verfijnd genoeg om in te spelen op context, sentiment of emotie. Daar staat tegenover dat consumenten meer open zouden staan ​​voor AI als het in hun dagelijks leven zou helpen, zoals tijd of geld besparen. Er is voldoende potentieel voor AI om klantenervaring te verbeteren. Daarbij moet een grote kennisachterstand worden overbrugd. Klanten staan positiever tegenover AI in de dienstverlening naar mate zij beter begrijpen wat AI voor hen betekent en de voordelen ervaren.

De enquête onthult ook de sectoren waarin consumenten zich het prettigst voelen bij het gebruik van AI. Online verkoop scoort het hoogst. Klanten zijn gewend aan productaanbevelingen bij online shoppen. Zij zijn meestal tevreden over de aanbevelingen en storen zich niet aan de koopsuggesties die niet aansluiten bij hun wensen.  Toepassing van AI in de gezondheidszorg scoort ook hoog. Consumenten realiseren zich dat AI kan bijdragen aan snelle diagnoses, nauwkeurige behandelingen en goed geïnformeerde patiënten. Het minst vertrouwen hebben de respondenten in toepassing van AI door de overheid. Consumenten vertrouwen autodealers bij gebruik van AI zelfs meer dan de overheid.

Download hier gratis het rapport ‘What consumers really think about AI: A global study’

Robots nemen de wereld niet over

Vind je het verantwoord als Defensie wapens inzet die zonder menselijke tussenkomst hun doelen selecteren? Nee, zegt 87 procent van de ondervraagden in een enquête van iBestuur. Dat is een duidelijke afkeuring van de wapenwedloop die nu gaande is. De Verenigde Staten is namelijk al vergevorderd met het ontwikkelen van wapens die zonder menselijke tussenkomst kunnen opstijgen, landen, doelen selecteren én vernietigen. De Amerikaanse ‘vliegende vleugel’ X-47B moet over twee jaar al paraat zijn voor gevechtsmissies. Het scenario in onderstaande film zou werkelijkheid kunnen worden als we autonome wapens toelaten in onze samenleving.

De ontwikkeling van ‘killer robots’ opent een doos van Pandora. Ruim honderd bedrijven wereldwijd op het terrein van robotica en kunstmatige intelligentie maken zich grote zorgen over de mogelijk catastrofale gevolgen als de ontwikkeling van dodelijke, autonome wapens wordt toegestaan. In een open brief roepen zij regeringsleiders op een internationaal verdrag te steunen dat dodelijke autonome wapens beperkt. Meer dan 20.000 mensen ondersteunen inmiddels de oproep tegen autonome wapens.

Technologie gebaseerd op artificiële intelligentie en robotisering gaat in toenemende mate ons leven beïnvloeden. Dit kan op goede manieren om ons leven makkelijker te maken. Het kan ook een bedreiging gaan vormen. De Netflix-serie ‘Black Mirror toont op surrealistische wijze enkele horrorscenario’s waarin technologische vooruitgang botst met onze menselijke gevoelens. Wat gebeurt er als we de technologie ons volledig gaat beheersen, maar erger nog: als we de  controle over onze slimme uitvindingen kwijtraken? Die ontwikkeling wordt al een eeuwlang in sciencefictionfilms en -boeken aangekondigd.

Vijftig jaar geleden kwam de baanbrekende sciencefictionfilm 2001: A Space Odyssey uit. In de film gaan vijf reizigers op weg naar Jupiter. Hun ruimteschip wordt bestuurd door boordcomputer HAL die beschikt over menselijke intelligentie en spraakvermogen. De ruimtevaarders beschouwen de computer als zesde bemanningslid. HAL is als enige op de hoogte van het doel van de missie en grijpt tijdens de reis de macht. Uiteindelijk weet één van de bemanningsleden de computer te overwinnen door HAL’s geheugencentrum uit te schakelen.

Ook in het laatste boek van Dan Brown ‘De Oorsprong’ speelt een computer met menselijke eigenschappen de sleutelrol. De alwetende computerhulp luistert naar de naam Winston. Het is een verwijzing naar de geniale strateeg Winston Churchill. Waarschijnlijk verwijst de naam ook naar IBM’s supercomputer Watson. Winston bezit krachtige eigenschappen van een supercomputer en is gelijktijdig onmogelijk van een mens te onderscheiden. De computer is uitgerust met volledig geperfectioneerde artificiële intelligentie en slaagt ruimschoots voor de Turing-test. Winston handelt in ‘het belang’ van zijn opdrachtgever, voert zelfstandig taken uit en beslist over leven en dood. De afloop van het boek is voorspelbaar.

We leven in een tijd waarin sciencefiction werkelijkheid wordt. Robots gaan steeds meer taken van mensen overnemen. Dit past in de evolutie van gereedschappen die de mensheid heeft ontwikkeld vanaf het stenen tijdperk. Robots blijven hulpmiddelen en zullen altijd ondergeschikt blijven aan mensen. Het is ook evident dat een robot geen verantwoordelijkheid kan nemen. Dat kunnen alleen de mensen die robots ontwerpen, programmeren en gebruiken. Juridisch gezien is dat nog een complexe puzzel. Nieuwe internationale afspraken, regelgeving en toezicht blijven altijd noodzakelijk om het gebruik van technologische innovaties in goede banen te leiden.

(De uitkomsten van de enquête worden bekendgemaakt tijdens de ronde tafel-bijeenkomst Computer says no! op 17 september.)

 

Afgewezen door een robot

Accepteer je een afwijzing van een sollicitatie op basis van een voorspellend algoritme? Nee, zegt 78 procent van de ondervraagden in een enquête van iBestuur. Werving en selectie van personeel was aanvankelijk hoofdzakelijk mensenwerk, maar nieuwe technologieën nemen veel taken over. Zo propageert internetbedrijf Google al sinds 2015 het wervings- en selectiebeleid primair te baseren op harde data, analytische tests en algoritmen.

Op termijn zal deze markt voor werving en selectie worden gedomineerd door internetplatforms, zoals LinkedIn en Facebook. Het proces tussen bedrijven en werkzoekenden wordt dan volledig geautomatiseerd. De platforms hebben nu al de vacature- en talentenmarkt, die voorheen was voorbehouden aan professionele recruiters, online toegankelijk gemaakt. Bedrijven worden daardoor overspoeld met sollicitaties. Met behulp van algoritmes kunnen platformbedrijven vervolgens ook de werving en selectie overnemen. Moeten we vrezen dat de personeelswervingsdienst in navolging van hotels en taxi’s ook wordt ‘geuberiseerd’? Dit staat en valt bij de betrouwbaarheid van de algoritmes en het vertrouwen dat bedrijven en werkzoekenden daarin hebben.

Een onderzoeker van Erasmus Universiteit ontwikkelde een algoritme om CV’s te selecteren op basis van big data. Hij analyseerde bijna een half miljoen CV’s van echte kandidaten en informatie over het verloop van hun sollicitaties. De software die hij ontwikkelde scande de CV’s op basis van een aantal variabelen in relatie tot het besluit over het wel of niet uitnodigen van de kandidaat voor een eerste gesprek. Met die kennis ontwikkelde hij een algoritme dat met een nauwkeurigheid van 80 procent kan voorspellen welke CV’s door recruiters zal worden geselecteerd. Die betrouwbaarheid kan nog verder worden verhoogd, maar het is de vraag of de kwaliteit en objectiviteit van de selectie daardoor toeneemt. Persoonlijke waardeoordelen zijn namelijk vervat in het algoritme.

Het Chinese bedrijf Seedlink presenteert een aanpak waardoor de selectie van kandidaten eerlijker moet verlopen zonder te kijken naar leeftijd, geslacht of achtergrond. Zij selecteren met een algoritme personeel voor multinationals. Op basis van kunstmatige intelligentie ontwikkelen zij drie dominante open vragen op basis van de competenties die het bedrijf van de nieuwe werknemer wenst, zoals probleemoplossend vermogen of creativiteit. Die vragen worden vervolgens door de medewerkers van het bedrijf beantwoord. Op basis van de antwoorden wordt een model gemaakt dat de verschillen tussen de beste en de minder goed presenterende werknemers weergeeft. Met behulp van een voorspellend algoritme komt het toptalent dan bovendrijven.

De CV’s en persoonlijk gesprekken verliezen aan belang bij werving van talent. Bedrijven willen uit een grote vijver van kandidaten kunnen vissen. Sommige bedrijven laten een grote groep kandidaten daarom eerst online assessments uitvoeren. Dat bespaart bedrijven, die voorheen honderden CV’s moesten scannen in hun zoektocht naar talent, veel tijd. De kandidaten doen nu thuis achter de PC online toetsen. De programma’s zijn zodanig ontwikkeld dat kandidaten zich niet beter kunnen voordoen zonder door de mand te vallen. De computer meet onder meer concentratie, intelligentie en risicogedrag. Een algoritme berekent daarna of een kandidaat geschikt is voor de functie. Een autoverkoper mag zich bijvoorbeeld risicovoller gedragen dan een boekhouder.

Een robot beslist uiteindelijk wie door mag naar de volgende ronde. Op basis van een algoritme wordt iedere aarzeling, woordkeuze of gezichtsuitdrukking meegewogen. De robot voorspelt of de kandidaat oprecht is en de waarheid spreekt. Op basis daarvan kunnen sollicitanten worden afgewezen als ze niet passen in het gewenste profiel. Ondanks uitgebreide rapportages met beoordeling per competentie hebben bedrijven het nodige uit te leggen als kandidaten afvallen op basis van een computertest. Algoritmes kunnen beter dan mensen voorspellen wie geschikt is voor een baan. Afwijzen blijft mensenwerk.

(De uitkomsten van de enquête worden bekendgemaakt tijdens de ronde tafel-bijeenkomst Computer says no! op 17 september.)

Robot neemt het stuur over

Stel, je rijdt over een bergpas en plotseling steken twee kinderen de weg over nét wanneer je de bocht om komt. In een flits moet je besluiten de kinderen aan te rijden (met mogelijk twee slachtoffers die het gevaar veroorzaakten) of jezelf in het ravijn te storten (met inzittenden als slachtoffer). Spaar je het leven van de kinderen of offer je jouw leven?

Dergelijke keuzes moeten wij in een split second nemen op basis van onze eigen waarneming en inschatting in de context van een specifieke situatie. Een zelfrijdende auto kan op basis van algoritmen betere keuzes maken. In milliseconden kunnen zo verschillende scenario’s worden doorgenomen, waarbij de situatie van meerdere auto’s kan worden meegenomen. Alleen moeten wij software dan wel zo programmeren dat de gewenste keuze wordt gemaakt bij ethische dilemma’s. Wat zijn die gewenste keuzes? Wij vroegen het in een enquête van iBestuur. Tweederde van de respondenten geeft aan zichzelf op te offeren als de keuze gemaakt moet worden tussen overstekende mensen op het zebrapad of het betonblok.

Onderzoekers van de Universiteit van Osnabrück deden een virtual reality-studie naar de keuzes die mensen maken bij dit soort verkeersdilemma’s. Deelnemers kregen een Oculus Rift-bril op en maakten in een virtuele realiteit keuzes bij verkeersscenario’s. De uitkomst van het onderzoek wees uit dat een mens meer waard is dan een dier. De hond heeft de hoogste waardering onder de dieren. Bij mensen worden mannen sneller geofferd dan vrouwen en ouderen eerder dan jongeren. Daarnaast heeft ook de reactiesnelheid invloed op de keuze. Is die tijd korter dan een seconde dan zijn bestuurder niet meer geneigd van baan te veranderen. Een meerderheid van de participanten kiest voor een altruïstische benadering gericht op het beperken van het aantal slachtoffers, ook als dit ten koste gaat van inzittenden in de eigen auto.

Vorig jaar kwamen 613 mensen om het leven in het verkeer (waaronder 201 automobilisten, 206 fietsers, 58 voetgangers, 51 motorrijders, 46 brom- en snorfietsers en 25 bestuurders van gemotoriseerde invalidevoertuigen). Door de komst van de zelfrijdende auto zal het autoverkeer bijna even veilig worden als het reizen met de trein. Op termijn komen er auto’s die onderling met elkaar in verbinding staan en als konvooien dicht op elkaar kunnen rijden. Vooralsnog moeten we het doen met adaptieve cruise control die de snelheid bepaalt op basis van de afstand tot de voorganger. In een volgend level kunnen auto’s zelfstandig de rijbaan volgen en automatisch afremmen voor voetgangers. De nieuwe Audi A8 behoort tot level 3 en kan onder bepaalde omstandigheden volledig automatisch rijden.

Vanaf level 4 rijdt de auto volledig zelfstandig. Eerst nog in een afgeschermd gebied en vaste routes, bijvoorbeeld voor robottaxi’s waar volop mee wordt geëxperimenteerd. Vanaf level 5 is de auto volledig de baas en beslist in noodsituaties over leven of dood. Bij simulaties gaven deelnemers aan voorstander te zijn van het opofferen van passagiers als er daardoor minder slachtoffers vallen. Tenminste, behalve als zij zelf de bestuurder zijn. Is dat wel het geval, dan wint egoïsme het wellicht toch van altruïsme. Met een robot aan het stuur hebben we daar in ieder geval geen last van.

Computer Says No

In veel grote organisaties regeert de computer. Het zijn telecomaanbieders, verzekeraars en overheden die hun medewerkers slaafs taken met behulp van de computer laat uitvoeren. Meedenken met de klant is niet nodig, want de computer heeft altijd gelijk. De Britse comedy serie Little Britain steekt daarmee de draak. Een moeder meldt zich met haar dochtertje bij de balie van het ziekenhuis voor het verwijderen van de amandelen bij het meisje. De receptioniste kijkt op haar scherm en zegt: ‘Computer Says No’. Het meisje staat in het systeem ingeboekt voor een dubbele heupoperatie. ‘Wil je die?’ vraagt de receptioniste. Natuurlijk wil ze die niet, maar de amandeloperatie zit er niet in: ‘Computer Says No’.

Door voortschrijding van de technologie gaat de receptioniste achter een beeldscherm snel verdwijnen. Balie- en helpdeskmedewerkers maken op termijn plaats voor een virtuele assistent voor klantenondersteuning. Die werkt 24 uur per dag en kan oneindig veel klanten tegelijk helpen. Dankzij kunstmatige intelligentie gedraagt de virtuele assistent zich steeds menselijker, toont inlevingsvermogen en denkt met de klant mee. Het Amerikaanse bedrijf IPSoft gaf haar virtuele assistent ‘Amalia’ een menselijk gezicht. De digitale wereld verovert steeds meer terrein op de fysieke wereld. Zelf zijn we met onze smartphones en waerables ook continu aangesloten op die digitale wereld.

Mijn sporthorloge meet 24 uur per dag mijn hartslag en activiteit. Dit gebruik ik zelf als ondersteuning bij het sporten en fit te blijven. Wat zou ik van vinden om deze gegevens te delen met een arts die mijn gezondheid dan continu kan bewaken? Sta ik de informatie af aan mijn zorgverzekeraar om mijn premie en risicotoeslag te bepalen? Wat doe ik als mijn zieke moeder wordt ontslagen uit het ziekenhuis en haar toestand voortaan op afstand wordt bewaakt op basis van een slimme pleister die vitale functies kan meten? Door voortschrijdende technologische ontwikkelingen worden we steeds meer voor ethische afwegingen geplaatst. Op basis van de informatiesporen die wij achter laten en alom aanwezige camera’s worden wij bespied en op basis van slimme algoritmen gemanipuleerd zonder dat in de gaten te hebben. Zonder dat we het door hebben worden taken van mensen overgenomen door robots. We bellen naar de helpdesk en worden geholpen door een robot. Een rechterlijke uitspraak of beoordeling van onze sollicitatiebrief wordt achter de schermen door een robot afgehandeld. Moeten we dan ook verhaal halen bij de robot als we het er niet mee eens zijn? Aan de andere kant kunnen de robots ook veel gemak geven, bijvoorbeeld voor uitvoering van zorgtaken of zelfrijdende auto. Dan vertrouwen we op de juiste beslissingen van de robot. Als de auto moet kiezen tussen fatale botsing tegen betonblok of doodrijden van overstekende mensen, welke keuze moet de auto dan van jou maken? Waar ligt de grens? Welke afweging maak je tussen bijvoorbeeld veiligheid en privacy of terrorismebestrijding en digitale veiligheid? Wat vind je nog ethisch verantwoord?

De voortschrijding van de technologie brengt een aantal van dit soort ethische dillema’s met zich mee. Trek je ergens een grens of accepteer je digitalisering als een soort natuurverschijnsel waarop je geen invloed hebt? Waar trek jij de grens? Is het ‘Computer Says No!’, of zeg je ‘Ho!’?

Op basis van deze test meet je jouw houding ten opzichte van enkele dilemma’s.

Overige publicaties over ethische dilemma’s en technologie
eHaelth Continue gezondheidsmonitor
Overheidsregistraties Een systeem leeft niet
Gezichtsherkenning Orwells 1984 nabij
Ongewenste reclame Nationale Postspam Loterij
Smart Cities Nudge de overheid
Veiligheidsdiensten Behoorlijk goede privacy
Werving en selectie Afgewezen door een robot
eCourt Transparante robotadviseur
Chatbot In gesprek met een robot
Zelfrijdende auto Robot neemt het stuur over
Killer robots Robots nemen de wereld over

 

Transparante robotadviseur

Zelfdenkende robots moeten de mensheid een flinke stap voorwaarts brengen. We worden er nu al mee geconfronteerd. De spraak assistent van onze mobiel is daar een goed voorbeeld van. Via stemcommando’s kunnen wij onze smartphone allerlei taken laten uitvoeren. Robots kunnen veel taken van de mens overnemen (zoals het besturen van onze auto) en beïnvloeden ons gedrag zonder dat wij ons daar bewust van zijn.

Robots kunnen reageren op het gedrag van mensen op basis van de digitale sporen die wij achter laten. Via ons online klikgedrag, sociale media, smartphone, activiteiten trackers en apparaten met sensoren produceren wij een grote hoeveelheid data in verschillende verschijningsvormen. Met machine learning kunnen computermodellen op basis van zelflerende algoritmes steeds beter onze persoonlijkheid voorspellen. Dat kan zelfs op basis van simpele Facebook likes. Vanaf 70 likes kent Facebook je beter dan je vrienden.

Drie onderzoekers in de Verenigde Staten ontwikkelden een algoritme waarmee iemands persoonlijkheid kan worden voorspeld op basis van Facebook likes of Twitter berichten. Het algoritme voorspelt de scores op basis van de Meyers-Briggs Type Indicator (MBTI) en de Big Five persoonlijkheidstheorie. Deze Big Five theorie beschrijft iemands persoonlijkheid in de volgende dimensies: extraversie, vriendelijkheid, emotionele stabiliteit, ordelijkheid en openheid. Per dimensie kun je hoog, laag of ergens daar tussenin scoren. Een gedetailleerd overzicht van jouw persoonlijkheid kun je op basis van Facebook of Twitter likes en berichten laten voorspellen met deze Facebook and Twitter Prediction tool.

Ik testte de tool uit. Op basis van 3.232 twitterberichten kreeg ik binnen een paar seconden een uitgebreid rapport over mijn persoonlijkheid. De scores van de Big Five en MBTI zijn vrijwel identiek met de uitslagen van testen die ik bij psychologische testen op basis van vragenlijsten heb gedaan. Met het voorspellen van mijn geslacht heeft het computermodel meer moeite: ‘Your digital footprint is fairly androgynous; it suggests you’re probably Male but you don’t repress your feminine side’. Het voorspellen van mijn leeftijd blijkt ook een moeilijke opgave: ‘Your digital footprint suggests that your online behaviour resembles that of a 25-29 years old’. De modellen pretenderen niet de absolute waarheid te voorspellen; zij rapporteren met een zekere waarschijnlijkheid.

Zolang wij die analyses zelf onder ogen krijgen en kunnen relativeren is er niets aan de hand. Het wordt een ander verhaal als bedrijven en overheden er mee aan de haal gaan. Zo kondigde Facebook CEO Zuckerberg aan dat zijn bedrijf met behulp van Artificiële Intelligentie privéberichten gaat analyseren om terroristische activiteiten op te sporen. Ook denkt Facebook de helpende hand te kunnen bieden bij het voorkomen van zelfmoord onder tieners en bij het tegengaan van pesten op school. Dat klinkt allemaal heel idealistisch, maar inmiddels zijn de data die je via sociale media achterlaat verworden tot handelswaar die bedrijven in staat stelt op basis van persoonlijkheidsanalyse gerichte diensten aan te bieden. Overheden gebruiken persoonlijke data om fraude op te sporen en om misdrijven te voorkomen en op te lossen.

Dat wij niet blind kunnen vertrouwen op ‘zelflerende software’ leerde het experiment van Microsoft met Twitterbot Tay. De bot vergaloppeerde zich in de dialoog met Twittergebruikers en deed allerlei racistische uitspraken. Microsoft heeft daarna het Twitteraccount afgeschermd en de meeste tweets verwijderd. De complexe logica achter algoritmes is vaak nog een ‘black box’ die moeilijk kan worden verklaard. Dit moet veranderen als per 25 mei 2018 de Algemene Verordening Gegevensbescherming (AVG) in werking treedt. De AVG geeft mensen het recht om geïnformeerd te worden over de logica van een advies of besluit van een robot. Bedrijven en overheden moeten transparant worden en hun systemen aanpassen. Softwarebedrijf Pegasystems introduceerde dit jaar als eerste de T-Switch (T van Trust en Transparency) waarmee organisaties controle kunnen uitoefenen op de mate van transparantie van hun Artificiële Intelligentie.