Robots nemen de wereld niet over

Vind je het verantwoord als Defensie wapens inzet die zonder menselijke tussenkomst hun doelen selecteren? Nee, zegt 87 procent van de ondervraagden in een enquête van iBestuur. Dat is een duidelijke afkeuring van de wapenwedloop die nu gaande is. De Verenigde Staten is namelijk al vergevorderd met het ontwikkelen van wapens die zonder menselijke tussenkomst kunnen opstijgen, landen, doelen selecteren én vernietigen. De Amerikaanse ‘vliegende vleugel’ X-47B moet over twee jaar al paraat zijn voor gevechtsmissies. Het scenario in onderstaande film zou werkelijkheid kunnen worden als we autonome wapens toelaten in onze samenleving.

De ontwikkeling van ‘killer robots’ opent een doos van Pandora. Ruim honderd bedrijven wereldwijd op het terrein van robotica en kunstmatige intelligentie maken zich grote zorgen over de mogelijk catastrofale gevolgen als de ontwikkeling van dodelijke, autonome wapens wordt toegestaan. In een open brief roepen zij regeringsleiders op een internationaal verdrag te steunen dat dodelijke autonome wapens beperkt. Meer dan 20.000 mensen ondersteunen inmiddels de oproep tegen autonome wapens.

Technologie gebaseerd op artificiële intelligentie en robotisering gaat in toenemende mate ons leven beïnvloeden. Dit kan op goede manieren om ons leven makkelijker te maken. Het kan ook een bedreiging gaan vormen. De Netflix-serie ‘Black Mirror toont op surrealistische wijze enkele horrorscenario’s waarin technologische vooruitgang botst met onze menselijke gevoelens. Wat gebeurt er als we de technologie ons volledig gaat beheersen, maar erger nog: als we de  controle over onze slimme uitvindingen kwijtraken? Die ontwikkeling wordt al een eeuwenlang in sciencefictionfilms en -boeken aangekondigd.

Vijftig jaar geleden kwam de baanbrekende sciencefictionfilm 2001: A Space Odyssey uit. In de film gaan vijf reizigers op weg naar Jupiter. Hun ruimteschip wordt bestuurd door boordcomputer HAL die beschikt over menselijke intelligentie en spraakvermogen. De ruimtevaarders beschouwen de computer als zesde bemanningslid. HAL is als enige op de hoogte van het doel van de missie en grijpt tijdens de reis de macht. Uiteindelijk weet één van de bemanningsleden de computer te overwinnen door HAL’s geheugencentrum uit te schakelen.

Ook in het laatste boek van Dan Brown ‘De Oorsprong’ speelt een computer met menselijke eigenschappen de sleutelrol. De alwetende computerhulp luistert naar de naam Winston. Het is een verwijzing naar de geniale strateeg Winston Churchill. Waarschijnlijk verwijst de naam ook naar IBM’s supercomputer Watson. Winston bezit krachtige eigenschappen van een supercomputer en is gelijktijdig onmogelijk van een mens te onderscheiden. De computer is uitgerust met volledig geperfectioneerde kunstmatige intelligentie en slaagt ruimschoots voor de Turing-test. Winston handelt in ‘het belang’ van zijn opdrachtgever, voert zelfstandig taken uit en beslist over leven en dood. De afloop van het boek is voorspelbaar.

We leven in een tijd waarin sciencefiction werkelijkheid wordt. Robots gaan steeds meer taken van mensen overnemen. Dit past in de evolutie van gereedschappen die de mensheid heeft ontwikkeld vanaf het stenen tijdperk. Robots blijven hulpmiddelen en zullen altijd ondergeschikt blijven aan mensen. Het is ook evident dat een robot geen verantwoordelijkheid kan nemen. Dat kunnen alleen de mensen die robots ontwerpen, programmeren en gebruiken. Juridisch gezien is dat nog een complexe puzzel. Nieuwe internationale afspraken, regelgeving en toezicht blijven altijd noodzakelijk om het gebruik van technologische innovaties in goede banen te leiden.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

 

Afgewezen door een robot

Accepteer je een afwijzing van een sollicitatie op basis van een voorspellend algoritme? Nee, zegt 78 procent van de ondervraagden in een enquête van iBestuur. Werving en selectie van personeel was aanvankelijk hoofdzakelijk mensenwerk, maar nieuwe technologieën nemen veel taken over. Zo propageert internetbedrijf Google al sinds 2015 het wervings- en selectiebeleid primair te baseren op harde data, analytische tests en algoritmen.

Op termijn zal deze markt voor werving en selectie worden gedomineerd door internetplatforms, zoals LinkedIn en Facebook. Het proces tussen bedrijven en werkzoekenden wordt dan volledig geautomatiseerd. De platforms hebben nu al de vacature- en talentenmarkt, die voorheen was voorbehouden aan professionele recruiters, online toegankelijk gemaakt. Bedrijven worden daardoor overspoeld met sollicitaties. Met behulp van algoritmes kunnen platformbedrijven vervolgens ook de werving en selectie overnemen. Moeten we vrezen dat de personeelswervingsdienst in navolging van hotels en taxi’s ook wordt ‘geuberiseerd’? Dit staat en valt bij de betrouwbaarheid van de algoritmes en het vertrouwen dat bedrijven en werkzoekenden daarin hebben.

Een onderzoeker van Erasmus Universiteit ontwikkelde een algoritme om CV’s te selecteren op basis van big data. Hij analyseerde bijna een half miljoen CV’s van echte kandidaten en informatie over het verloop van hun sollicitaties. De software die hij ontwikkelde scande de CV’s op basis van een aantal variabelen in relatie tot het besluit over het wel of niet uitnodigen van de kandidaat voor een eerste gesprek. Met die kennis ontwikkelde hij een algoritme dat met een nauwkeurigheid van 80 procent kan voorspellen welke CV’s door recruiters zal worden geselecteerd. Die betrouwbaarheid kan nog verder worden verhoogd, maar het is de vraag of de kwaliteit en objectiviteit van de selectie daardoor toeneemt. Persoonlijke waardeoordelen zijn namelijk vervat in het algoritme.

Het Chinese bedrijf Seedlink presenteert een aanpak waardoor de selectie van kandidaten eerlijker moet verlopen zonder te kijken naar leeftijd, geslacht of achtergrond. Zij selecteren met een algoritme personeel voor multinationals. Op basis van kunstmatige intelligentie ontwikkelen zij drie dominante open vragen op basis van de competenties die het bedrijf van de nieuwe werknemer wenst, zoals probleemoplossend vermogen of creativiteit. Die vragen worden vervolgens door de medewerkers van het bedrijf beantwoord. Op basis van de antwoorden wordt een model gemaakt dat de verschillen tussen de beste en de minder goed presenterende werknemers weergeeft. Met behulp van een voorspellend algoritme komt het toptalent dan bovendrijven.

De CV’s en persoonlijk gesprekken verliezen aan belang bij werving van talent. Bedrijven willen uit een grote vijver van kandidaten kunnen vissen. Sommige bedrijven laten een grote groep kandidaten daarom eerst online assessments uitvoeren. Dat bespaart bedrijven, die voorheen honderden CV’s moesten scannen in hun zoektocht naar talent, veel tijd. De kandidaten doen nu thuis achter de PC online toetsen. De programma’s zijn zodanig ontwikkeld dat kandidaten zich niet beter kunnen voordoen zonder door de mand te vallen. De computer meet onder meer concentratie, intelligentie en risicogedrag. Een algoritme berekent daarna of een kandidaat geschikt is voor de functie. Een autoverkoper mag zich bijvoorbeeld risicovoller gedragen dan een boekhouder.

Een robot beslist uiteindelijk wie door mag naar de volgende ronde. Op basis van een algoritme wordt iedere aarzeling, woordkeuze of gezichtsuitdrukking meegewogen. De robot voorspelt of de kandidaat oprecht is en de waarheid spreekt. Op basis daarvan kunnen sollicitanten worden afgewezen als ze niet passen in het gewenste profiel. Ondanks uitgebreide rapportages met beoordeling per competentie hebben bedrijven het nodige uit te leggen als kandidaten afvallen op basis van een computertest. Algoritmes kunnen beter dan mensen voorspellen wie geschikt is voor een baan. Afwijzen blijft mensenwerk.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Robot neemt het stuur over

Stel, je rijdt over een bergpas en plotseling steken twee kinderen de weg over nét wanneer je de bocht om komt. In een flits moet je besluiten de kinderen aan te rijden (met mogelijk twee slachtoffers die het gevaar veroorzaakten) of jezelf in het ravijn te storten (met inzittenden als slachtoffer). Spaar je het leven van de kinderen of offer je jouw leven?

Dergelijke keuzes moeten wij in een split second nemen op basis van onze eigen waarneming en inschatting in de context van een specifieke situatie. Een zelfrijdende auto kan op basis van algoritmen betere keuzes maken. In milliseconden kunnen zo verschillende scenario’s worden doorgenomen, waarbij de situatie van meerdere auto’s kan worden meegenomen. Alleen moeten wij software dan wel zo programmeren dat de gewenste keuze wordt gemaakt bij ethische dilemma’s. Wat zijn die gewenste keuzes? Wij vroegen het in een enquête van iBestuur. Tweederde van de respondenten geeft aan zichzelf op te offeren als de keuze gemaakt moet worden tussen overstekende mensen op het zebrapad of het betonblok.

Onderzoekers van de Universiteit van Osnabrück deden een virtual reality-studie naar de keuzes die mensen maken bij dit soort verkeersdilemma’s. Deelnemers kregen een Oculus Rift-bril op en maakten in een virtuele realiteit keuzes bij verkeersscenario’s. De uitkomst van het onderzoek wees uit dat een mens meer waard is dan een dier. De hond heeft de hoogste waardering onder de dieren. Bij mensen worden mannen sneller geofferd dan vrouwen en ouderen eerder dan jongeren. Daarnaast heeft ook de reactiesnelheid invloed op de keuze. Is die tijd korter dan een seconde dan zijn bestuurder niet meer geneigd van baan te veranderen. Een meerderheid van de participanten kiest voor een altruïstische benadering gericht op het beperken van het aantal slachtoffers, ook als dit ten koste gaat van inzittenden in de eigen auto.

Vorig jaar kwamen 613 mensen om het leven in het verkeer (waaronder 201 automobilisten, 206 fietsers, 58 voetgangers, 51 motorrijders, 46 brom- en snorfietsers en 25 bestuurders van gemotoriseerde invalidevoertuigen). Door de komst van de zelfrijdende auto zal het autoverkeer bijna even veilig worden als het reizen met de trein. Op termijn komen er auto’s die onderling met elkaar in verbinding staan en als konvooien dicht op elkaar kunnen rijden. Vooralsnog moeten we het doen met adaptieve cruise control die de snelheid bepaalt op basis van de afstand tot de voorganger. In een volgend level kunnen auto’s zelfstandig de rijbaan volgen en automatisch afremmen voor voetgangers. De nieuwe Audi A8 behoort tot level 3 en kan onder bepaalde omstandigheden volledig automatisch rijden.

Vanaf level 4 rijdt de auto volledig zelfstandig. Eerst nog in een afgeschermd gebied en vaste routes, bijvoorbeeld voor robottaxi’s waar volop mee wordt geëxperimenteerd. Vanaf level 5 is de auto volledig de baas en beslist in noodsituaties over leven of dood. Bij simulaties gaven deelnemers aan voorstander te zijn van het opofferen van passagiers als er daardoor minder slachtoffers vallen. Tenminste, behalve als zij zelf de bestuurder zijn. Is dat wel het geval, dan wint egoïsme het wellicht toch van altruïsme. Met een robot aan het stuur hebben we daar in ieder geval geen last van.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Computer Says No

In veel grote organisaties regeert de computer. Het zijn telecomaanbieders, verzekeraars en overheden die hun medewerkers slaafs taken met behulp van de computer laat uitvoeren. Meedenken met de klant is niet nodig, want de computer heeft altijd gelijk. De Britse comedy serie Little Britain steekt daarmee de draak. Een moeder meldt zich met haar dochtertje bij de balie van het ziekenhuis voor het verwijderen van de amandelen bij het meisje. De receptioniste kijkt op haar scherm en zegt: ‘Computer Says No’. Het meisje staat in het systeem ingeboekt voor een dubbele heupoperatie. ‘Wil je die?’ vraagt de receptioniste. Natuurlijk wil ze die niet, maar de amandeloperatie zit er niet in: ‘Computer Says No’.

Door voortschrijding van de technologie gaat de receptioniste achter een beeldscherm snel verdwijnen. Balie- en helpdeskmedewerkers maken op termijn plaats voor een virtuele assistent voor klantenondersteuning. Die werkt 24 uur per dag en kan oneindig veel klanten tegelijk helpen. Dankzij kunstmatige intelligentie gedraagt de virtuele assistent zich steeds menselijker, toont inlevingsvermogen en denkt met de klant mee. Het Amerikaanse bedrijf IPSoft gaf haar virtuele assistent ‘Amalia’ een menselijk gezicht. De digitale wereld verovert steeds meer terrein op de fysieke wereld. Zelf zijn we met onze smartphones en waerables ook continu aangesloten op die digitale wereld.

Mijn sporthorloge meet 24 uur per dag mijn hartslag en activiteit. Dit gebruik ik zelf als ondersteuning bij het sporten en fit te blijven. Wat zou ik van vinden om deze gegevens te delen met een arts die mijn gezondheid dan continu kan bewaken? Sta ik de informatie af aan mijn zorgverzekeraar om mijn premie en risicotoeslag te bepalen? Wat doe ik als mijn zieke moeder wordt ontslagen uit het ziekenhuis en haar toestand voortaan op afstand wordt bewaakt op basis van een slimme pleister die vitale functies kan meten? Door voortschrijdende technologische ontwikkelingen worden we steeds meer voor ethische afwegingen geplaatst. Op basis van de informatiesporen die wij achter laten en alom aanwezige camera’s worden wij bespied en op basis van slimme algoritmen gemanipuleerd zonder dat in de gaten te hebben. Zonder dat we het door hebben worden taken van mensen overgenomen door robots. We bellen naar de helpdesk en worden geholpen door een robot. Een rechterlijke uitspraak of beoordeling van onze sollicitatiebrief wordt achter de schermen door een robot afgehandeld. Moeten we dan ook verhaal halen bij de robot als we het er niet mee eens zijn? Aan de andere kant kunnen de robots ook veel gemak geven, bijvoorbeeld voor uitvoering van zorgtaken of zelfrijdende auto. Dan vertrouwen we op de juiste beslissingen van de robot. Als de auto moet kiezen tussen fatale botsing tegen betonblok of doodrijden van overstekende mensen, welke keuze moet de auto dan van jou maken? Waar ligt de grens? Welke afweging maak je tussen bijvoorbeeld veiligheid en privacy of terrorismebestrijding en digitale veiligheid? Wat vind je nog ethisch verantwoord?

De voortschrijding van de technologie brengt een aantal van dit soort ethische dilemma’s met zich mee. Trek je ergens een grens of accepteer je digitalisering als een soort natuurverschijnsel waarop je geen invloed hebt? Waar trek jij de grens? Is het ‘Computer Says No!’, of zeg je ‘Ho!’?

Op basis van deze test meet je jouw houding ten opzichte van enkele dilemma’s.

Overige publicaties over ethische dilemma’s en technologie
eHaelth Continue gezondheidsmonitor
Overheidsregistraties Een systeem leeft niet
Gezichtsherkenning Orwells 1984 nabij
Ongewenste reclame Nationale Postspam Loterij
Persoonlijke informatie Privacy inleveren voor korting
Digitaal bespieden Digitale pottenkijkers
Smart Cities Nudge de overheid
Veiligheidsdiensten Behoorlijk goede privacy
Werving en selectie Afgewezen door een robot
Zorgrobot Robothanden aan het bed
eCourt Transparante robotadviseur
Chatbot In gesprek met een robot
Zelfrijdende auto Robot neemt het stuur over
Killer robots Robots nemen de wereld niet over
Enquête ethische dilemma’s Geen overheidsbesluit gebaseerd op foute registratie

Orwells 1984 nabij

Systemen die onze gezichten herkennen, dat was tot voor kort ondenkbaar. Sinds de komst van deep learning algoritmen kunnen computers gezichten soms al beter herkennen dan mensen dat kunnen. Gezichtsherkenningstechnologie biedt allerlei praktische nieuwe toepassingen. We kunnen ons in de toekomst identificeren met ons gezicht en daardoor afscheid nemen van vele irritante wachtwoorden en pincodes. Het roept ook vragen op ten aanzien van onze privacy, omdat wij voortaan overal gevolgd kunnen worden.

De artificiële intelligentie voor gezichtsherkenning is afgelopen jaren steeds verder geperfectioneerd op basis van patroonherkenning van miljarden foto’s die op het web aanwezig zijn. Facebook is de absolute uitblinker in het herkennen van gezichten. Het bedrijf beschikt over een database met 1,4 miljard gescande gezichten, gekoppeld aan hun werkelijke identiteit. Facebook zegt de identiteit van personen op basis van foto’s in 97 procent van de gevallen correct te kunnen voorspellen. Op basis van hun zogenaamde Deepface technologie claimt Facebook zelfs mensen te kunnen herkennen zonder dat hun gezicht op de foto staat.

Artificiële intelligentie is tot veel meer in staat dan het vaststellen van de juiste identiteit. Op basis een foto kan zelfs redelijk nauwkeurig de seksuele geaardheid worden ingeschat. Het aflezen van emoties op basis van gelaatsuitdrukking op een foto behoort al langer tot de mogelijkheden. Op basis van camerabeelden kunnen gedragingen van voorbijgangers tot in het kleinste  detail worden geanalyseerd. Tegen die achtergrond is het opmerkelijk dat Facebook foto’s beschouwt als publiekelijk beschikbare informatie die niet onder de privacy settings valt. Een onderzoek van Radar wees uit dat 61,1% van de ondervraagden gezichtsherkenning van sociale media niet op prijs stelt. Die meerderheid zou de daad bij het woord kunnen voegen door het aanpassen van hun privacy settings of het verwijderen van hun account.

De politie zet met succes gezichtsherkenning in voor het opsporen van verdachten. Informatie van beveiligingscamera’s, mobiele telefoons, pinautomaten en sociale media wordt gekoppeld aan een strafrechtdatabase met gezichten van personen die ooit een strafbaar feit hebben gepleegd. Vorig jaar heeft de politie bijna honderd verdachten geïdentificeerd met nieuwe gezichtsherkenningssoftware. Op termijn wil de politie met real-time gezichtsherkenning gaan werken. Daardoor kan een voortvluchtige terrorist makkelijker worden opgespoord. Real-time gezichtsherkenning opent ook de weg naar de mogelijkheid om mensen die bijvoorbeeld nog een boete hebben uitstaan automatisch te herkennen in de openbare ruimte.

In China is dat al lang geen toekomstmuziek meer. Ruben Terlou laat in de serie ‘door het hart van China’ zien hoe in miljoenenstad Shenzhen gezichtsherkenning wordt toegepast voor signalering van voetgangers die door rood lopen. Als ze door rood lopen dan worden ze geflitst. Worden ze vijf keer geflitst dan wordt hun identiteit opgezocht in de bevolkingsdatabase en komen ze op een zwarte lijst. Als ze een huis of een auto willen kopen krijgen ze geen lening meer. Dat is onderdeel van het plan van president Xi Jinping dat voorziet in een sociaal kredietsysteem voor iedere burger in China. In de plannen van de partij gaat het er niet alleen om of je door rood loopt. Ook het online gedrag telt mee: wat je op internet of in e-mails zegt en wat je leest of kijkt. Je betaalgedrag, waar je bent, wanneer en met wie. Alles wordt geregistreerd en opgeslagen door de staat. Met een slechte score kom je op een zwarte lijst en dan kun je het helemaal vergeten in China. Ruben Terlou ontlokt een Chinees politicus de uitspraak dat Orwells 1984 nabij is.

Continue gezondheidsmonitor

Er kleven ethische dilemma’s aan nieuwe innovatieve technologische ontwikkelingen in de gezondheidszorg. Inmiddels kunnen we 7 x 24 uur vitale functies van de mens meten. Mooi in theorie, maar kunnen patiënten en verpleegkundigen in de praktijk vertrouwen op sensoren die continu de toestand van een mens kunnen meten en rapporteren?

Verplaats je in het volgende toekomstscenario van patiënt Jan. Hij is een ICT’er  van middelbare leeftijd, gewend aan het werken onder grote prestatiedruk. Hij is topfit en kerngezond, maar heeft structureel een verhoogde bloeddruk. Omdat dit een risicofactor is voor hart- en vaatziekten heeft de huisarts Jan uit voorzorg continue gezondheidsmonitoring voorgeschreven. Dit belemmert hem niet om fanatiek te sporten. Als Jan op zijn racefiets door de duinen raast voelt hij zich vrij en gelukkig. Zo ook op die zonnige ochtend in mei, maar het fietsen gaat nu minder soepel dan gewoonlijk. Bovenop de duin valt hij bijna stil. Hij schakelt een tandje terug en grijpt naar zijn achterzak voor een hap van een krachtreep. Het is een kwestie van door de vermoeidheid heen trappen, denkt hij nog, totdat zijn smartphone het alarmsignaal geeft. Hij stapt af, valt en verliest zijn bewustzijn. Kort daarop ontvangt Ruud een reanimatie oproep op zijn mobiel. Hij is als vrijwilliger aangesloten bij hartveilig wonen en oefent jaarlijks de reanimatieprocedure. Ruud stapt van zijn fiets en ziet in het sms-bericht dat hij niet ver van het incident vandaan is. Hij bevestigt zijn vertrek naar het slachtoffer. Google maps navigeert hem daar binnen één minuut naar toe. Ruud ziet Jan liggen, legt hem in een veilige positie, controleert de ademhaling en start reanimatie. Even later arriveert een andere opgeroepen vrijwilliger met een AED. Zij volgen samen de instructies van de alarmcentrale via hun mobiel en bedienen de AED. Binnen vijf minuten arriveert een ambulance. Verplegers nemen de zorg voor Jan over. Voordat hij bij het ziekenhuis arriveert is hij weer bij kennis. Door snelle en automatische melding van de gezondheidstoestand en mobilisatie van hulpverleners is Jan’s leven gered.

Tot zover de happy flow. Dit toekomstscenario is nu al grotendeels technisch te realiseren. De inzet van vrijwilligers die via hun mobiel oproepbaar zijn voor reanimatie werkt al in veel plaatsen in het land. Het is alleen nog een kwestie van opschaling, training van vrijwilligers en plaatsen van meer AED’s. Slimme horloges en smartphones meten al continu lichaamsfuncties. De wearables zijn ook in de gezondheidszorg in opkomst en kunnen binnenkort veel bewaking, die nu standaard in een ziekenhuis gebeurt, overnemen.  Slimme pleisters kunnen al enkele dagen continu vitale waarden meten. Een onderhuidse sensor kan tot 90 dagen achtereen glucosewaarden meten. Het wachten is nu op een sensor die continu en langdurig alle vitale lichaamsfuncties kan monitoren.

Techbedrijven, zoals Philips en KPN, zetten vol in op het medische domein. Het is voor hen een belangrijke groeimarkt. Platformbedrijven zoals Google, Amazon en Apple beschikken straks over veel medische informatie. Data zijn onderdeel van hun verdienmodel. Het gevaar dreigt dat de gezondheidszorg wordt overspoeld door technologische ontwikkelingen.

Er blijven nog veel vragen onbeantwoord over de meetbare mens. Hoe betrouwbaar zijn de data? Wie heeft de controle? Waarvoor wordt de data gebruikt? Komen de gegevens enkel de patiënt ten goede of kunnen ze ook worden gebruikt voor profiling (bijv. door verzekeraars)? Moeten we privacy inruilen voor proactieve zorg op basis van 7 x 24 uurs monitoring? Als wij door inzet van technologie levens willen redden, dan moeten we antwoord hebben op deze vragen en obstakels wegnemen.

Transparante robotadviseur

Zelfdenkende robots moeten de mensheid een flinke stap voorwaarts brengen. We worden er nu al mee geconfronteerd. De spraak assistent van onze mobiel is daar een goed voorbeeld van. Via stemcommando’s kunnen wij onze smartphone allerlei taken laten uitvoeren. Robots kunnen veel taken van de mens overnemen (zoals het besturen van onze auto) en beïnvloeden ons gedrag zonder dat wij ons daar bewust van zijn.

Robots kunnen reageren op het gedrag van mensen op basis van de digitale sporen die wij achter laten. Via ons online klikgedrag, sociale media, smartphone, activiteiten trackers en apparaten met sensoren produceren wij een grote hoeveelheid data in verschillende verschijningsvormen. Met machine learning kunnen computermodellen op basis van zelflerende algoritmes steeds beter onze persoonlijkheid voorspellen. Dat kan zelfs op basis van simpele Facebook likes. Vanaf 70 likes kent Facebook je beter dan je vrienden.

Drie onderzoekers in de Verenigde Staten ontwikkelden een algoritme waarmee iemands persoonlijkheid kan worden voorspeld op basis van Facebook likes of Twitter berichten. Het algoritme voorspelt de scores op basis van de Meyers-Briggs Type Indicator (MBTI) en de Big Five persoonlijkheidstheorie. Deze Big Five theorie beschrijft iemands persoonlijkheid in de volgende dimensies: extraversie, vriendelijkheid, emotionele stabiliteit, ordelijkheid en openheid. Per dimensie kun je hoog, laag of ergens daar tussenin scoren. Een gedetailleerd overzicht van jouw persoonlijkheid kun je op basis van Facebook of Twitter likes en berichten laten voorspellen met deze Facebook and Twitter Prediction tool.

Ik testte de tool uit. Op basis van 3.232 twitterberichten kreeg ik binnen een paar seconden een uitgebreid rapport over mijn persoonlijkheid. De scores van de Big Five en MBTI zijn vrijwel identiek met de uitslagen van testen die ik bij psychologische testen op basis van vragenlijsten heb gedaan. Met het voorspellen van mijn geslacht heeft het computermodel meer moeite: ‘Your digital footprint is fairly androgynous; it suggests you’re probably Male but you don’t repress your feminine side’. Het voorspellen van mijn leeftijd blijkt ook een moeilijke opgave: ‘Your digital footprint suggests that your online behaviour resembles that of a 25-29 years old’. De modellen pretenderen niet de absolute waarheid te voorspellen; zij rapporteren met een zekere waarschijnlijkheid.

Zolang wij die analyses zelf onder ogen krijgen en kunnen relativeren is er niets aan de hand. Het wordt een ander verhaal als bedrijven en overheden er mee aan de haal gaan. Zo kondigde Facebook CEO Zuckerberg aan dat zijn bedrijf met behulp van Artificiële Intelligentie privéberichten gaat analyseren om terroristische activiteiten op te sporen. Ook denkt Facebook de helpende hand te kunnen bieden bij het voorkomen van zelfmoord onder tieners en bij het tegengaan van pesten op school. Dat klinkt allemaal heel idealistisch, maar inmiddels zijn de data die je via sociale media achterlaat verworden tot handelswaar die bedrijven in staat stelt op basis van persoonlijkheidsanalyse gerichte diensten aan te bieden. Overheden gebruiken persoonlijke data om fraude op te sporen en om misdrijven te voorkomen en op te lossen.

Dat wij niet blind kunnen vertrouwen op ‘zelflerende software’ leerde het experiment van Microsoft met Twitterbot Tay. De bot vergaloppeerde zich in de dialoog met Twittergebruikers en deed allerlei racistische uitspraken. Microsoft heeft daarna het Twitteraccount afgeschermd en de meeste tweets verwijderd. De complexe logica achter algoritmes is vaak nog een ‘black box’ die moeilijk kan worden verklaard. Dit moet veranderen als per 25 mei 2018 de Algemene Verordening Gegevensbescherming (AVG) in werking treedt. De AVG geeft mensen het recht om geïnformeerd te worden over de logica van een advies of besluit van een robot. Bedrijven en overheden moeten transparant worden en hun systemen aanpassen. Softwarebedrijf Pegasystems introduceerde dit jaar als eerste de T-Switch (T van Trust en Transparency) waarmee organisaties controle kunnen uitoefenen op de mate van transparantie van hun Artificiële Intelligentie.