Orwells 1984 nabij

Systemen die onze gezichten herkennen, dat was tot voor kort ondenkbaar. Sinds de komst van deep learning algoritmen kunnen computers gezichten soms al beter herkennen dan mensen dat kunnen. Gezichtsherkenningstechnologie biedt allerlei praktische nieuwe toepassingen. We kunnen ons in de toekomst identificeren met ons gezicht en daardoor afscheid nemen van vele irritante wachtwoorden en pincodes. Het roept ook vragen op ten aanzien van onze privacy, omdat wij voortaan overal gevolgd kunnen worden.

De artificiële intelligentie voor gezichtsherkenning is afgelopen jaren steeds verder geperfectioneerd op basis van patroonherkenning van miljarden foto’s die op het web aanwezig zijn. Facebook is de absolute uitblinker in het herkennen van gezichten. Het bedrijf beschikt over een database met 1,4 miljard gescande gezichten, gekoppeld aan hun werkelijke identiteit. Facebook zegt de identiteit van personen op basis van foto’s in 97 procent van de gevallen correct te kunnen voorspellen. Op basis van hun zogenaamde Deepface technologie claimt Facebook zelfs mensen te kunnen herkennen zonder dat hun gezicht op de foto staat.

Artificiële intelligentie is tot veel meer in staat dan het vaststellen van de juiste identiteit. Op basis een foto kan zelfs redelijk nauwkeurig de seksuele geaardheid worden ingeschat. Het aflezen van emoties op basis van gelaatsuitdrukking op een foto behoort al langer tot de mogelijkheden. Op basis van camerabeelden kunnen gedragingen van voorbijgangers tot in het kleinste  detail worden geanalyseerd. Tegen die achtergrond is het opmerkelijk dat Facebook foto’s beschouwt als publiekelijk beschikbare informatie die niet onder de privacy settings valt. Een onderzoek van Radar wees uit dat 61,1% van de ondervraagden gezichtsherkenning van sociale media niet op prijs stelt. Die meerderheid zou de daad bij het woord kunnen voegen door het aanpassen van hun privacy settings of het verwijderen van hun account.

De politie zet met succes gezichtsherkenning in voor het opsporen van verdachten. Informatie van beveiligingscamera’s, mobiele telefoons, pinautomaten en sociale media wordt gekoppeld aan een strafrechtdatabase met gezichten van personen die ooit een strafbaar feit hebben gepleegd. Vorig jaar heeft de politie bijna honderd verdachten geïdentificeerd met nieuwe gezichtsherkenningssoftware. Op termijn wil de politie met real-time gezichtsherkenning gaan werken. Daardoor kan een voortvluchtige terrorist makkelijker worden opgespoord. Real-time gezichtsherkenning opent ook de weg naar de mogelijkheid om mensen die bijvoorbeeld nog een boete hebben uitstaan automatisch te herkennen in de openbare ruimte.

In China is dat al lang geen toekomstmuziek meer. Ruben Terlou laat in de serie ‘door het hart van China’ zien hoe in miljoenenstad Shenzhen gezichtsherkenning wordt toegepast voor signalering van voetgangers die door rood lopen. Als ze door rood lopen dan worden ze geflitst. Worden ze vijf keer geflitst dan wordt hun identiteit opgezocht in de bevolkingsdatabase en komen ze op een zwarte lijst. Als ze een huis of een auto willen kopen krijgen ze geen lening meer. Dat is onderdeel van het plan van president Xi Jinping dat voorziet in een sociaal kredietsysteem voor iedere burger in China. In de plannen van de partij gaat het er niet alleen om of je door rood loopt. Ook het online gedrag telt mee: wat je op internet of in e-mails zegt en wat je leest of kijkt. Je betaalgedrag, waar je bent, wanneer en met wie. Alles wordt geregistreerd en opgeslagen door de staat. Met een slechte score kom je op een zwarte lijst en dan kun je het helemaal vergeten in China. Ruben Terlou ontlokt een Chinees politicus de uitspraak dat Orwells 1984 nabij is.

Transparante robotadviseur

Zelfdenkende robots moeten de mensheid een flinke stap voorwaarts brengen. We worden er nu al mee geconfronteerd. De spraak assistent van onze mobiel is daar een goed voorbeeld van. Via stemcommando’s kunnen wij onze smartphone allerlei taken laten uitvoeren. Robots kunnen veel taken van de mens overnemen (zoals het besturen van onze auto) en beïnvloeden ons gedrag zonder dat wij ons daar bewust van zijn.

Robots kunnen reageren op het gedrag van mensen op basis van de digitale sporen die wij achter laten. Via ons online klikgedrag, sociale media, smartphone, activiteiten trackers en apparaten met sensoren produceren wij een grote hoeveelheid data in verschillende verschijningsvormen. Met machine learning kunnen computermodellen op basis van zelflerende algoritmes steeds beter onze persoonlijkheid voorspellen. Dat kan zelfs op basis van simpele Facebook likes. Vanaf 70 likes kent Facebook je beter dan je vrienden.

Drie onderzoekers in de Verenigde Staten ontwikkelden een algoritme waarmee iemands persoonlijkheid kan worden voorspeld op basis van Facebook likes of Twitter berichten. Het algoritme voorspelt de scores op basis van de Meyers-Briggs Type Indicator (MBTI) en de Big Five persoonlijkheidstheorie. Deze Big Five theorie beschrijft iemands persoonlijkheid in de volgende dimensies: extraversie, vriendelijkheid, emotionele stabiliteit, ordelijkheid en openheid. Per dimensie kun je hoog, laag of ergens daar tussenin scoren. Een gedetailleerd overzicht van jouw persoonlijkheid kun je op basis van Facebook of Twitter likes en berichten laten voorspellen met deze Facebook and Twitter Prediction tool.

Ik testte de tool uit. Op basis van 3.232 twitterberichten kreeg ik binnen een paar seconden een uitgebreid rapport over mijn persoonlijkheid. De scores van de Big Five en MBTI zijn vrijwel identiek met de uitslagen van testen die ik bij psychologische testen op basis van vragenlijsten heb gedaan. Met het voorspellen van mijn geslacht heeft het computermodel meer moeite: ‘Your digital footprint is fairly androgynous; it suggests you’re probably Male but you don’t repress your feminine side’. Het voorspellen van mijn leeftijd blijkt ook een moeilijke opgave: ‘Your digital footprint suggests that your online behaviour resembles that of a 25-29 years old’. De modellen pretenderen niet de absolute waarheid te voorspellen; zij rapporteren met een zekere waarschijnlijkheid.

Zolang wij die analyses zelf onder ogen krijgen en kunnen relativeren is er niets aan de hand. Het wordt een ander verhaal als bedrijven en overheden er mee aan de haal gaan. Zo kondigde Facebook CEO Zuckerberg aan dat zijn bedrijf met behulp van Artificiële Intelligentie privéberichten gaat analyseren om terroristische activiteiten op te sporen. Ook denkt Facebook de helpende hand te kunnen bieden bij het voorkomen van zelfmoord onder tieners en bij het tegengaan van pesten op school. Dat klinkt allemaal heel idealistisch, maar inmiddels zijn de data die je via sociale media achterlaat verworden tot handelswaar die bedrijven in staat stelt op basis van persoonlijkheidsanalyse gerichte diensten aan te bieden. Overheden gebruiken persoonlijke data om fraude op te sporen en om misdrijven te voorkomen en op te lossen.

Dat wij niet blind kunnen vertrouwen op ‘zelflerende software’ leerde het experiment van Microsoft met Twitterbot Tay. De bot vergaloppeerde zich in de dialoog met Twittergebruikers en deed allerlei racistische uitspraken. Microsoft heeft daarna het Twitteraccount afgeschermd en de meeste tweets verwijderd. De complexe logica achter algoritmes is vaak nog een ‘black box’ die moeilijk kan worden verklaard. Dit moet veranderen als per 25 mei 2018 de Algemene Verordening Gegevensbescherming (AVG) in werking treedt. De AVG geeft mensen het recht om geïnformeerd te worden over de logica van een advies of besluit van een robot. Bedrijven en overheden moeten transparant worden en hun systemen aanpassen. Softwarebedrijf Pegasystems introduceerde dit jaar als eerste de T-Switch (T van Trust en Transparency) waarmee organisaties controle kunnen uitoefenen op de mate van transparantie van hun Artificiële Intelligentie.

Je bent wat je tweet

Like

Bijna zeventig procent van alle consumenten in Nederland maakt inmiddels gebruik van een smartphone. Door de mobiele telefoon zijn wij altijd online en verslaafd aan sociale media. En die nieuwe media maken ons steeds improductiever, dommer en asocialer. Dit betogen de auteurs van de ‘Zwarte kant van sociale media’. Zij waarschuwen alle homines digitalis mobilis voor de gevaren van sociale media: “Wie verslaafd is geraakt aan digitale snacks moet op dieet.”

Onheilsprofeten

De Zwarte kant van sociale media lijkt op een goed getimede publiciteitsstunt. De nrc portretteerde jongeren die hun verslaving hebben overwonnen. Zij hadden afscheid genomen van hun Facebook account. “Het is niet Facebook maar Fakebook. Als ik 24 uur per dag het mooiste kind had, een heleboel geld en de allerleukste man, dan zou Facebook geweldig zijn.” meldt een ex-gebruiker met haar duim naar beneden. Dat maakte mij nieuwsgierig of de profeten van de onheilstijding zelf ook al zijn afgekickt. ‘Tijd voor een biertje’ (met foto van flesje pils en bakje olijven) en ‘Ga nu aan de gegratineerde oesters…’ (met foto van oesters in een ovenschaal) zijn tweets van één van de auteurs. De profeten kunnen de verleiding van digitale snacks dus zelf niet weerstaan en zondigen tegen hun eigen boodschap.

Gadget Freak

Het doemdenken over nieuwe media is van alle tijden. In ons ouderlijk huis was geen plaats voor een televisie. Mijn vader vond een TV in huis geestdodend en een aanslag op ons familieleven. In de woonkamer werd alleen klassieke muziek gedraaid, boeken en kranten gelezen en scrabble gespeeld. En zo ben ik opgegroeid zonder Pipo de Clown, Ja Zuster Nee Zuster, Thunderbirds en Swiebertje. Maar die achterstand heb ik snel ingelopen. Uit nijd om wat mij tijdens mijn jeugd is onthouden, kocht ik als één van de eersten een PC, een smartphone en een tablet. Ik wil er meteen bij zijn als er nieuwe gadgets of media worden gelanceerd. Maar daarin word ik de laatste jaren overtroffen door mijn zoon die productaankondigingen op de voet volgt via livestreams.

Interactie en Co-creatie

Mijn honger naar nieuwe technologie is niet alleen ingegeven uit materialisme. Ik ben gefascineerd door de paradigmaverschuiving die sociale media veroorzaken. Het initiatief verschuift naar consumenten en burgers. In tegenstelling tot de traditionele media komt de interactie tot stand zonder redactionele regie. Met vakgenoten deel en bediscussieer ik weblogs over overheid en technologie. Met teamgenoten over de hele wereld wisselen wij onze sporttrainingen en trainingstips uit. Voor advies stel ik een vraag of beantwoord #dtv via mijn twitteraccount. Of ik draag mijn kennis bij aan Wikipedia. Het draait allemaal om het combineren van kennis en het uitwisselen ervan. Delen is het nieuwe vermenigvuldigen.

Schuivende mediaverhoudingen

De nieuwe media hebben de traditionele media niet verdrongen. Maar we zijn wel minder TV gaan kijken en kijken nu ook naar streaming diensten zoals Netflix en uitgesteld via uitzending gemist. Of we delen zelfgemaakte content met tekst, beeld en geluid. Maar ook binnen de sociale media verschuiven de verhoudingen. Sommige berichten deel je publiek. Maar we zullen steeds meer in een besloten kring gaan delen. Meldingen over biertjes en oesters kun je natuurlijk beter via een gesloten Whatsapp vriendengroep delen. Maar iedereen moet zelf de eigen grenzen bepalen. Het sociale netwerk werkt daarbij corrigerend. Sociale media bieden unieke mogelijkheden voor persoonlijke onderscheiding of personal branding: je bent wat je tweet.