Washington – juni 2018

Leading by example

Minister President Rutte laat zijn kartonnen bekertje met koffie vallen bij het passeren van de toegangspoortjes van de Tweede Kamer en dweilt de gemorste koffie daarna keurig op. Het filmpje van dit voorval gaat viral op Facebook en YouTube. Buitenlandse nieuwszenders besteden er aandacht aan. De Washington Post  noemt Rutte een ‘symbol of etiquette’.

Rutte ruimde zijn eigen rommel op. Het is een kwestie van fatsoen die ons van jongs af aan is bijgebracht. Waarom oogstte deze poetsactie dan alom bewondering en verbazing? Wellicht omdat velen tegenovergestelde eigenschappen verwachten van leiders en hen associëren met agressieve zeemeeuwen. Ze komen krijsend aangevlogen, schijten de hele boel onder en vliegen daarna weer verder met een vette vis in de snavel. Het zijn de leiders die weinig oog hebben voor de mensen en vooral uit zijn op eigenbelang, hun eigen bonus of herverkiezing.

De leiderschapsstijl van Rutte staat daarmee in schril contrast. Hij is altijd opgewekt, attent en vriendelijk tegen iedereen en hij geeft het goede voorbeeld. Die vorm van leiderschap ‘leading by example’ maakt de leider geliefd en is bovendien bijzonder effectief. Dat is goed zichtbaar bij baby’s die hun ouders nadoen en met hun na-apen worden beloond met een glimlach van de ouder. Wij realiseren ons dan dat belonen het effectiefste middel is om gedrag te veranderen. Het is veel effectiever dan louter straffen. Dat geldt overigens ook aansturing van werknemers of handhaving van regels door de overheid.

Leiders overtuigen door zelf het goede voorbeeld te geven: ‘practice what you preach’. Zij winnen vertrouwen door goed voorbeeldgedrag. Omgekeerd verliezen zij hun geloofwaardigheid als ze het eigenbelang laten prevaleren boven het algemeen belang en strijdig met hun eigen boodschap handelen. Dat geldt bijvoorbeeld voor ouders bij de opvoeding, bestuurders en overheid bij handhaving. Ouders die zelf roken kunnen hun kinderen niet overtuigend wijzen op de gezondheidsrisico’s. Bestuurders die medewerkers om loonoffer moeten vragen hebben een probleem als zij zichzelf wel verrijken. Dat geldt bijvoorbeeld ook voor de overheid die van organisaties verlangt te voldoen aan de nieuwe privacywet, maar daar zelf nog niet klaar voor is.

‘Leading by example’ is de eeuwenoude weg om echt impact te maken. Jezus deed dat door naar deze aarde te komen en uiteindelijk te sterven. Hij heeft zijn grootheid opgegeven door de gestalte van een slaaf te aanvaarden en aan mensen gelijk te worden. Mensen die voorleven wat ze verkondigen zijn de beste voorbeelden voor anderen. Franciscus van Assisi, moeder Teresa, Gandhi en Nelson Mandela gaven het goede voorbeeld. Een mooie uitspraak van Nelson Mandela in dit verband is: “Als wij ons licht laten stralen geven we onbewust andere mensen toestemming hetzelfde te doen. Als we bevrijd zijn van onze angst, bevrijdt onze aanwezigheid vanzelf anderen.”

Behoorlijk goede privacy

In 2016 kreeg de politie via Canada een bestand met 3,6 miljoen berichten in handen. Die berichten waren via 40.000 smartphones met pgp-versleuteling verstuurd. De politie wist de encryptie ongedaan te maken en kreeg zo inzicht in de communicatie binnen een crimineel netwerk. De rechtbank stond de ontsleutelde berichten vervolgens toe als bewijs in een rechtszaak tegen een crimineel. Verwacht mag worden dat het Openbaar Ministerie in de toekomst vaker berichten uit pgp-telefoons zal gaan gebruiken als bewijs tegen criminelen. De jacht op encryptiesleutels is geopend.

Tot twee jaar terug waren online berichtendiensten zoals Whatsapp een belangrijke bron voor politie en inlichtingendiensten. Via chatapplicaties konden zij veel te weten komen over activiteiten van criminelen en terroristen. Na de onthullingen van Snowden hebben technologiebedrijven hun diensten beveiligd met end-to-end encryptie. Dit heeft de veiligheidsdiensten de mogelijkheid ontnomen om het berichtenverkeer af te luisteren.

AIVD-baas Bertholee pleitte vergeefs voor een achterdeurtje voor de veiligheidsdiensten om de versleuteling te kunnen omzeilen. De FBI ving bot bij Apple bij verkrijgen van toegang tot de iPhone 5C van de San Benardino-schutter. Een externe partij moest er aan te pas komen om het apparaat te hacken. De Russische geheime dienst FSB eiste vrijgave van de encryptiesleutels van Telegram. Telegram weigerde dit te doen met als argument dat daardoor de privacy van gebruikers zou worden geschonden. De Russische autoriteiten blokkeerden vervolgens het gebruik van de chatapp in het hele land. Tussen de 10 en 15 miljoen gebruikers in Rusland kunnen de dienst nu niet goed meer gebruiken.

Door de versleuteling van berichten van chatapps is het voor de veiligheidsdiensten moeilijker geworden inzicht te krijgen in de communicatie van terroristen. Na inwerkingtreding van de nieuwe Wet op de inlichtingen- en veiligheidsdiensten (Wiv) kan de AIVD nu wel met kabelgebonden interceptie inzicht krijgen in de metadata over de communicatie. Ze kunnen zien wie met wie praat, zonder de inhoud van die communicatie zien. Het levert bijvoorbeeld informatie over gebruikte nummers of IP-adressen, de start- en eindtijd van de communicatie en gebruikte communicatiemiddelen.

Voor informatie over de inhoud van de berichten moeten de veiligheidsdiensten door de beveiliging heen zien te breken. De Wiv biedt hiertoe uitgebreide hackbevoegdheid om binnen te dringen op apparatuur en netwerken. Daarbij moeten de diensten veelal gebruik maken van onbekende kwetsbaarheden in de beveiliging. Die kwetsbaarheden hoeven de diensten niet te melden aan de leveranciers en ontwikkelaars van software en apparaten. Het geheim houden van die informatie vergroot de kans op uitlekken daarvan en gebruik door buitenlandse inlichtingendiensten en cybercriminelen. Bedrijfsgegevens en privégegevens kunnen daardoor in verkeerde handen vallen. Dit is schadelijk voor economische veiligheid en privacy van burgers. Schade die mogelijk terrorismedreiging kan overstijgen. PGP-versleuteling staat voor Pretty Good Privacy. Die beveiliging biedt inmiddels geen volledige garantie.

Orwells 1984 nabij

Systemen die onze gezichten herkennen, dat was tot voor kort ondenkbaar. Sinds de komst van deep learning algoritmen kunnen computers gezichten soms al beter herkennen dan mensen dat kunnen. Gezichtsherkenningstechnologie biedt allerlei praktische nieuwe toepassingen. We kunnen ons in de toekomst identificeren met ons gezicht en daardoor afscheid nemen van vele irritante wachtwoorden en pincodes. Het roept ook vragen op ten aanzien van onze privacy, omdat wij voortaan overal gevolgd kunnen worden.

De artificiële intelligentie voor gezichtsherkenning is afgelopen jaren steeds verder geperfectioneerd op basis van patroonherkenning van miljarden foto’s die op het web aanwezig zijn. Facebook is de absolute uitblinker in het herkennen van gezichten. Het bedrijf beschikt over een database met 1,4 miljard gescande gezichten, gekoppeld aan hun werkelijke identiteit. Facebook zegt de identiteit van personen op basis van foto’s in 97 procent van de gevallen correct te kunnen voorspellen. Op basis van hun zogenaamde Deepface technologie claimt Facebook zelfs mensen te kunnen herkennen zonder dat hun gezicht op de foto staat.

Artificiële intelligentie is tot veel meer in staat dan het vaststellen van de juiste identiteit. Op basis een foto kan zelfs redelijk nauwkeurig de seksuele geaardheid worden ingeschat. Het aflezen van emoties op basis van gelaatsuitdrukking op een foto behoort al langer tot de mogelijkheden. Op basis van camerabeelden kunnen gedragingen van voorbijgangers tot in het kleinste  detail worden geanalyseerd. Tegen die achtergrond is het opmerkelijk dat Facebook foto’s beschouwt als publiekelijk beschikbare informatie die niet onder de privacy settings valt. Een onderzoek van Radar wees uit dat 61,1% van de ondervraagden gezichtsherkenning van sociale media niet op prijs stelt. Die meerderheid zou de daad bij het woord kunnen voegen door het aanpassen van hun privacy settings of het verwijderen van hun account.

De politie zet met succes gezichtsherkenning in voor het opsporen van verdachten. Informatie van beveiligingscamera’s, mobiele telefoons, pinautomaten en sociale media wordt gekoppeld aan een strafrechtdatabase met gezichten van personen die ooit een strafbaar feit hebben gepleegd. Vorig jaar heeft de politie bijna honderd verdachten geïdentificeerd met nieuwe gezichtsherkenningssoftware. Op termijn wil de politie met real-time gezichtsherkenning gaan werken. Daardoor kan een voortvluchtige terrorist makkelijker worden opgespoord. Real-time gezichtsherkenning opent ook de weg naar de mogelijkheid om mensen die bijvoorbeeld nog een boete hebben uitstaan automatisch te herkennen in de openbare ruimte.

In China is dat al lang geen toekomstmuziek meer. Ruben Terlou laat in de serie ‘door het hart van China’ zien hoe in miljoenenstad Shenzhen gezichtsherkenning wordt toegepast voor signalering van voetgangers die door rood lopen. Als ze door rood lopen dan worden ze geflitst. Worden ze vijf keer geflitst dan wordt hun identiteit opgezocht in de bevolkingsdatabase en komen ze op een zwarte lijst. Als ze een huis of een auto willen kopen krijgen ze geen lening meer. Dat is onderdeel van het plan van president Xi Jinping dat voorziet in een sociaal kredietsysteem voor iedere burger in China. In de plannen van de partij gaat het er niet alleen om of je door rood loopt. Ook het online gedrag telt mee: wat je op internet of in e-mails zegt en wat je leest of kijkt. Je betaalgedrag, waar je bent, wanneer en met wie. Alles wordt geregistreerd en opgeslagen door de staat. Met een slechte score kom je op een zwarte lijst en dan kun je het helemaal vergeten in China. Ruben Terlou ontlokt een Chinees politicus de uitspraak dat Orwells 1984 nabij is.

Een systeem leeft niet

Dankzij geautomatiseerde systemen kan de Belastingdienst efficiënt en rechtmatig belastingen innen. De ICT is ook niet meer weg te denken bij de uitvoering door gemeentes en uitkeringsinstanties. Data staan centraal als de besluiten zijn geautomatiseerd. De mens verdwijnt daardoor naar de achtergrond. Kunnen geautomatiseerde registraties altijd leidend zijn in beslissingen die de overheid neemt?

Dat overheidsregistraties leidend zijn heb ik zelf mogen ervaren bij het aantekenen van bezwaar tegen mijn registratie bij de SVB. Als minderjarige woonde ik bij mijn ouders in Brussel. Na mijn middelbare schooltijd verhuisde ik voor studie naar Delft. Een jaar later verhuisden ook mijn ouders naar Nederland. De SVB gaat nu uit van de verhuisdatum van mijn ouders. Daardoor kan ik worden gekort op mijn AOW. De registratie van mijn buitenlands verblijf wordt niet aangepast op basis van systeemcontrole van de BRP. Dit probleem kan ik mij zelf aanrekenen, want ik  ben de bron van deze onjuiste registratie. Nadat ik op kamers ging wonen, had ik mij natuurlijk direct moeten aanmelden bij de gemeente voor inschrijving in de bevolkingsadministratie. Als achttienjarige had ik moeten weten dat een verlate inschrijving vijftig jaar later consequenties zou kunnen hebben voor de hoogte van mijn AOW-uitkering.

Veel gecompliceerder is het voor iemand die zich graag wil inschrijven bij de gemeente, maar de gemeente kan die inschrijving niet in behandeling nemen. Bijvoorbeeld van een dakloze die zich wil aanmelden als woningzoekende. De woningbouwvereniging stelt hiervoor de eis dat iemand inkomsten heeft. De gemeente verstrekt pas een bijstandsuitkering als de aanvrager staat ingeschreven. Echter, die inschrijving kan de gemeente niet doen omdat de dakloze nog geen woning in de gemeente heeft. De Nationale ombudsman krijgt regelmaat klachten van mensen die zich niet kunnen inschrijven en daarmee worden uitgesloten van zorg, steun of andere voorzieningen.

Mensen kunnen ook in de knel komen door fouten die de overheid maakt, bijvoorbeeld door verkeerde invoer van gegevens of onjuiste koppelingen. Dergelijke fouten kunnen gevolgen hebben voor uitkeringen, toeslagen of boetes. Het rechtzetten van gemaakte fouten is in praktijk een moeizaam proces, waarbij de bewijslast bij de burger lijkt te liggen. Betrokkenen hebben vaak geen weet van de oorzaak van de problemen en kunnen onverwacht slachtoffer worden van foutieve registratie.

Bekendste voorbeeld hiervan is de zaak Dolmatov. Deze Russische activist hing zichzelf begin 2013 op in zijn cel in een detentiecentrum in Rotterdam. Zijn asielaanvraag in Nederland was afgewezen en hij zou naar Rusland worden uitgezet. Dit besluit was gebaseerd op de indicatie ‘uitzetbaar in Nederland’ in het computersysteem. Als status van de vreemdeling was in het systeem automatisch het veld ‘verwijderbaar’ aangevinkt. Dit had niet gemogen, want er liep nog een beroepsprocedure. Door fouten in de registratie en gebrekkige communicatie in de vreemdelingenketen werd Dolmatov ten onrechte in bewaring gezet en kreeg hij niet de juiste rechtsbijstand en zorg. De Inspectie oordeelde hard over de zaak Dolmatov: “Het onzorgvuldig handelen van de Nederlandse overheid is niet alleen toe te schrijven aan het handelen of nalaten van functionarissen, maar ook aan de afhankelijkheid van – en het vertrouwen in – de systemen, procedures en formulieren die die functionarissen bij hun besluiten in die keten ondersteunen.” Als gevolg van deze analyse is er daarna fors gesleuteld aan de systemen en koppelingen binnen de vreemdelingenketen.

Het ligt voor de hand in cruciale gevallen niet langer blind te varen op systemen  en meer aandacht te schenken aan de menselijke kant van de zaak. De Nationale ombudsman stelt terecht dat het perspectief van de burger geborgd moet worden in alles wat de overheid doet. De overheid moet minder vanuit het systeem denken en meer de burger als uitgangspunt nemen. Een mens leeft, een systeem niet.

Transparante robotadviseur

Zelfdenkende robots moeten de mensheid een flinke stap voorwaarts brengen. We worden er nu al mee geconfronteerd. De spraak assistent van onze mobiel is daar een goed voorbeeld van. Via stemcommando’s kunnen wij onze smartphone allerlei taken laten uitvoeren. Robots kunnen veel taken van de mens overnemen (zoals het besturen van onze auto) en beïnvloeden ons gedrag zonder dat wij ons daar bewust van zijn.

Robots kunnen reageren op het gedrag van mensen op basis van de digitale sporen die wij achter laten. Via ons online klikgedrag, sociale media, smartphone, activiteiten trackers en apparaten met sensoren produceren wij een grote hoeveelheid data in verschillende verschijningsvormen. Met machine learning kunnen computermodellen op basis van zelflerende algoritmes steeds beter onze persoonlijkheid voorspellen. Dat kan zelfs op basis van simpele Facebook likes. Vanaf 70 likes kent Facebook je beter dan je vrienden.

Drie onderzoekers in de Verenigde Staten ontwikkelden een algoritme waarmee iemands persoonlijkheid kan worden voorspeld op basis van Facebook likes of Twitter berichten. Het algoritme voorspelt de scores op basis van de Meyers-Briggs Type Indicator (MBTI) en de Big Five persoonlijkheidstheorie. Deze Big Five theorie beschrijft iemands persoonlijkheid in de volgende dimensies: extraversie, vriendelijkheid, emotionele stabiliteit, ordelijkheid en openheid. Per dimensie kun je hoog, laag of ergens daar tussenin scoren. Een gedetailleerd overzicht van jouw persoonlijkheid kun je op basis van Facebook of Twitter likes en berichten laten voorspellen met deze Facebook and Twitter Prediction tool.

Ik testte de tool uit. Op basis van 3.232 twitterberichten kreeg ik binnen een paar seconden een uitgebreid rapport over mijn persoonlijkheid. De scores van de Big Five en MBTI zijn vrijwel identiek met de uitslagen van testen die ik bij psychologische testen op basis van vragenlijsten heb gedaan. Met het voorspellen van mijn geslacht heeft het computermodel meer moeite: ‘Your digital footprint is fairly androgynous; it suggests you’re probably Male but you don’t repress your feminine side’. Het voorspellen van mijn leeftijd blijkt ook een moeilijke opgave: ‘Your digital footprint suggests that your online behaviour resembles that of a 25-29 years old’. De modellen pretenderen niet de absolute waarheid te voorspellen; zij rapporteren met een zekere waarschijnlijkheid.

Zolang wij die analyses zelf onder ogen krijgen en kunnen relativeren is er niets aan de hand. Het wordt een ander verhaal als bedrijven en overheden er mee aan de haal gaan. Zo kondigde Facebook CEO Zuckerberg aan dat zijn bedrijf met behulp van Artificiële Intelligentie privéberichten gaat analyseren om terroristische activiteiten op te sporen. Ook denkt Facebook de helpende hand te kunnen bieden bij het voorkomen van zelfmoord onder tieners en bij het tegengaan van pesten op school. Dat klinkt allemaal heel idealistisch, maar inmiddels zijn de data die je via sociale media achterlaat verworden tot handelswaar die bedrijven in staat stelt op basis van persoonlijkheidsanalyse gerichte diensten aan te bieden. Overheden gebruiken persoonlijke data om fraude op te sporen en om misdrijven te voorkomen en op te lossen.

Dat wij niet blind kunnen vertrouwen op ‘zelflerende software’ leerde het experiment van Microsoft met Twitterbot Tay. De bot vergaloppeerde zich in de dialoog met Twittergebruikers en deed allerlei racistische uitspraken. Microsoft heeft daarna het Twitteraccount afgeschermd en de meeste tweets verwijderd. De complexe logica achter algoritmes is vaak nog een ‘black box’ die moeilijk kan worden verklaard. Dit moet veranderen als per 25 mei 2018 de Algemene Verordening Gegevensbescherming (AVG) in werking treedt. De AVG geeft mensen het recht om geïnformeerd te worden over de logica van een advies of besluit van een robot. Bedrijven en overheden moeten transparant worden en hun systemen aanpassen. Softwarebedrijf Pegasystems introduceerde dit jaar als eerste de T-Switch (T van Trust en Transparency) waarmee organisaties controle kunnen uitoefenen op de mate van transparantie van hun Artificiële Intelligentie.

Inpakken en vernieuwen

Op de foto boven het interview in NRC staart Chris Oomen mistroostig voor zich uit. De directeur van zorgverzekeraar DSW is teleurgesteld in de medewerking van overheden bij de ontwikkeling van een nieuwe website die mensen met een persoonsgebonden budget moet helpen om professionele hulp of verzorging in te huren. De website had allang gebruiksklaar kunnen zijn, maar stroperigheid van overheidsinstanties belet dat. Het ministerie, de gemeenten en SVB willen allemaal comfort hebben. Maar niemand heeft het over de mensen waar zij het voor zouden moeten doen, volgens Oomen.

Het relaas van Oomen illustreert hoe lastig het is te opereren in het bestuurlijke krachtenveld van de overheid met verschillende belangen. Het grote aantal organisaties dat invloed wil uitoefenen en het ontbreken van centrale aansturing maken overheidsprojecten nodeloos complex. Die complexiteit kan worden gereduceerd door gezamenlijk doelen te stellen en niet langer te handelen vanuit het eigenbelang. Er is één belang dat alle organisaties bindt en dat is het klantbelang. Het gemak van mensen moet bij digitalisering altijd centraal staan. Zo zouden overheidsklanten bijvoorbeeld online in één oogopslag al hun persoonlijke zaken met de overheid moeten kunnen zien, zonder zich voor elke dienst opnieuw te hoeven aanmelden.

De Nationale ombudsman wijst er terecht op dat de overheid er niet zonder meer van uit mag gaan dat het creëren van een digitale wereld niet hetzelfde is als het 1 op 1 digitaliseren van de papieren wereld. Hij roept BZK op de regierol waar te maken door een digitale faciliteit neer te zetten die aansluit bij de recentste technische mogelijkheden, waar burgers enthousiast van worden en zich graag bij willen aansluiten. Het voornemen in het regeerakkoord om mijnoverheid.nl pushberichten te laten versturen sluit onvoldoende aan bij dat advies. Het is een noodoplossing om de onvolkomenheden van een technisch verouderd overheidsportaal op te lossen. In een modern digitaal portaal  is de ‘reis’ die de klant maakt om van een dienst gebruik te maken leidend. Het dienstverleningsproces moet (blijvend) aansluiten bij de leefwereld van de eindgebruiker. De klant moet een persoonlijke dienstverlening ervaren en de klanttevredenheid wordt in ieder proces gemeten.

De overheid staat voor de uitdaging om een brug te slaan tussen de eigen verkokerde administratieve processen en dienstverleningsprocessen waarbij de gebeurtenissen van de klant centraal staan. Het vereist snelle modernisering van een verouderd IT-landschap. Dit kan worden gerealiseerd door met standaard technologie een brug te slaan tussen de oude transactiesystemen en de klanten die persoonlijke dienstverlening verwachten via meerdere kanalen. Die aanpak wordt ook wel ‘inpakken en vernieuwen’ genoemd. Daarvoor breng je een orchestratielaag aan die alle waardevolle data en business rules uit de systemen inleest en beschikbaar stelt aan nieuw ontworpen klantprocessen. Dit kan snel gebeuren. Je kunt in enkele weken tijd naar een ‘Minimum Lovable Product’ toewerken en daarna stap voor stap in de praktijk optimalisaties realiseren.

De overheid heeft de luxe dat er meestal extra geld gevonden kan worden. Daardoor kan men zich permitteren veel te vergaderen, vooraf alles dicht te timmeren, identieke systemen bij meerdere organisaties te ontwikkelen, maatwerk te bouwen als standaard technologie beschikbaar is en slecht werkende systemen in de lucht te houden. Meer schaarste stimuleert tempo te maken, genoegen te nemen met een bètaversie, creatiever te worden en beter samen te werken. Het draait allemaal om aanpakken en focus, focus op de klant.