Orwells 1984 nabij

Systemen die onze gezichten herkennen, dat was tot voor kort ondenkbaar. Sinds de komst van deep learning algoritmen kunnen computers gezichten soms al beter herkennen dan mensen dat kunnen. Gezichtsherkenningstechnologie biedt allerlei praktische nieuwe toepassingen. We kunnen ons in de toekomst identificeren met ons gezicht en daardoor afscheid nemen van vele irritante wachtwoorden en pincodes. Het roept ook vragen op ten aanzien van onze privacy, omdat wij voortaan overal gevolgd kunnen worden.

De artificiële intelligentie voor gezichtsherkenning is afgelopen jaren steeds verder geperfectioneerd op basis van patroonherkenning van miljarden foto’s die op het web aanwezig zijn. Facebook is de absolute uitblinker in het herkennen van gezichten. Het bedrijf beschikt over een database met 1,4 miljard gescande gezichten, gekoppeld aan hun werkelijke identiteit. Facebook zegt de identiteit van personen op basis van foto’s in 97 procent van de gevallen correct te kunnen voorspellen. Op basis van hun zogenaamde Deepface technologie claimt Facebook zelfs mensen te kunnen herkennen zonder dat hun gezicht op de foto staat.

Artificiële intelligentie is tot veel meer in staat dan het vaststellen van de juiste identiteit. Op basis een foto kan zelfs redelijk nauwkeurig de seksuele geaardheid worden ingeschat. Het aflezen van emoties op basis van gelaatsuitdrukking op een foto behoort al langer tot de mogelijkheden. Op basis van camerabeelden kunnen gedragingen van voorbijgangers tot in het kleinste  detail worden geanalyseerd. Tegen die achtergrond is het opmerkelijk dat Facebook foto’s beschouwt als publiekelijk beschikbare informatie die niet onder de privacy settings valt. Een onderzoek van Radar wees uit dat 61,1% van de ondervraagden gezichtsherkenning van sociale media niet op prijs stelt. Die meerderheid zou de daad bij het woord kunnen voegen door het aanpassen van hun privacy settings of het verwijderen van hun account.

De politie zet met succes gezichtsherkenning in voor het opsporen van verdachten. Informatie van beveiligingscamera’s, mobiele telefoons, pinautomaten en sociale media wordt gekoppeld aan een strafrechtdatabase met gezichten van personen die ooit een strafbaar feit hebben gepleegd. Vorig jaar heeft de politie bijna honderd verdachten geïdentificeerd met nieuwe gezichtsherkenningssoftware. Op termijn wil de politie met real-time gezichtsherkenning gaan werken. Daardoor kan een voortvluchtige terrorist makkelijker worden opgespoord. Real-time gezichtsherkenning opent ook de weg naar de mogelijkheid om mensen die bijvoorbeeld nog een boete hebben uitstaan automatisch te herkennen in de openbare ruimte.

In China is dat al lang geen toekomstmuziek meer. Ruben Terlou laat in de serie ‘door het hart van China’ zien hoe in miljoenenstad Shenzhen gezichtsherkenning wordt toegepast voor signalering van voetgangers die door rood lopen. Als ze door rood lopen dan worden ze geflitst. Worden ze vijf keer geflitst dan wordt hun identiteit opgezocht in de bevolkingsdatabase en komen ze op een zwarte lijst. Als ze een huis of een auto willen kopen krijgen ze geen lening meer. Dat is onderdeel van het plan van president Xi Jinping dat voorziet in een sociaal kredietsysteem voor iedere burger in China. In de plannen van de partij gaat het er niet alleen om of je door rood loopt. Ook het online gedrag telt mee: wat je op internet of in e-mails zegt en wat je leest of kijkt. Je betaalgedrag, waar je bent, wanneer en met wie. Alles wordt geregistreerd en opgeslagen door de staat. Met een slechte score kom je op een zwarte lijst en dan kun je het helemaal vergeten in China. Ruben Terlou ontlokt een Chinees politicus de uitspraak dat Orwells 1984 nabij is.

Een systeem leeft niet

Dankzij geautomatiseerde systemen kan de Belastingdienst efficiënt en rechtmatig belastingen innen. De ICT is ook niet meer weg te denken bij de uitvoering door gemeentes en uitkeringsinstanties. Data staan centraal als de besluiten zijn geautomatiseerd. De mens verdwijnt daardoor naar de achtergrond. Kunnen geautomatiseerde registraties altijd leidend zijn in beslissingen die de overheid neemt?

Dat overheidsregistraties leidend zijn heb ik zelf mogen ervaren bij het aantekenen van bezwaar tegen mijn registratie bij de SVB. Als minderjarige woonde ik bij mijn ouders in Brussel. Na mijn middelbare schooltijd verhuisde ik voor studie naar Delft. Een jaar later verhuisden ook mijn ouders naar Nederland. De SVB gaat nu uit van de verhuisdatum van mijn ouders. Daardoor kan ik worden gekort op mijn AOW. De registratie van mijn buitenlands verblijf wordt niet aangepast op basis van systeemcontrole van de BRP. Dit probleem kan ik mij zelf aanrekenen, want ik  ben de bron van deze onjuiste registratie. Nadat ik op kamers ging wonen, had ik mij natuurlijk direct moeten aanmelden bij de gemeente voor inschrijving in de bevolkingsadministratie. Als achttienjarige had ik moeten weten dat een verlate inschrijving vijftig jaar later consequenties zou kunnen hebben voor de hoogte van mijn AOW-uitkering.

Veel gecompliceerder is het voor iemand die zich graag wil inschrijven bij de gemeente, maar de gemeente kan die inschrijving niet in behandeling nemen. Bijvoorbeeld van een dakloze die zich wil aanmelden als woningzoekende. De woningbouwvereniging stelt hiervoor de eis dat iemand inkomsten heeft. De gemeente verstrekt pas een bijstandsuitkering als de aanvrager staat ingeschreven. Echter, die inschrijving kan de gemeente niet doen omdat de dakloze nog geen woning in de gemeente heeft. De Nationale ombudsman krijgt regelmaat klachten van mensen die zich niet kunnen inschrijven en daarmee worden uitgesloten van zorg, steun of andere voorzieningen.

Mensen kunnen ook in de knel komen door fouten die de overheid maakt, bijvoorbeeld door verkeerde invoer van gegevens of onjuiste koppelingen. Dergelijke fouten kunnen gevolgen hebben voor uitkeringen, toeslagen of boetes. Het rechtzetten van gemaakte fouten is in praktijk een moeizaam proces, waarbij de bewijslast bij de burger lijkt te liggen. Betrokkenen hebben vaak geen weet van de oorzaak van de problemen en kunnen onverwacht slachtoffer worden van foutieve registratie.

Bekendste voorbeeld hiervan is de zaak Dolmatov. Deze Russische activist hing zichzelf begin 2013 op in zijn cel in een detentiecentrum in Rotterdam. Zijn asielaanvraag in Nederland was afgewezen en hij zou naar Rusland worden uitgezet. Dit besluit was gebaseerd op de indicatie ‘uitzetbaar in Nederland’ in het computersysteem. Als status van de vreemdeling was in het systeem automatisch het veld ‘verwijderbaar’ aangevinkt. Dit had niet gemogen, want er liep nog een beroepsprocedure. Door fouten in de registratie en gebrekkige communicatie in de vreemdelingenketen werd Dolmatov ten onrechte in bewaring gezet en kreeg hij niet de juiste rechtsbijstand en zorg. De Inspectie oordeelde hard over de zaak Dolmatov: “Het onzorgvuldig handelen van de Nederlandse overheid is niet alleen toe te schrijven aan het handelen of nalaten van functionarissen, maar ook aan de afhankelijkheid van – en het vertrouwen in – de systemen, procedures en formulieren die die functionarissen bij hun besluiten in die keten ondersteunen.” Als gevolg van deze analyse is er daarna fors gesleuteld aan de systemen en koppelingen binnen de vreemdelingenketen.

Het ligt voor de hand in cruciale gevallen niet langer blind te varen op systemen  en meer aandacht te schenken aan de menselijke kant van de zaak. De Nationale ombudsman stelt terecht dat het perspectief van de burger geborgd moet worden in alles wat de overheid doet. De overheid moet minder vanuit het systeem denken en meer de burger als uitgangspunt nemen. Een mens leeft, een systeem niet.

Transparante robotadviseur

Zelfdenkende robots moeten de mensheid een flinke stap voorwaarts brengen. We worden er nu al mee geconfronteerd. De spraak assistent van onze mobiel is daar een goed voorbeeld van. Via stemcommando’s kunnen wij onze smartphone allerlei taken laten uitvoeren. Robots kunnen veel taken van de mens overnemen (zoals het besturen van onze auto) en beïnvloeden ons gedrag zonder dat wij ons daar bewust van zijn.

Robots kunnen reageren op het gedrag van mensen op basis van de digitale sporen die wij achter laten. Via ons online klikgedrag, sociale media, smartphone, activiteiten trackers en apparaten met sensoren produceren wij een grote hoeveelheid data in verschillende verschijningsvormen. Met machine learning kunnen computermodellen op basis van zelflerende algoritmes steeds beter onze persoonlijkheid voorspellen. Dat kan zelfs op basis van simpele Facebook likes. Vanaf 70 likes kent Facebook je beter dan je vrienden.

Drie onderzoekers in de Verenigde Staten ontwikkelden een algoritme waarmee iemands persoonlijkheid kan worden voorspeld op basis van Facebook likes of Twitter berichten. Het algoritme voorspelt de scores op basis van de Meyers-Briggs Type Indicator (MBTI) en de Big Five persoonlijkheidstheorie. Deze Big Five theorie beschrijft iemands persoonlijkheid in de volgende dimensies: extraversie, vriendelijkheid, emotionele stabiliteit, ordelijkheid en openheid. Per dimensie kun je hoog, laag of ergens daar tussenin scoren. Een gedetailleerd overzicht van jouw persoonlijkheid kun je op basis van Facebook of Twitter likes en berichten laten voorspellen met deze Facebook and Twitter Prediction tool.

Ik testte de tool uit. Op basis van 3.232 twitterberichten kreeg ik binnen een paar seconden een uitgebreid rapport over mijn persoonlijkheid. De scores van de Big Five en MBTI zijn vrijwel identiek met de uitslagen van testen die ik bij psychologische testen op basis van vragenlijsten heb gedaan. Met het voorspellen van mijn geslacht heeft het computermodel meer moeite: ‘Your digital footprint is fairly androgynous; it suggests you’re probably Male but you don’t repress your feminine side’. Het voorspellen van mijn leeftijd blijkt ook een moeilijke opgave: ‘Your digital footprint suggests that your online behaviour resembles that of a 25-29 years old’. De modellen pretenderen niet de absolute waarheid te voorspellen; zij rapporteren met een zekere waarschijnlijkheid.

Zolang wij die analyses zelf onder ogen krijgen en kunnen relativeren is er niets aan de hand. Het wordt een ander verhaal als bedrijven en overheden er mee aan de haal gaan. Zo kondigde Facebook CEO Zuckerberg aan dat zijn bedrijf met behulp van Artificiële Intelligentie privéberichten gaat analyseren om terroristische activiteiten op te sporen. Ook denkt Facebook de helpende hand te kunnen bieden bij het voorkomen van zelfmoord onder tieners en bij het tegengaan van pesten op school. Dat klinkt allemaal heel idealistisch, maar inmiddels zijn de data die je via sociale media achterlaat verworden tot handelswaar die bedrijven in staat stelt op basis van persoonlijkheidsanalyse gerichte diensten aan te bieden. Overheden gebruiken persoonlijke data om fraude op te sporen en om misdrijven te voorkomen en op te lossen.

Dat wij niet blind kunnen vertrouwen op ‘zelflerende software’ leerde het experiment van Microsoft met Twitterbot Tay. De bot vergaloppeerde zich in de dialoog met Twittergebruikers en deed allerlei racistische uitspraken. Microsoft heeft daarna het Twitteraccount afgeschermd en de meeste tweets verwijderd. De complexe logica achter algoritmes is vaak nog een ‘black box’ die moeilijk kan worden verklaard. Dit moet veranderen als per 25 mei 2018 de Algemene Verordening Gegevensbescherming (AVG) in werking treedt. De AVG geeft mensen het recht om geïnformeerd te worden over de logica van een advies of besluit van een robot. Bedrijven en overheden moeten transparant worden en hun systemen aanpassen. Softwarebedrijf Pegasystems introduceerde dit jaar als eerste de T-Switch (T van Trust en Transparency) waarmee organisaties controle kunnen uitoefenen op de mate van transparantie van hun Artificiële Intelligentie.

Inpakken en vernieuwen

Op de foto boven het interview in NRC staart Chris Oomen mistroostig voor zich uit. De directeur van zorgverzekeraar DSW is teleurgesteld in de medewerking van overheden bij de ontwikkeling van een nieuwe website die mensen met een persoonsgebonden budget moet helpen om professionele hulp of verzorging in te huren. De website had allang gebruiksklaar kunnen zijn, maar stroperigheid van overheidsinstanties belet dat. Het ministerie, de gemeenten en SVB willen allemaal comfort hebben. Maar niemand heeft het over de mensen waar zij het voor zouden moeten doen, volgens Oomen.

Het relaas van Oomen illustreert hoe lastig het is te opereren in het bestuurlijke krachtenveld van de overheid met verschillende belangen. Het grote aantal organisaties dat invloed wil uitoefenen en het ontbreken van centrale aansturing maken overheidsprojecten nodeloos complex. Die complexiteit kan worden gereduceerd door gezamenlijk doelen te stellen en niet langer te handelen vanuit het eigenbelang. Er is één belang dat alle organisaties bindt en dat is het klantbelang. Het gemak van mensen moet bij digitalisering altijd centraal staan. Zo zouden overheidsklanten bijvoorbeeld online in één oogopslag al hun persoonlijke zaken met de overheid moeten kunnen zien, zonder zich voor elke dienst opnieuw te hoeven aanmelden.

De Nationale ombudsman wijst er terecht op dat de overheid er niet zonder meer van uit mag gaan dat het creëren van een digitale wereld niet hetzelfde is als het 1 op 1 digitaliseren van de papieren wereld. Hij roept BZK op de regierol waar te maken door een digitale faciliteit neer te zetten die aansluit bij de recentste technische mogelijkheden, waar burgers enthousiast van worden en zich graag bij willen aansluiten. Het voornemen in het regeerakkoord om mijnoverheid.nl pushberichten te laten versturen sluit onvoldoende aan bij dat advies. Het is een noodoplossing om de onvolkomenheden van een technisch verouderd overheidsportaal op te lossen. In een modern digitaal portaal  is de ‘reis’ die de klant maakt om van een dienst gebruik te maken leidend. Het dienstverleningsproces moet (blijvend) aansluiten bij de leefwereld van de eindgebruiker. De klant moet een persoonlijke dienstverlening ervaren en de klanttevredenheid wordt in ieder proces gemeten.

De overheid staat voor de uitdaging om een brug te slaan tussen de eigen verkokerde administratieve processen en dienstverleningsprocessen waarbij de gebeurtenissen van de klant centraal staan. Het vereist snelle modernisering van een verouderd IT-landschap. Dit kan worden gerealiseerd door met standaard technologie een brug te slaan tussen de oude transactiesystemen en de klanten die persoonlijke dienstverlening verwachten via meerdere kanalen. Die aanpak wordt ook wel ‘inpakken en vernieuwen’ genoemd. Daarvoor breng je een orchestratielaag aan die alle waardevolle data en business rules uit de systemen inleest en beschikbaar stelt aan nieuw ontworpen klantprocessen. Dit kan snel gebeuren. Je kunt in enkele weken tijd naar een ‘Minimum Lovable Product’ toewerken en daarna stap voor stap in de praktijk optimalisaties realiseren.

De overheid heeft de luxe dat er meestal extra geld gevonden kan worden. Daardoor kan men zich permitteren veel te vergaderen, vooraf alles dicht te timmeren, identieke systemen bij meerdere organisaties te ontwikkelen, maatwerk te bouwen als standaard technologie beschikbaar is en slecht werkende systemen in de lucht te houden. Meer schaarste stimuleert tempo te maken, genoegen te nemen met een bètaversie, creatiever te worden en beter samen te werken. Het draait allemaal om aanpakken en focus, focus op de klant.

Overheid kan leren van ING

Ceo Ralph Hamers van ING wil niet alleen van banken leren zegt hij in het fd van 8 juli. Hij is gefascineerd door het optimaliseren van klant-ervaringen in Silicon Valley. Bijna jaarlijks gaat hij hier kijken bij grote spelers en starters, ook buiten de fintech om. Onze overheid op haar beurt zou veel kunnen leren van ontwikkelingen die ING heeft doorgemaakt bij digitalisering van hun klantprocessen. Zo was de Postbank amper twintig jaar geleden nog de giro-blauwe bank van het postkantoor, de girobetaalkaarten en de portvrije enveloppen. Tien jaar geleden maakte giro-blauw plaats voor ING-oranje. De ING-bank is inmiddels een digitaal bedrijf. Klanten van de bank kunnen online in één oogopslag al hun rekeningen, creditcard- en hypotheekgegevens zien, zonder zich voor elk product opnieuw te hoeven aanmelden. Bij een bank als ING staan voortdurend verbeteren en tevredenheid van klanten centraal. Bij de overheid draait alles om de overheid. De eigen processen worden gedigitaliseerd en overheidsklanten moeten zich daarnaar voegen.

Jan Willem Boissevain, Account Executive bij Pegasystems

Bron: Financieele Dagblad, opinie 1 augustus 2017

Nudge de overheid

Overheden bezitten de macht om het gedrag van burgers te beïnvloeden. Je kunt hierbij denken aan het heffen van belastingen, het verstrekken van subsidies of het opleggen van boetes. De overheid heeft ook het monopolie op instrumenten zoals wetgeving en strafrechttoepassing voor gedragsbeïnvloeding. Daarnaast kan de overheid ook via publieksgerichte voorlichting proberen het gedrag van burgers te veranderen.

Sturen met geld, regels en communicatie zijn de klassieke sturingsinstrumenten van de overheid. Die vormen van gedragssturing blijken steeds minder effectief. In een samenleving met veel verleidingen is het voor burgers moeilijk om de goede keuzes te maken. Overheden zoeken daarom steeds meer hun heil in psychologische gedragsinterventies om burgers te helpen de wenselijke keuzes te maken. De Engelse term ‘nudge’ wordt gebruikt om het subtiele duwtje in de goede richting zonder inperking van de keuzevrijheid aan te duiden. Het meest  bekende voorbeeld van een nudge is de geplakte vlieg in het urinoir om mannen te stimuleren in de pot te plassen en niet er naast. Nudging speelt in op het onbewuste, irrationele en automatische gedrag van mensen.

Nudging als sturingsinstrument van de overheid is overgewaaid uit de Verenigde Staten en Engeland. Het nam een vlucht na het verschijnen van het boek “Nudge: Improving Decisions about Health, Wealth and Happiness” van Richard Thaler (Nobelprijs winnaar 2017) en Cass Sunstein. De auteurs laten zien hoe wij mensen in onze directe omgeving, in de samenleving of op het werk een zetje in de goede richting kunnen geven. Dagelijks nemen wij talloze beslissingen, maar helaas blijken veel van onze keuzes achteraf verkeerd uit te pakken. Thaler en Sunstein stellen dat dat komt doordat wij ons – menselijk als we zijn – laten leiden door vooroordelen. Wij kunnen hen met zachte hand met een nudge naar betere keuzes leiden, zonder hen te beperken in hun keuzevrijheid. Voorbeelden in de samenleving zijn: scholen en bedrijfscafetaria met alleen gezonde voeding, betere pensioenplanning en meer rookvrije zones.

Onder premier Cameron stelde de Britse regering in 2010 een ‘Behavioural Insights Team’ in. Dit team past wetenschappelijke kennis op het gebied van gedragswetenschappen in de praktijk toe. In navolging op de Britten stelde Obama eveneens een ‘nudge unit’ in om de efficiëntie en effectiviteit van overheidsprogramma’s te verbeteren. Onze overheid heeft sinds 2014 ook een nudge team. Het ministerie van Infrastructuur en Milieu zet kennis van psychologische gedragsinterventies in bij de ontwikkeling van campagnes zoals ‘de Bob’ en ‘van A naar Beter’. Gedragskennis wordt daarnaast ook ingezet bij beleidsontwikkeling om de effectiviteit van het beleid te vergroten.

Onbewust worden wij continu genudged door organisaties die ons proberen aan te zetten tot gewenst gedrag. Wij verzetten ons er niet tegen en zoeken het soms bewust op. Zo gaat mijn horloge trillen als ik een tijdje stilzit met een aansporing ‘beweeg!’ En als ik mijn stappendoel heb gehaald verschijnt er een vuurwerkanimatie op het scherm en ‘doel gehaald!’ Dat brengt mij op het idee om overheidsambtenaren een subtiel duwtje te geven voor meer transparantie. Burgers willen graag weten wat de overheid doet met hun belastinggeld. Ook willen we bijvoorbeeld graag meer inzicht in overheidscontracten, aanbestedingen en overheidsingrepen in onderzoeksrapporten alvorens deze verschijnen. De nudge kan worden geleend van de Efteling. Daar staat sinds jaar en dag een Holle Bolle Gijs die voortdurend “papier hier” roept en “dank u” zegt als je iets in zijn mond gooit.

Klantbelang

Zestien jaar geleden werd het startsein gegeven voor de modernisering van de Gemeentelijke Basisadministratie Persoonsgegevens op basis van het advies van de commissie Snellen. De modernisering beoogde de toegankelijkheid van persoonsgegevens te verbeteren door gebruik van moderne ICT-toepassingen. Een versnelling van de uitwisseling van gegevens tussen gemeenten onderling en tussen gemeenten en geautoriseerde afnemers was het doel. Deze week kwam een voorlopig einde aan die langgekoesterde ambitie. Het project voor de vernieuwing van het voormalige bevolkingsregister werd stopgezet.

De overheid zou veel kunnen leren van ontwikkelingen die banken hebben doorgemaakt bij digitalisering van hun klantprocessen. Zo was de Postbank amper twintig jaar geleden nog de giro-blauwe bank van het postkantoor, de girobetaalkaarten en de portvrije enveloppen. Tien jaar geleden maakte giro-blauw plaats voor ING-oranje. De ING-bank is inmiddels een digitaal bedrijf. Klanten van de bank kunnen online in één oogopslag al hun rekeningen, creditcard- en hypotheekgegevens zien, zonder zich voor elk product opnieuw te hoeven aanmelden.

Bij digitale transformatie draait het volledig om de klant. Die verlangt in het huidige digitale tijdperk altijd online toegang via meerdere kanalen, gebruikersgemak en gepersonaliseerde dienstverlening. Gebruikerservaring is vandaag de dag cruciaal voor iedere organisatie en bepalend voor succes of falen. Dat proces is nooit af. Continu wordt gewerkt aan verbetering van gebruikerservaring. Daarbij moet ook rekening worden gehouden met technologische ontwikkelingen en verschuivende kanaalvoorkeur bij klanten. Opkomende kanalen zijn bijvoorbeeld communities en chatbots, terwijl het belang van traditionele kanalen, zoals telefonie, afneemt.

ING digitaliseert de klantprocessen via een zogenaamd wasstratenprogramma. Het wassen van de klantprocessen moet het voor klanten nog simpeler en begrijpelijker maken, met als doel de dienstverlening te verbeteren. Zo wordt nooit tweemaal om dezelfde gegevens gevraagd, is de beleving via alle kanalen identiek en wordt in ieder proces de klanttevredenheid gemeten. De focus ligt op de tevredenheid van klanten. Het proces voor het openen van een jongerenrekening is bijvoorbeeld teruggebracht tot vier clicks. Een nieuw rekeningnummer kan direct worden geopend. Daardoor is de klanttevredenheid aanzienlijk toegenomen en de uitval gereduceerd van 10 tot 1 procent.

De overheid slaagt er in meer dan tien jaar niet in om persoonsgegevens van de bevolking te digitaliseren. Een commercieel bedrijf was al na een jaar failliet gegaan. Zo niet onze overheid. De minister laat nu een drietal onafhankelijke deskundigen, ondersteund door een klein secretariaat en een klankbordgroep, een bezinning uitvoeren. Bij een bedrijf staan voortdurend verbeteren en tevredenheid van klanten centraal. Bij de overheid vergt elke vorm van modernisering heel veel tijd en draait alles om de overheid. De eigen processen worden gedigitaliseerd en overheidsklanten moeten zich daarnaar voegen.