Transparante robotadviseur

Zelfdenkende robots moeten de mensheid een flinke stap voorwaarts brengen. We worden er nu al mee geconfronteerd. De spraak assistent van onze mobiel is daar een goed voorbeeld van. Via stemcommando’s kunnen wij onze smartphone allerlei taken laten uitvoeren. Robots kunnen veel taken van de mens overnemen (zoals het besturen van onze auto) en beïnvloeden ons gedrag zonder dat wij ons daar bewust van zijn.

Robots kunnen reageren op het gedrag van mensen op basis van de digitale sporen die wij achter laten. Via ons online klikgedrag, sociale media, smartphone, activiteiten trackers en apparaten met sensoren produceren wij een grote hoeveelheid data in verschillende verschijningsvormen. Met machine learning kunnen computermodellen op basis van zelflerende algoritmes steeds beter onze persoonlijkheid voorspellen. Dat kan zelfs op basis van simpele Facebook likes. Vanaf 70 likes kent Facebook je beter dan je vrienden.

Drie onderzoekers in de Verenigde Staten ontwikkelden een algoritme waarmee iemands persoonlijkheid kan worden voorspeld op basis van Facebook likes of Twitter berichten. Het algoritme voorspelt de scores op basis van de Meyers-Briggs Type Indicator (MBTI) en de Big Five persoonlijkheidstheorie. Deze Big Five theorie beschrijft iemands persoonlijkheid in de volgende dimensies: extraversie, vriendelijkheid, emotionele stabiliteit, ordelijkheid en openheid. Per dimensie kun je hoog, laag of ergens daar tussenin scoren. Een gedetailleerd overzicht van jouw persoonlijkheid kun je op basis van Facebook of Twitter likes en berichten laten voorspellen met deze Facebook and Twitter Prediction tool.

Ik testte de tool uit. Op basis van 3.232 twitterberichten kreeg ik binnen een paar seconden een uitgebreid rapport over mijn persoonlijkheid. De scores van de Big Five en MBTI zijn vrijwel identiek met de uitslagen van testen die ik bij psychologische testen op basis van vragenlijsten heb gedaan. Met het voorspellen van mijn geslacht heeft het computermodel meer moeite: ‘Your digital footprint is fairly androgynous; it suggests you’re probably Male but you don’t repress your feminine side’. Het voorspellen van mijn leeftijd blijkt ook een moeilijke opgave: ‘Your digital footprint suggests that your online behaviour resembles that of a 25-29 years old’. De modellen pretenderen niet de absolute waarheid te voorspellen; zij rapporteren met een zekere waarschijnlijkheid.

Zolang wij die analyses zelf onder ogen krijgen en kunnen relativeren is er niets aan de hand. Het wordt een ander verhaal als bedrijven en overheden er mee aan de haal gaan. Zo kondigde Facebook CEO Zuckerberg aan dat zijn bedrijf met behulp van Artificiële Intelligentie privéberichten gaat analyseren om terroristische activiteiten op te sporen. Ook denkt Facebook de helpende hand te kunnen bieden bij het voorkomen van zelfmoord onder tieners en bij het tegengaan van pesten op school. Dat klinkt allemaal heel idealistisch, maar inmiddels zijn de data die je via sociale media achterlaat verworden tot handelswaar die bedrijven in staat stelt op basis van persoonlijkheidsanalyse gerichte diensten aan te bieden. Overheden gebruiken persoonlijke data om fraude op te sporen en om misdrijven te voorkomen en op te lossen.

Dat wij niet blind kunnen vertrouwen op ‘zelflerende software’ leerde het experiment van Microsoft met Twitterbot Tay. De bot vergaloppeerde zich in de dialoog met Twittergebruikers en deed allerlei racistische uitspraken. Microsoft heeft daarna het Twitteraccount afgeschermd en de meeste tweets verwijderd. De complexe logica achter algoritmes is vaak nog een ‘black box’ die moeilijk kan worden verklaard. Dit moet veranderen als per 25 mei 2018 de Algemene Verordening Gegevensbescherming (AVG) in werking treedt. De AVG geeft mensen het recht om geïnformeerd te worden over de logica van een advies of besluit van een robot. Bedrijven en overheden moeten transparant worden en hun systemen aanpassen. Softwarebedrijf Pegasystems introduceerde dit jaar als eerste de T-Switch (T van Trust en Transparency) waarmee organisaties controle kunnen uitoefenen op de mate van transparantie van hun Artificiële Intelligentie.

Inpakken en vernieuwen

Op de foto boven het interview in NRC staart Chris Oomen mistroostig voor zich uit. De directeur van zorgverzekeraar DSW is teleurgesteld in de medewerking van overheden bij de ontwikkeling van een nieuwe website die mensen met een persoonsgebonden budget moet helpen om professionele hulp of verzorging in te huren. De website had allang gebruiksklaar kunnen zijn, maar stroperigheid van overheidsinstanties belet dat. Het ministerie, de gemeenten en SVB willen allemaal comfort hebben. Maar niemand heeft het over de mensen waar zij het voor zouden moeten doen, volgens Oomen.

Het relaas van Oomen illustreert hoe lastig het is te opereren in het bestuurlijke krachtenveld van de overheid met verschillende belangen. Het grote aantal organisaties dat invloed wil uitoefenen en het ontbreken van centrale aansturing maken overheidsprojecten nodeloos complex. Die complexiteit kan worden gereduceerd door gezamenlijk doelen te stellen en niet langer te handelen vanuit het eigenbelang. Er is één belang dat alle organisaties bindt en dat is het klantbelang. Het gemak van mensen moet bij digitalisering altijd centraal staan. Zo zouden overheidsklanten bijvoorbeeld online in één oogopslag al hun persoonlijke zaken met de overheid moeten kunnen zien, zonder zich voor elke dienst opnieuw te hoeven aanmelden.

De Nationale ombudsman wijst er terecht op dat de overheid er niet zonder meer van uit mag gaan dat het creëren van een digitale wereld niet hetzelfde is als het 1 op 1 digitaliseren van de papieren wereld. Hij roept BZK op de regierol waar te maken door een digitale faciliteit neer te zetten die aansluit bij de recentste technische mogelijkheden, waar burgers enthousiast van worden en zich graag bij willen aansluiten. Het voornemen in het regeerakkoord om mijnoverheid.nl pushberichten te laten versturen sluit onvoldoende aan bij dat advies. Het is een noodoplossing om de onvolkomenheden van een technisch verouderd overheidsportaal op te lossen. In een modern digitaal portaal  is de ‘reis’ die de klant maakt om van een dienst gebruik te maken leidend. Het dienstverleningsproces moet (blijvend) aansluiten bij de leefwereld van de eindgebruiker. De klant moet een persoonlijke dienstverlening ervaren en de klanttevredenheid wordt in ieder proces gemeten.

De overheid staat voor de uitdaging om een brug te slaan tussen de eigen verkokerde administratieve processen en dienstverleningsprocessen waarbij de gebeurtenissen van de klant centraal staan. Het vereist snelle modernisering van een verouderd IT-landschap. Dit kan worden gerealiseerd door met standaard technologie een brug te slaan tussen de oude transactiesystemen en de klanten die persoonlijke dienstverlening verwachten via meerdere kanalen. Die aanpak wordt ook wel ‘inpakken en vernieuwen’ genoemd. Daarvoor breng je een orchestratielaag aan die alle waardevolle data en business rules uit de systemen inleest en beschikbaar stelt aan nieuw ontworpen klantprocessen. Dit kan snel gebeuren. Je kunt in enkele weken tijd naar een ‘Minimum Lovable Product’ toewerken en daarna stap voor stap in de praktijk optimalisaties realiseren.

De overheid heeft de luxe dat er meestal extra geld gevonden kan worden. Daardoor kan men zich permitteren veel te vergaderen, vooraf alles dicht te timmeren, identieke systemen bij meerdere organisaties te ontwikkelen, maatwerk te bouwen als standaard technologie beschikbaar is en slecht werkende systemen in de lucht te houden. Meer schaarste stimuleert tempo te maken, genoegen te nemen met een bètaversie, creatiever te worden en beter samen te werken. Het draait allemaal om aanpakken en focus, focus op de klant.

Overheid kan leren van ING

Ceo Ralph Hamers van ING wil niet alleen van banken leren zegt hij in het fd van 8 juli. Hij is gefascineerd door het optimaliseren van klant-ervaringen in Silicon Valley. Bijna jaarlijks gaat hij hier kijken bij grote spelers en starters, ook buiten de fintech om. Onze overheid op haar beurt zou veel kunnen leren van ontwikkelingen die ING heeft doorgemaakt bij digitalisering van hun klantprocessen. Zo was de Postbank amper twintig jaar geleden nog de giro-blauwe bank van het postkantoor, de girobetaalkaarten en de portvrije enveloppen. Tien jaar geleden maakte giro-blauw plaats voor ING-oranje. De ING-bank is inmiddels een digitaal bedrijf. Klanten van de bank kunnen online in één oogopslag al hun rekeningen, creditcard- en hypotheekgegevens zien, zonder zich voor elk product opnieuw te hoeven aanmelden. Bij een bank als ING staan voortdurend verbeteren en tevredenheid van klanten centraal. Bij de overheid draait alles om de overheid. De eigen processen worden gedigitaliseerd en overheidsklanten moeten zich daarnaar voegen.

Jan Willem Boissevain, Account Executive bij Pegasystems

Bron: Financieele Dagblad, opinie 1 augustus 2017

Nudge de overheid

Overheden bezitten de macht om het gedrag van burgers te beïnvloeden. Je kunt hierbij denken aan het heffen van belastingen, het verstrekken van subsidies of het opleggen van boetes. De overheid heeft ook het monopolie op instrumenten zoals wetgeving en strafrechttoepassing voor gedragsbeïnvloeding. Daarnaast kan de overheid ook via publieksgerichte voorlichting proberen het gedrag van burgers te veranderen.

Sturen met geld, regels en communicatie zijn de klassieke sturingsinstrumenten van de overheid. Die vormen van gedragssturing blijken steeds minder effectief. In een samenleving met veel verleidingen is het voor burgers moeilijk om de goede keuzes te maken. Overheden zoeken daarom steeds meer hun heil in psychologische gedragsinterventies om burgers te helpen de wenselijke keuzes te maken. De Engelse term ‘nudge’ wordt gebruikt om het subtiele duwtje in de goede richting zonder inperking van de keuzevrijheid aan te duiden. Het meest  bekende voorbeeld van een nudge is de geplakte vlieg in het urinoir om mannen te stimuleren in de pot te plassen en niet er naast. Nudging speelt in op het onbewuste, irrationele en automatische gedrag van mensen.

Nudging als sturingsinstrument van de overheid is overgewaaid uit de Verenigde Staten en Engeland. Het nam een vlucht na het verschijnen van het boek “Nudge: Improving Decisions about Health, Wealth and Happiness” van Richard Thaler (Nobelprijs winnaar 2017) en Cass Sunstein. De auteurs laten zien hoe wij mensen in onze directe omgeving, in de samenleving of op het werk een zetje in de goede richting kunnen geven. Dagelijks nemen wij talloze beslissingen, maar helaas blijken veel van onze keuzes achteraf verkeerd uit te pakken. Thaler en Sunstein stellen dat dat komt doordat wij ons – menselijk als we zijn – laten leiden door vooroordelen. Wij kunnen hen met zachte hand met een nudge naar betere keuzes leiden, zonder hen te beperken in hun keuzevrijheid. Voorbeelden in de samenleving zijn: scholen en bedrijfscafetaria met alleen gezonde voeding, betere pensioenplanning en meer rookvrije zones.

Onder premier Cameron stelde de Britse regering in 2010 een ‘Behavioural Insights Team’ in. Dit team past wetenschappelijke kennis op het gebied van gedragswetenschappen in de praktijk toe. In navolging op de Britten stelde Obama eveneens een ‘nudge unit’ in om de efficiëntie en effectiviteit van overheidsprogramma’s te verbeteren. Onze overheid heeft sinds 2014 ook een nudge team. Het ministerie van Infrastructuur en Milieu zet kennis van psychologische gedragsinterventies in bij de ontwikkeling van campagnes zoals ‘de Bob’ en ‘van A naar Beter’. Gedragskennis wordt daarnaast ook ingezet bij beleidsontwikkeling om de effectiviteit van het beleid te vergroten.

Onbewust worden wij continu genudged door organisaties die ons proberen aan te zetten tot gewenst gedrag. Wij verzetten ons er niet tegen en zoeken het soms bewust op. Zo gaat mijn horloge trillen als ik een tijdje stilzit met een aansporing ‘beweeg!’ En als ik mijn stappendoel heb gehaald verschijnt er een vuurwerkanimatie op het scherm en ‘doel gehaald!’ Dat brengt mij op het idee om overheidsambtenaren een subtiel duwtje te geven voor meer transparantie. Burgers willen graag weten wat de overheid doet met hun belastinggeld. Ook willen we bijvoorbeeld graag meer inzicht in overheidscontracten, aanbestedingen en overheidsingrepen in onderzoeksrapporten alvorens deze verschijnen. De nudge kan worden geleend van de Efteling. Daar staat sinds jaar en dag een Holle Bolle Gijs die voortdurend “papier hier” roept en “dank u” zegt als je iets in zijn mond gooit.

Klantbelang

Zestien jaar geleden werd het startsein gegeven voor de modernisering van de Gemeentelijke Basisadministratie Persoonsgegevens op basis van het advies van de commissie Snellen. De modernisering beoogde de toegankelijkheid van persoonsgegevens te verbeteren door gebruik van moderne ICT-toepassingen. Een versnelling van de uitwisseling van gegevens tussen gemeenten onderling en tussen gemeenten en geautoriseerde afnemers was het doel. Deze week kwam een voorlopig einde aan die langgekoesterde ambitie. Het project voor de vernieuwing van het voormalige bevolkingsregister werd stopgezet.

De overheid zou veel kunnen leren van ontwikkelingen die banken hebben doorgemaakt bij digitalisering van hun klantprocessen. Zo was de Postbank amper twintig jaar geleden nog de giro-blauwe bank van het postkantoor, de girobetaalkaarten en de portvrije enveloppen. Tien jaar geleden maakte giro-blauw plaats voor ING-oranje. De ING-bank is inmiddels een digitaal bedrijf. Klanten van de bank kunnen online in één oogopslag al hun rekeningen, creditcard- en hypotheekgegevens zien, zonder zich voor elk product opnieuw te hoeven aanmelden.

Bij digitale transformatie draait het volledig om de klant. Die verlangt in het huidige digitale tijdperk altijd online toegang via meerdere kanalen, gebruikersgemak en gepersonaliseerde dienstverlening. Gebruikerservaring is vandaag de dag cruciaal voor iedere organisatie en bepalend voor succes of falen. Dat proces is nooit af. Continu wordt gewerkt aan verbetering van gebruikerservaring. Daarbij moet ook rekening worden gehouden met technologische ontwikkelingen en verschuivende kanaalvoorkeur bij klanten. Opkomende kanalen zijn bijvoorbeeld communities en chatbots, terwijl het belang van traditionele kanalen, zoals telefonie, afneemt.

ING digitaliseert de klantprocessen via een zogenaamd wasstratenprogramma. Het wassen van de klantprocessen moet het voor klanten nog simpeler en begrijpelijker maken, met als doel de dienstverlening te verbeteren. Zo wordt nooit tweemaal om dezelfde gegevens gevraagd, is de beleving via alle kanalen identiek en wordt in ieder proces de klanttevredenheid gemeten. De focus ligt op de tevredenheid van klanten. Het proces voor het openen van een jongerenrekening is bijvoorbeeld teruggebracht tot vier clicks. Een nieuw rekeningnummer kan direct worden geopend. Daardoor is de klanttevredenheid aanzienlijk toegenomen en de uitval gereduceerd van 10 tot 1 procent.

De overheid slaagt er in meer dan tien jaar niet in om persoonsgegevens van de bevolking te digitaliseren. Een commercieel bedrijf was al na een jaar failliet gegaan. Zo niet onze overheid. De minister laat nu een drietal onafhankelijke deskundigen, ondersteund door een klein secretariaat en een klankbordgroep, een bezinning uitvoeren. Bij een bedrijf staan voortdurend verbeteren en tevredenheid van klanten centraal. Bij de overheid vergt elke vorm van modernisering heel veel tijd en draait alles om de overheid. De eigen processen worden gedigitaliseerd en overheidsklanten moeten zich daarnaar voegen.

Boulevard of Broken Dreams

De overheid en commerciële ICT-bedrijven vormen al jaren een slecht huwelijk. ICT-bedrijven klagen over de voortschrijdende juridificering van de aanbestedingspraktijk. De overheid voelt zich volkomen afhankelijk van ICT-bedrijven, die de overheid voornamelijk als melkkoe gebruiken. Vraag opdrachtgevers binnen de overheid naar hun ervaringen met ICT-bedrijven en hun oordeel liegt er niet om:

  • De teleurstelling overheerst
  • Wij zien leveranciers als zakkenvullers
  • (Monopolie) positie leverancier bepaalt de samenwerking
  • Het valt in de praktijk altijd tegen en na de gunning zit je er aan vast

Een goede relatie is altijd gebaseerd op wederzijds vertrouwen. Dat vertrouwen is beschaamd. ict-bedrijven mogen zich dit aantrekken. Zij hebben lang meer oog gehad voor (bescherming van) eigen omzet dan voor belangen van overheidsklanten. In reactie daarop zijn de aanbestedingsregels aangescherpt en hebben overheidsorganisaties contacten met leveranciers op een laag pitje gezet. Deze maatregelen werken veelal contraproductief. Hoe kunnen overheid en ICT-bedrijven beter samenwerken? Hoe kom je uit de kramp?

De sleutel bij het herwinnen van wederzijds vertrouwen ligt bij het bouwen van pre-competitieve relaties tussen overheid en bedrijven. Overheidsorganisaties kunnen zich daarbij oriënteren op de kennis en het aanbod van de markt en daar hun inkoopbeleid en aanbestedingen op afstemmen. Bedrijven kunnen de klantbehoefte achterhalen en hun verkoopkans inschatten en beïnvloeden. Bedrijven die voorafgaand aan een aanbesteding geen contact hebben gehad schatten hun winkans laag in en zullen de aanbesteding afkwalificeren. Overheidsorganisaties die leverancierscontacten mijden profiteren daardoor onvoldoende van marktwerking. Zij moeten rekening houden enkel aanbiedingen te krijgen van huisleveranciers  en werken zelf vendor lock-in in de hand.

Het zou helpen als overheidsorganisaties beter inzicht krijgen in belangen van ICT-bedrijven. Tijdens workshops leg ik uit hoe ICT-bedrijven werken. Waar worden zij op afgerekend en wat zijn hun drijfveren? Die elementen zijn bepalend voor het gedrag van ICT-bedrijven. Ik laat het dashboard van ICT-projecten van de Rijksoverheid zien: alle projecten staan op groen. Daarna toon ik het dashboard van dezelfde projecten van een ICT-bedrijf en bijna alle projecten staan op rood. Waar sturen ICT-bedrijven op? Welke onderdelen staan op rood? En waarom? De workshopdeelnemers zijn ambtenaren die al jarenlang opdrachten geven aan ICT-bedrijven, maar zij weten de antwoorden op die vragen meestal niet. Ik pleit voor meer openheid en transparantie tussen overheid en ICT-bedrijven. Door een beter wederzijds begrip kunnen cultuurverschillen makkelijker worden overbrugd.

Een van de cursisten had bij ICT-bedrijven de associatie: ‘boulevard of broken dreams’. Dat associeer ik op mijn beurt weer met de songtekst van het gelijknamige nummer van de Amerikaanse rockband Green Day: ‘Ik loop alleen. Ik loop alleen. Mijn schaduw is het enige dat langs me loopt’.

De overheid staat niet alleen en heeft de ICT-markt nodig. Laten overheid en ICT-bedrijven elkaar vasthouden om de grote uitdagingen op digitaal gebied aan te gaan. De ICT-markt is inmiddels volwassen en heeft de overheid veel te bieden.

Moderne tijden

De film Modern Times uit 1936 is een satire op de voortschrijdende industrialisatie in het begin van de twintigste eeuw. We zien arbeiders, bewaakt door camera’s en beeldschermen, monstrueuze machines bedienen. Een van hen is Charlie Chaplin, een zwerver. Hij werkt aan een lopende band en draait voortdurend bouten en moeren aan. Tussen alle slaafse wezens die de fabriek bevolken weet hij als enige zijn menselijkheid te bewaren.

De industrialisatie werkte dehumanisering in de hand. Arbeiders werkten onder miserabele omstandigheden aan de lopende band en verloren binding met het eindproduct.  De vervreemding van arbeiders na de industriële revolutie toont gelijkenis met onze huidige onderwerping aan de systemen. De moderne mens is verworden tot systeemslaaf, van wie het gedrag in toenemende mate kan worden gemanipuleerd. Door middel van data tracking en profiling wordt toegang verkregen tot persoonlijke informatie die als basis wordt gebruikt voor controle en beïnvloeding van mensen.

De Duitse filosoof Jürgen Habermas maakte een onderscheid tussen de ‘systeemwereld’ en ‘leefwereld’. De systeemwereld is alles wat mensen ontwikkeld hebben aan instellingen en structuren voor regulering op gebieden van o.a. economie, politiek, onderwijs, wetenschap, overheid, gezondheidszorg, verzorgingsstaat en rechtspraak. De leefwereld is het privé domein, waarin de mensen met elkaar omgaan buiten de systemen. In het verleden bestond een samenleving bijna helemaal uit ‘leefwereld’, maar in de moderne tijd is een steeds groter deel ‘systeemwereld’ geworden. De systeemwereld heeft vooruitgang gebracht en daar betalen we een prijs voor in de vorm van hebbelijkheden en onhebbelijkheden van vele systemen. (van der Lans 2010: 46)

De systeemwereld dijt uit en lijkt steeds verder af te drijven van de leefomgeving van mensen. De systeemwereld houdt te weinig rekening met individuele behoeften van mensen. Mensen herkennen zich niet in de abstracte systeemwereld. Mantelzorger Annette Stekelenburg vertolkt dit gevoel treffend op haar website: “Het meeste last heb ik van systemen, regels en protocollen. Niet de dagelijkse zorg maakt me moe, boos of verdrietig, maar de systemen, regels en protocollen en niet te vergeten de professionals die ons onze kracht afnemen door de regie uit handen te nemen. Mijn gezin is niet in een regeling te vangen, dat snapt iedereen. Wij zijn de uitzondering op de regel. Wij passen niet in het systeem.”

Mensen begrijpen de systeemwereld niet. De systeemwereld begrijpt zichzelf vaak ook niet. Het is een ongelijksoortige verzameling van systemen en subsystemen. Die zijn vaak een doel op zich en werken niet altijd even goed samen. Mensen worden daarvan de dupe. Zo werd uit de verhoren van de parlementaire enquête naar de Fyra duidelijk dat alle betrokken actoren – zoals de politiek, het ministerie, Nederlandse en Belgische Spoorwegen, Italiaanse treinenbouwer en inspectie – keurig hebben gehandeld binnen hun eigen werkterrein. Daarbij bediende ieder op zich het eigen belang. Dit belemmerde het dienen van het overkoepelende belang, namelijk het verbeteren van de vervoersmobiliteit. De titel van het eindrapport vat het probleem kort samen met ‘Reiziger in de kou’.

In onze moderne tijden verschuift het zwaartepunt in de richting van de systeemwereld. De systeemwereld en leefomgeving moeten meer in balans komen. Mensen en belangengroeperingen verzetten zich in toenemende mate tegen onbegrijpelijke regels, systemen en procedures waarbij het uiteindelijke doel soms helemaal uit het oog is verloren. Klagen helpt al lang niet meer. Een hedendaagse Charlie Chaplin is veel effectiever.