Vertrouwen in AI

Met de groei van kunstmatige intelligentie (AI) in de dienstverlening neemt ook de aandacht voor ethische kwesties toe. Consumenten willen weten met wie zij in gesprek zijn en op welke gronden voor hen wordt besloten. Het ontbreekt veelvuldig aan transparantie en vooroordelen lijken een belangrijke rol te vervullen bij AI-systemen die worden getraind met data die door mensen zijn geproduceerd.

Bedrijven gebruiken veelvuldig AI voor één-op-één marketing. Zij beogen daarmee de klantbeleving te optimaliseren door het sturen van boodschappen die tijdig, persoonlijk en relevant zijn voor de ontvanger. Daarbij moet de juiste balans worden gevonden tussen het klantbelang en het commerciële belang van de aanbieder. Daar gaat het dan meestal mis: de context klopt meestal wel, maar als consument ben je meestal niet gebaat bij een ongevraagd commercieel advies. Zo ontving ik een week na mijn terugkeer van een citytrip in Barcelona een aanbieding van dezelfde luchtvaartmaatschappij voor voordelige vluchten naar Barcelona. Dat is een merkwaardig bericht, want de kans dat je als toerist twee keer kort achter elkaar dezelfde stad bezoekt lijkt mij minimaal.

Veel bonter maakte verhuurmaatschappij Airbnb het voor mij deze maand. De avond voorafgaand aan mijn vertrek naar La Bresse voor een fietsvakantie in de Vogezen ontving ik per sms het bericht: “Je verhuurder heeft je reservering geannuleerd. We hebben € teruggestort naar je account.” Een uur na dit bericht ontving ik een mail van Airbnb met de volgende aanhef: “Reistip: reserveer je reis naar La Bresse ten minste 2 maanden van tevoren.” Blijkbaar loopt de operatie (boeken en betalen) en de marketing (gebaseerd op klikgedrag op hun website) volledig gescheiden bij Airbnb. Daar heb ik als consument natuurlijk geen boodschap aan. Uiteraard ga ik dus ook niet opnieuw boeken bij een verhuurbedrijf dat mijn vakantie in de war stuurt, terwijl ik het punt sta te vertrekken, zonder een pasklaar alternatief te bieden.

Het onderzoeksbureau Savanta vroeg 5.000 consumenten wereldwijd naar hun mening over AI en daarmee verbonden ethisch gedrag. Uit het onderzoek dat Savanta uitvoerde in opdracht van Pegasystems bleek dat consumenten nog weinig vertrouwen hebben in AI en de voordelen daarvan niet inzien. Minder dan 30 procent ​​geeft aan dat zij zich prettig voelen bij bedrijven die AI gebruiken. Meer dan de helft (53 procent) zegt dat AI vooroordelen meeneemt in de wijze waarop het beslissingen neemt. Een grote meerderheid van 70 procent spreekt liever met een mens dan met een chatbot in het contact met de klantenservice. Daarnaast geeft 69 procent van de respondenten aan dat zij eerder geneigd zijn de waarheid te vertellen aan een mens dan aan een AI-systeem. 

Respondenten zeggen dan wel AI-systemen te wantrouwen, maar handelen zij daar dan ook naar? In de praktijk laten mensen zich toch nog makkelijk beïnvloeden. Zo vergaarde het nep-profiel van Katie Jones op LinkedIn connecties van hoog niveau in de Amerikaanse politiek en zakenleven. Wie er achter het vriendelijk glimlachende nep-dame zit is niet bekend. Het prachtige CV en zelfs de foto zijn volledig gemaakt door AI. Naar verwachting hebben buitenlandse spionnen vanachter hun computer Katie ingezet als lokaas. Via vriendschapsverzoeken naar duizenden doelwitten konden zij via het nep-profiel infiltreren in een netwerk op topniveau.

Ongemerkt wint de toepassing van AI steeds meer terrein. Bedrijven in de VS zijn wereldwijd exporteur van AI-toepassingen. In China dringen zowel de staat als de platformen van techgiganten Alibaba en Tencent door tot in de haarvaten van mensen in dat land. Europa moet nog een flinke kenniskloof dichten met de VS en China. Daarin kunnen we ons onderscheiden met toepassingen voor maatschappelijke vraagstukken zoals mobiliteit, veiligheid en zorg. Door het terugdringen van de anonimiteit en vergroten van de transparantie bij AI-toepassingen kan het vertrouwen van consumenten worden teruggewonnen. De AI Coalitie presenteert daarvoor een ambitieus position paper met een Nederlandse visie op de toekomst van AI.

Ontwikkelen als Spotify

Overheden wereldwijd staan voor een forse vervangingsopgave van verouderde informatiesystemen. Die operatie is niet zonder risico. Uit internationaal onderzoek blijkt dat 45 procent van de vervangingsprojecten geheel of gedeeltelijk mislukt. Een meerderheid van 60 procent van alle projecten levert minder waarde dan verwacht, terwijl 17 procent zelfs rampzalige gevolgen heeft voor de organisatie. Er is een betere benadering dan het één op één vervangen van de bestaande systeemerfenis. Het gaat in feite om een grondige modernisering van overheidsorganisaties. Dit vergt een fundamentele transformatie.

Eenzijdige focus op technologie is de belangrijkste valkuil bij vernieuwingsprojecten. De aandacht kan beter worden verlegd naar de toegevoegde waarde die de organisatie wil leveren. Bij digitale transformatie draait het om het op maat bedienen van de klant. Voor overheidsorganisaties, die veelal hiërarchisch worden aangestuurd en in afdelingen taakgericht bezig zijn, is dit een grote veranderopgave. Niet langer de interne taken, maar de klantreis en voortdurend afstemmen op een (veranderende) klantbehoefte komen centraal te staan. Het is een grote verandering van organiseren en werken: de organisatie wordt ingericht op wendbaarheid. Bedrijven als Google, Zappos en Spotify lopen daarin voorop en werken volledig agile. Het organisatiemodel van Spotify met zelfsturende teams dient voor veel grote organisaties, waaronder ING, als voorbeeld.

Technologie maakt wendbaarheid  en continu aanpassen aan veranderende omstandigheden mogelijk. Dat biedt kansen voor overheidsorganisaties die in toenemende mate worden gedreven door data. Voorwaarde voor wendbaarheid is een optimale inzet van standaard technologie die meegroeit met technische ontwikkelingen. Maatwerk belemmert juist de wendbaarheid en moet zoveel mogelijk worden voorkomen. De technologie moet bewezen veilig en betrouwbaar zijn. Het moet handmatige werkzaamheden automatiseren en de juiste beslissingen helpen voorbereiden. Klanten moeten tijdig worden voorzien van relevante informatie voor hun persoonlijke situatie.

Het doorvoeren van de veranderingen in de organisatie, processen en systemen vergt een hechte en gelijkwaardige samenwerking tussen alle disciplines: management, gebruikers en IT’ers. De silo’s binnen een organisatie moeten worden doorbroken. Co-creatie is het nieuwe toverwoord. Het is een vorm van samenwerking waarbij alle deelnemers evenveel invloed hebben op het voortbrengingsproces en het resultaat. Het is een proces waarbij in korte sprints binnen een aantal maanden het eerste resultaat gereed is en in gebruik wordt genomen. Daarna wordt continu doorontwikkeld. Het is nooit volledig af. De traditionele watervalaanpak, waarbij voorafgaand aan de realisatie alles in een ontwerp wordt vastgelegd, wordt losgelaten.

Het spreekt voor zich dat een wendbare overheid moet stoppen met resultaatgericht aanbesteden. Een gemiddelde aanbesteding vergt namelijk meer dan een jaar. Tegen de tijd dat de opdracht kan worden gegund, is de technologie verouderd en zijn de doelstellingen achterhaald. De overheid moet dus innovatief inkopen en onderling de samenwerking opzoeken. Een voorbeeld van geslaagde Rijksbrede samenwerking is het standaard herbruikbaar platform RijksZaak.

RijksZaak is met name geschikt voor organisaties die hun primaire proces optimaal willen inrichten met de nieuwste technologie. Het stelt organisaties in staat de kwaliteit en doorlooptijd van processen beter te bewaken. RijksZaak maakt het mogelijk snel en doeltreffend in te spelen op nieuwe wet- en regelgeving en mee te bewegen met ontwikkelingen in de samenleving. Burgers en bedrijven kunnen met RijksZaak de afhandeling van zaken eenvoudiger en beter volgen.

Werken waar het werk is

Uitvoerders van de publieke zaak (waaronder arts, leraar, politieagent, rechter, gemeente beambte, UWV-medewerker) hebben één ding met elkaar gemeen. Zij zijn onderworpen aan de spelregels van een kunstmatig gecreëerde markt en worden gedwongen in een keurslijf van productienormen, protocollen en modellen. Daardoor moeten zij noodgedwongen veel tijd besteden aan administratie- en rapportageplicht. Kostbare tijd die ten koste gaat van het contact met de patiënt, leerling, burger of cliënt.

Uitvoerders voelen zich opgezadeld met overbodig tijdrovend werk. Ze moeten plannen opleveren, contactjournaals bijhouden en allerhande formulieren invullen zonder te weten wat met die informatie wordt gedaan. Daarbij komt dat ze veelal moeten werken met diverse systemen die niet op elkaar zijn aangesloten. Het administratieve werk bestaat voornamelijk uit informatie zoeken, plak- en knipwerk, mailverkeer en bijhouden van planningsoverzichten en actielijsten. De Amerikaanse antropoloog Graeber noemt de mensen die dit werk doen Ducktapers. Zij houden zich bezig met het oplossen van problemen die eigenlijk geen probleem zijn of die makkelijk geautomatiseerd kunnen worden. Een voorbeeld daarvan is de zorgverlener die meer dan 40 procent van zijn tijd kwijt aan het vergaren en creëren van informatie over patiënt en behandelkeuzes.

Uitvoeringsorganisaties zadelen hun medewerkers op met een groot aantal onsamenhangende en deels overlappende applicaties ter ondersteuning van hun administratieve werk. Inefficiënte software en onsamenhangende bedrijfsprocessen belemmeren de productiviteit van veel medewerkers. Dit blijkt uit een analyse die Pega uitvoerde van 5 miljoen uur aan desktopactiviteit van administratieve medewerkers. Het onderzoek toont aan dat medewerkers gemiddeld elke minuut – dagelijks meer dan 1.100 keer – moeten schakelen tussen 35 kritische bedrijfsapplicaties. Dat maakt hun werk onnodig complex en inefficiënt en leidt tot frustraties. Medewerkers maken onnodige vergissingen en verrichten overbodige handelingen die ook geautomatiseerd kunnen worden:

  • Werknemers verrichten dagelijks gemiddeld 134 ‘knip en plak’ handelingen, dit toont aan hoe vaak medewerkers met dezelfde gegevens tussen applicaties moeten schakelen om een taak te kunnen afronden.
  • Medewerkers maken per dag 845 typefouten, of bij iedere 14 toetsaanslagen, een reden te meer om hun workflow te automatiseren en zo de kans op handmatige fouten te verkleinen.
  • Slechts 28 procent van de actieve werktijd wordt besteed in gestructureerde applicaties versus losse kantoorsoftware zoals spreadsheets en tekstverwerking. Dit impliceert dat het gebruik van deze gestructureerde applicaties niet genoeg is.

Daarnaast zijn er de nodige gebeurtenissen die werknemers afleiden van hun productieve taken:

  • Werknemers controleren 10 keer per uur, ofwel elke 6 minuten, hun e-mail gedurende hun werkdag.
  • Medewerkers besteden 13 procent van hun tijd aan e-mails, waarvan slechts 23 procent bijdraagt aan daadwerkelijke waarde creatie voor de organisatie.
  • Mensen met langere werkdagen, maken negen procent meer fouten dan degenen die minder uren maken. Een bewijs dat de aandacht na een lange werkdag verslapt.

Digitale transformatie zorgt voor optimale aansluiting van het werk op het voortbrengingsproces, ofwel de klantreis. Bij dienstverlening wordt de invoer door zelfbediening verlegd naar de bron, de eindklant. Data wordt in toenemende mate op natuurlijke wijze vergaard, bijvoorbeeld door spraak, via sensoren of slimme koppelingen. Daardoor wordt het werk achter een desktop tot een minimum beperkt en kunnen meer handen aan het bed en kan meer blauw op straat. Uitvoerders van de publieke zaak moeten weer kunnen werken waar het werk is.

Omissie van de commissie

Verouderde systemen vormen een blok aan het been van vrijwel iedere organisatie binnen de publieke sector. Volgens analisten gaat inmiddels 80 procent van de ICT-budgetten op aan het in standhouden van legacy. Dat percentage neemt ieder jaar verder toe. De Belastingdienst moet jaarlijks zelfs miljoenen extra uittrekken om de continuïteit van de belastinginning te waarborgen. De organisatie werkt met zo’n zeshonderd grotendeels verouderde transactiesystemen. Die systemen vormen een belemmering voor digitale wendbaarheid. Maar de systemen bevatten ook veel businesswaarde die in lange tijd is opgebouwd.

Publieke uitvoeringsorganisaties ervaren de problemen bij het beheer van hun legacy systemen. Veel van de systemen zijn slecht gedocumenteerd en de kennis om ze te onderhouden wordt schaars. De systemen zijn complex en bevatten vaak verlopen licenties, onbekende softwarefouten en componenten waar geen support meer voor bestaat. De beveiliging laat te wensen over, waardoor de organisatie kwetsbaar is voor cyberdreigingen. Oplopende kosten en beperkte aanpasbaarheid zijn problemen die intern opgevangen kunnen worden. Maar de organisatie staat volop in de schijnwerpers als de continuïteit van de dienstverlening in het geding is als gevolg van storingen, onbetrouwbare verwerking of datalekken.

Organisaties binnen de publieke sector maken werk van de vervanging van hun legacy, maar die operatie is niet zonder risico’s. Wat je in dertig jaar tijd hebt opgebouwd kun je niet binnen een paar jaar vervangen. Een aantal ambitieuze vernieuwingsoperaties binnen het Rijk draaide uit op een fiasco. Zo stopte de Belastingdienst na negen jaar en 203 miljoen de ontwikkeling van het computersysteem ETPM dat de inning álle belastingen en uitbetaling van álle toeslagen, voorschotten en verrekeningen zou moeten regelen. Het Wia-project van UWV moest de opvolger van de WAO in goede banen leiden, maar werd na drie jaar en investering van 87 miljoen euro stilgelegd. De SVB stak 43 miljoen euro in de ontwikkeling van een Multiregelingensysteem, maar het systeem heeft geen moment gefunctioneerd.

Een parlementaire onderzoekscommissie deed vier jaar geleden onderzoek naar mislukte ICT-projecten van de overheid. In het eindrapport van de commissie wordt met geen woord gesproken over de achtergrond van het falen, de legacy erfenis en de oplopende beheerkosten. Om een vermeende jaarlijkse verspilling van 1 tot 5 miljard aan mislukte ICT-projecten te voorkomen moest een tijdelijk bureau voortaan alle ICT-plannen boven de 5 miljoen euro toetsen op haalbaarheid. Deze maatregel lost helaas geen fundamentele problemen op. Het is een vorm van symptoombestrijding, want het bureau verstrekt overwegend risicomijdende adviezen. Het versterkt de afkeer van fundamentele businessveranderingen en digitale transformatie bij publieke uitvoeringsorganisaties. Organisaties kiezen bij het doorvoeren van veranderingen veelvuldig voor maatwerk, gebaseerd op verouderde technologie, om de continuïteit van de bedrijfsvoering niet in gevaar te brengen. Dat is slechts een kortetermijnoplossing. Op de lange termijn vergroot het de problemen van de legacy, met toenemende instabiliteit en verder oplopende beheerkosten tot gevolg.

De legacy is een tikkende tijdbom die snel onschadelijk gemaakt moet worden. Maar in één keer vervangen is ook geen verstandige optie. Snelle modernisering van een verouderd IT-landschap kan worden gerealiseerd door met standaard technologie een brug te slaan tussen de oude transactiesystemen en nieuw te realiseren businessprocessen. De businesswaarde die in tientallen jaren is opgebouwd wordt dan behouden en benut. Daarnaast kan budget worden vrijgemaakt door ketengericht te denken en werken. Binnen ketens zijn soms wel dertig verschillende zaaksystemen in gebruik, bijvoorbeeld in de jeugdzorg of in het strafrecht. Iedere schakel binnen de keten heeft zijn eigen legacy systemen. Daar kan één vervangend systeem, dat gebruik maakt van de aanwezige data en generieke componenten, voor in de plaats komen. Zo wordt een groot deel van de 80 procent voor instandhouding van de legacy vrijgemaakt voor innovatie.

Aanbestedingspraktijk is gereguleerd wantrouwen

‘Welke ondernemer wil nog werken voor een overheidsdienst? Veel ondernemers al jaren niet meer, omdat gemeenten en andere overheidsinstellingen onmogelijke eisen stellen en veel bureaucratie veroorzaken. En er wordt al jaren over gepraat over hoe wij die praktijk van overheidsaanbestedingen kunnen verbeteren.’ Dit was de inleiding van een interview dat ik acht jaar geleden had voor VNO-NCW over het voorstel voor een nieuwe aanbestedingswet.

De lobby van de ondernemingsorganisatie heeft indertijd bijgedragen aan een verbetering van het aanbestedingsbeleid voor het MKB en grote ICT-bedrijven. In de aanbestedingswet die op 1 april 2013 inging werd bepaald dat overheidsdiensten die een opdracht aanbesteden geen onredelijke eisen en voorwaarden mogen stellen. Enkele jaren later ging de aanbestedingswet opnieuw op de schop. De aanbestedingsrichtlijnen van de Europese Commissie moesten een bijdrage leveren voor minder administratieve lasten, betere toegang voor het MKB tot overheidsopdrachten en ondersteuning voor innovatie en duurzaamheid. De nieuwe wet, die 1 juli 2016 in werking trad, regelt onder meer een volledig digitale afhandeling van de aanbestedingsprocedure, meer flexibiliteit in de aanbestedingsprocedure en meer duurzaamheid en innovatie in overheidsopdrachten.

De digitale afhandeling van aanbestedingen is een grote verbetering ten opzichte van de tijd waarin bedrijven nog dozen met documenten naar de overheid moesten verschepen bij inschrijving op een aanbesteding. Het levert een belangrijke aan verlaging van administratieve lasten voor bedrijven. In de huidige aanbestedingspraktijk heb ik nog weinig gemerkt van toepassing van meer flexibiliteit. Ik constateer dat er juist steeds meer regels, richtlijnen en voorschriften bij zijn gekomen. Niet de resultaat van een aanbesteding (bijvoorbeeld aanschaf van het beste product of uitvoering van een geslaagd project) staat centraal, maar het proces van de aanbestedingsprocedure zelf. Zo verloor Capgemini onlangs een rechtszaak vanwege een te klein lettertype. Het bedrijf had door het verkleinen van een tabel een voorschrift overtreden en werd uitgesloten van de aanbesteding. Het bedrijf kreeg geen kans de fout recht te zetten en stapte naar de rechter. Die gaf de overheid gelijk. De vormvereisten zijn er niet voor niets, zo oordeelde de rechter.

ICT-leveranciers die zaken doen met zowel private bedrijven als overheidsorganisaties ervaren een wereld van verschil in de aanbestedingspraktijk tussen beide markten. Een verschil dat steeds groter lijkt te worden. Bedrijven oriënteren zich actief op het aanbod in de markt. Zij voeren gesprekken met leveranciers, wonen demonstraties bij, bezoeken beurzen en raadplegen analisten. Inkopers van de overheid mijden ieder contact en blijven op veilige afstand van aanbieders in de markt. Via marktconsultaties doen zij alle communicatie schriftelijk af. Leveranciers worden in een consultatie uitgenodigd een lijst van overwegend gesloten vragen te beantwoorden. Die hebben geen flauw benul wat overheidsinkopers met hun aanbevelingen doen en krijgen dat achteraf ook zelden te horen. Algemeen wordt aangenomen dat het slechts een formele stap is in het inkoopproces, waarbij inkopers een vinkje achter consultatie kunnen zetten.

Tijdens de selectiefase van een aanbesteding hebben bedrijven intensief contact met IT-leveranciers. Die moeten in praktijkproeven hun toegevoegde waarde aantonen. De overheid daarentegen verbiedt ieder persoonlijk contact met leveranciers tijdens de aanbesteding op straffe van uitsluiting. Gegadigden mogen slechts via een digitaal kanaal vragen stellen en moeten daarna genoegen nemen met antwoorden in  een nota van inlichtingen. Bij inschrijving op de aanbesteding moeten leveranciers onverkort alle voorwaarden accepteren die eenzijdig door de overheid worden opgelegd. De contractering met private bedrijven daarentegen wordt bezegeld met een handdruk na intensieve onderhandelingen vanuit wederzijds belang. Tijdens de selectiefase heeft het bedrijf de leverancier goed leren kennen en een vertrouwensband op kunnen bouwen. Dit staat haaks op de aanbestedingspraktijk van de overheid, die is gebaseerd op regels, voorschriften en wederzijds wantrouwen.

Digitale pottenkijkers

Als je op het perron op een trein wacht en een reclamebericht bekijkt, dan wordt jouw belangstelling misschien geregistreerd door een verborgen camera in de reclamezuil. Op die manier kunnen adverteerders de populariteit van hun advertentie meten. Mogen verborgen camera’s in reclamezuilen registreren hoe lang je naar de advertentie kijkt? Ja, zegt 25 procent van de ondervraagden in een enquête van iBestuur. Een grote meerderheid van 74 procent stelt dat niet op prijs en 1 procent heeft geen mening.

Met behulp van Deep Learning technieken kan de computer emoties afleiden. Het herkennen van personen op basis van camerabeelden door vergelijking met een foto’s uit bijvoorbeeld sociale media is eveneens technisch mogelijk. De verborgen camera’s mogen geen persoonsgegevens verzamelen die zijn te herleiden tot personen. Het is dus de vraag of de NS met haar slimme reclamezuilen de privacywet overtreedt. Als de camera’s alleen patronen en bewegingen registreren, dan is er weinig aan de hand. Als de gefilmde personen duidelijk in beeld zijn, dan is het in strijd met de wet. In dat geval moeten de reizigers er van op de hoogte zijn dat ze worden gefilmd en daarvoor vooraf toestemming verlenen.

Wat wij in de openbare ruimte nog ontoelaatbaar vinden is in de digitale wereld allang realiteit. Achter ons beeldscherm voelen wij ons onbespied, maar ondertussen wordt elke stap op het internet in de gaten gehouden. Vrijwel alle websites bevatten trackers die bijhouden wat je daar doet en wie je bent. Je routine, je voorkeuren, alle kleine stukjes worden bij elkaar gebracht om een persoonlijk profiel op te bouwen. Dat profiel kan worden gebruikt om persoonlijk advies te geven over aankoop van producten, gepersonaliseerde advertenties en aanbiedingen te presenteren en relevante informatie te tonen. De profielen worden ook verhandeld door datahandelaren.

Op basis van profielen voeren zoekmachines en sociale media gepersonaliseerde zoekopdrachten uit. Je krijgt alleen artikelen, nieuwberichten, muziek, video’s en boeken te zien die aansluiten bij jouw voorkeur. Dat lijkt een voordeel, maar in de praktijk word je een filterbubbel ingetrokken. Op basis van jouw klikgedrag, locatie en zoekgeschiedenis krijg je alleen die informatie te zien die past bij jouw voorkeuren. Ondoorzichtige algoritmes zuigen je in een web van eentonigheid dat steeds minder afwijkende, vernieuwende en verbredende ideeën, meningen en ervaringen bevat. De belangrijkste voorbeelden van de filterbubbel zijn resultaten van Googles Personalized Search en van Facebooks personalized news stream.

Wat kun je doen om de negatieve effecten van pottenkijken, datahandel en manipulatie in de digitale wereld te beperken? Natuurlijk kun je de veiligheidsinstellingen aanpassen en de toegang tot bijvoorbeeld locatie, contacten en camera beperken. Je kunt ook een stap verder gaan: verwijder je Facebook account, gebruik Firefox als standaard browser, zoek met DuckDuckGo en installeer plug-in Pricacy Badger. Deze plug-in herkent en blokkeert tracking cookies voor relevante advertenties. Uiteraard moet je ook de webcam afplakken om digitale pottenkijkers tegen te gaan. Mark Zuckerberg doet dat met een plakbandje. Inmiddels zijn ook fraaie schuifjes (voor 10 euro Nederlands product Spy-Fy) in de markt om de camera af te dekken.

De volledige uitkomsten van de enquête zijn hier terug te vinden.

Geen overheidsbesluit gebaseerd op foute registratie

Uitkomsten enquête ethische dilemma’s en technologie

Negen op de tien respondenten accepteert niet dat een overheidsbesluit (bijvoorbeeld over een uitkering of een vergunning) gebaseerd is op een foutieve overheidsregistratie. Dat is een van de uitkomsten van een enquête over ethische Dillema’s in relatie tot technologie.

Uitgesproken waren de respondenten ook over de gezichtsherkenning van Facebook. 98 Procent van de ondervraagden accepteert niet dat Facebook (of een vergelijkbaar bedrijf) hun gezicht beschouwt als publieke informatie. Minder uitgesproken was de uitkomst op de vraag of mensen vertrouwen op een slimme pleister die continu de vitale lichaamsfuncties kan meten (45 procent vindt dat prima, 55 procent heeft daar problemen mee). Ook de vraag of mensen de zorg van hun hulpbehoevende moeder toevertrouwen aan een zorgrobot leverde niet al te veel verschil tussen voors en tegens op (42 procent vertrouwt dat de robot wel toe, 57 procent doet dat niet).

Groot verschil was er wel op de vraag of het verantwoord is als het ministerie van Defensie wapens inzet die zonder menselijke tussenkomst hun doelen selecteren. Bijna negen op de tien ondervraagden vindt dat niet verantwoord, iets meer dan 10 procent heeft daar geen bezwaar tegen. Eenzelfde verschil in voors en tegens treffen we aan bij de uitkomst op de vraag of het acceptabel is dat veiligheidsdiensten kwetsbaarheden in software die zij gebruiken in het kader van hun hackbevoegdheid bewust niet melden aan ontwikkelaars (waardoor ook criminelen hun slag kunnen slaan). Iets meer dan 10 procent vindt dat prima, de rest vindt dat niet prima of heeft geen mening.

De volledige uitkomsten van de enquête zijn hier terug te vinden.