zondag 11 maart 2018

Vertrouwen in de slimme samenleving

De samenleving wordt steeds complexer en slimmer. Denk aan zelfrijdende auto’s of aan ingenieuze algoritmes die dokters helpen om betere diagnoses te stellen. Die toenemende complexiteit roept belangrijke vragen op zoals kunnen we al die complexiteit nog wel overzien en zijn al die algoritmen en de bedrijven die ze toepassen wel te vertrouwen? In Vertrouwen in de slimme samenleving lezen we dat het antwoord ligt in ‘do it MAD’, doe het modulair, agile en decentraal. 



Hebben we nog wel grip?
Vertrouwen in de samenleving is geschreven door Sander Klous (o.a. hoogleraar aan de Universiteit van Amsterdam en KPMG) en Nart Wielard (adviseur, spreker en schrijver over maatschappij, technologie en bedrijfsleven). Hun boek gaat over twee belangrijke onderwerpen: (1) hebben we nog wel grip op de steeds complexer wordende maatschappij en (2) kunnen we de algoritmes die een steeds grotere rol gaan spelen op tal van gebieden wel vertrouwen, net als de bedrijven die ze ontwikkelen en toepassen?

Denk aan zelflerende machines en softwarealgoritmes die voor ons bepalen welke ziekte we hebben, of we een risico voor de maatschappij vormen, of we ons werk goed doen, of we in aanmerking komen voor een zorgverzekering of uitkering, etc.? Hoe weten we of die algoritmes juist en ethisch verantwoord zijn, hoe ze precies werken en dat er niet mee gesjoemeld wordt?

Toenemende complexiteit
Deel 1 van Vertrouwen in de slimme samenleving gaat over de toenemende complexiteit en de overgang naar een slimme samenleving op basis van de drie basisprincipes modulair, agile en decentraal, ofwel MAD. Het eerste hoofdstuk begint met de volgens auteurs grootste uitdagingen van onze tijd als het om complexiteit gaat: grip op de financiële industrie, complexiteit van het internet of things, flexibiliteit van organisaties en versimpeling van politiek.

Het lijkt een willekeurige greep uit de vele uitdagingen die we om ons heen zien, denk aan klimaat, water, migratie, ongelijkheid, etc. In het tweede hoofdstuk kijken de auteurs naar de lessen uit de informatietechnologie, zoals het decentrale karakter van het internet, en zoomen ze in op de sectoren energie en verkeer, waarbij men de verkeersrotonde als hét voorbeeld van een succesvolle MAD-oplossing ziet. Daarna komen in de hoofdstukken drie t/m zeven de onderwerpen zelfsturing, netwerken en platformen aan bod.

Rol van vertrouwen
Deel 2 gaat over de rol van vertrouwen in die slimme samenleving en de toepassing van MAD-principes om dat vertrouwensdoel te bereiken. Hoofdstuk acht t/m twaalf behandelt onderwerpen als geïnformeerd en gedistribueerd vertrouwen, vertrouwen in netwerken en algoritmes, een nieuw MAD-model voor toezicht en controle op algoritmes en een praktijkvoorbeeld aan de hand van de Amsterdam Arena over hoe MAD in de praktijk kan werken.

Het boek sluit af met een epiloog over het moment waarop we de grens van complexiteitsbeheersing bereiken. Namelijk wanneer er sprake is van ‘singularity’, het moment in de toekomst waarop de computer slimmer is dan de mens.

Conclusie: MAD
Het antwoord op de complexiteits- en vertrouwensvraag vatten de auteurs samen in hoofdstuk twaalf met de titel ‘Conclusie: hoe MAD in de praktijk kan werken’. Dit komt in het kort neer op:

  • Modulair: een grote complexiteit en diversiteit vraagt om een modulaire aanpak. Het opknippen van producten, diensten, processen of taken in modules helpt om met grote verscheidenheid om te gaan en complexiteit beheersbaar te maken.
  • Agile: een grote onzekerheid vraagt om een agile-aanpak. In situaties met grote onzekerheid (complexiteit, marktvraag, wetgeving, etc.) moet er in kortcyclische stappen worden gewerkt. Er zijn immers geen blauwdrukken te definiëren voor de juiste manier van werken. 
  • Decentraal: een snelle groei vraagt om een decentrale aanpak. Een decentraal model troeft centrale modellen af op snelheid van informatieverwerking. Er is sneller en gemakkelijker toegang tot kennis, kunde en capaciteit waardoor opschalen eenvoudiger is.       


Kronkelig pad
De aanloop naar deze conclusie loopt langs een kronkelig pad van twaalf hoofdstukken waarbij het soms lastig is om het betoog van de auteurs en de relaties tussen de verschillende onderwerpen te volgen. De structuur van het boek helpt daarbij niet echt.

Door de lessen uit de informatietechnologie als referentiekader te gebruiken ligt een eenzijdige techniekblik op de loer. Ook lijkt de link naar de MAD-filosofie soms wat gemakkelijk gelegd te worden (‘Wikipedia is een van de bekendste voorbeelden van een platform gebaseerd op de principes agile en decentraal’) en zien we regelmatig een ‘jump to conclusion’. Zo liggen volgens de auteurs de drie uitgangspunten modulair, agile en decentraal aan de basis van ‘harde’ infrastructuren zoals internet, wegennet en energievoorziening. Waarbij de auteurs agile zien als een manier om producten en diensten stap voor stap te verbeteren.

Ook kunnen we de grote vlucht die zelfsturing heeft genomen volgens de auteurs niet los zien van ‘de opkomst van internet, netwerken en de daarmee samenhangende dataficatie’. Hier valt wel wat op af te dingen. Denk aan Buurtzorg, de grote Nederlandse aanjager op het gebied van zelfsturing. Vooral succesvol door de visie en drive van oprichter Jos de Blok en niet zozeer door technologische ontwikkelingen.

Opvallend is ook het deel over de controle op algoritmes. Hierbij verwijzen de auteurs naar de accountancy als denkmodel voor de inrichting van de controle op algoritmes. Ook opteren de auteurs voor een oplossing waarbij de controle op algoritmes decentraal wordt belegd bij partijen en gebruikers die baat hebben bij de juistheid van die algoritmes (‘de kosten vallen dus waar de baten zijn’). Ik heb de oplossing ook niet direct voorhanden, maar gezien de grote schandalen in de accountancywereld van de afgelopen jaren, de fraudegevoeligheid van dit traditionele systeem en de slechte ervaringen met zelfregulering door marktpartijen op tal van gebieden, van kartelvorming en zelfverrijking tot online reviewfraude, is het de vraag of dit de juiste denkrichtingen zijn voor betrouwbare controles op complexe, allesbepalende algoritmes.

Belangrijk onderwerp
De auteurs bespreken in Vertrouwen in de samenleving een belangrijk onderwerp. Hoe krijgen wij vertrouwen in de samenleving door beheersing van de toenemende complexiteit en controle op alom aanwezige en levensbepalende algoritmen? De bouwstenen modulair, agile en decentraal die de auteurs aandragen kunnen bij de beantwoording van die vragen ongetwijfeld van dienst zijn, maar vormen slechts een klein deel van het antwoord.

Of zoals Cathy O’Neil, wiskundige en auteur van Weapons of Math Destruction, in het voorwoord schrijft: ‘Op de een of andere manier moeten we zorgen dat we de nieuwe algoritmes kunnen vertrouwen. Deze principes zouden daar een goed begin van kunnen zijn’.


Deze recensie is ook gepubliceerd op Managementboek.nl. Het boek Vertrouwen in de slimme samenleving is te koop op Managementboek.nl.

Geen opmerkingen:

Een reactie posten