Reflecties op (de toekomst van) digitalisering en democratie.
Een interview met Melanie Peters en Diederick Croese.

Frederik van Dalfsen (Redactie Jaarboek)

Chief Editor

Van de hoofdredacteur

Bijna aan het eind van het jaarboek gekomen is het tijd voor wat meer abstractie en afstand. Jaarboekredacteur Frederik van Dalfsen interviewde Melanie Peters (directeur Rathenau Instituut) en Diederick Croese (directeur SingularityU The Netherlands) over hun beelden en verwachtingen bij de toekomst van digitalisering en democratie. Gaan algoritmen en Artificial Intelligence de huidige democratie vervangen, of zal besluitvorming altijd mensenwerk blijven? En wat betekent dat voor de manier waarop we politiek bedrijven en besluiten nemen?

De redactie sprak met mevr. Dr. Ir. Melanie Peters (directeur Rathenau Instituut) en met dhr. Diederick Croese (directeur SingularityU The Netherlands) over hun beelden en verwachtingen bij (de toekomst van) digitalisering en democratie. Van beiden geen vergezichten voor over 30 jaar, maar een aantal beelden en  verwachtingen over wat de komende jaren ons gaan brengen, en wat die vragen van democratie in een digitaliserende tijd. We beschrijven hun perspectieven hieronder langs een aantal thema’s, waarbij we abstracter beginnen en wat concreter proberen te eindigen.

Dr. ir. Melanie Peters heeft een achtergrond in de wetenschap, industrie en het publiek domein. Sinds 1 januari 2015 is ze directeur van het Rathenau Instituut, dat onderzoek doet naar en debat aanjaagt over de impact van wetenschap, innovatie en nieuwe technologie op ons leven. Het Instituut is in 1986 ingesteld om de maatschappelijke betekenis van technologie voortaan systematisch te bestuderen.

Diederick Croese is sinds 2015 betrokken bij SingularityU The Netherlands als medeoprichter en CEO. Hij begon zijn carrière als advocaat waaronder vijf jaar bij Clifford Chance. Naast vrijwilligerswerk voor Holland Festival en TEDx Amsterdam werkte hij vervolgens voor Deloitte Innovation. Daar was hij onder andere medeoprichter van Deloitte Fast Ventures, een semantic search technologie om snelgroeiende tech bedrijven te vinden en vergelijken. In die periode was hij ook medeoprichter en directeur van Founder Institute Amsterdam en directeur van TEDx Amsterdam.

NB: we spraken beiden afzonderlijk in juni 2018.

Voor welke vraag is digitalisering eigenlijk de oplossing?

Beiden zien serieuze potentie voor digitalisering als versterking van de democratie. Dat strookt ook met een aantal bijdragen uit dit jaarboek. Maar een duidelijk verschil tussen beiden is de mate van optimisme. Daar waar Croese vooral mogelijkheden ziet en een pleidooi houdt voor het zorgvuldig omarmen van technologie, is Peters zeker geen pessimist, maar wel een meer voorzichtige optimist. Croese heeft het over technologie als factor om ons gezamenlijke geluk te vergroten, door gerichte toepassing ervan. Hij ziet technologie als hefboom om dat geluk voor velen dichterbij te brengen. Ontwikkelingen die niet zonder slag of stoot het geluk in de samenleving vergroten, maar op lange termijn wel tot die uitkomst kunnen leiden als veel mensen bewust het middel techniek inzetten om grote problemen aan te pakken.

Digitalisering vraagt om begeleiding

Peters ziet voordelen, maar wijst nadrukkelijk ook op de keerzijdes van technologisering en digitalisering vanuit maatschappelijk oogpunt. Ze schetst treffend hoe het huidige debat over digitalisering en democratie gekenmerkt wordt door de extremen: of het vertrekpunt is dat van verheerlijking van digitalisering, als panacee voor al onze maatschappelijke vraagstukken. Óf het vertrekpunt is dat van verwerping, waarbij digitalisering de bijl is aan de wortels van ons menszijn en democratie. In haar optiek ligt de reëele waarde er tussen in. Digitalisering biedt veel mogelijkheden, maar vraagt ook begeleiding, kadering en doordenking. En die kadering en doordenking is ook mogelijk. Croese is het daar overigens volledig mee eens en beiden delen een duidelijk uitgangspunt in hun perspectieven: de hamvraag is ‘hoe’ je technologisering/digitalisering omarmt en een plek geeft. En dus zeker niet de vraag ‘of’ je dat doet.

Meeste problemen geen informatieproblemen

Croese is dus zeker niet kritiekloos. Hij constateert bijvoorbeeld dat de versnellende technologische vooruitgang de volatiliteit (de onvoorspelbaarheid en de heftigheid) van onze samenleving sterk kan vergroten. En Peters en Croese delen naast de ‘hoe’-vraag nog een andere belangrijke vraag: we hebben met elkaar wel te beantwoorden voor welk vraagstuk digitalisering/technologisering nu eigenlijk een antwoord is. Peters stelt daarover: feitelijk kijkend naar vraagstukken zijn de meeste problemen die we hebben in de kern geen informatieproblemen (waar digitalisering in kan helpen), maar waarde-problemen of functioneringsproblemen. Die problemen los je niet zomaar op met technologisering of digitalisering. Dat blijft menselijke interactie en richting vragen, zo onderschrijft Croese.

Over de impact van digitalisering

Natuurlijk was de impact van digitalisering op de verhouding tussen overheid en samenleving een belangrijk gesprekspunt. Peters stelt dat de opkomst van digitalisering er toe leidt dat deze verhouding waarschijnlijk vrijwel geheel ‘opnieuw doordracht’ moet worden. Dat plaatst ze in breed maatschappelijk perspectief. Of het nu gaat om de relatie tussen arts en patiënt (waarbij de patiënt toegang heeft tot vrijwel dezelfde expertkennis, en het wellicht veel meer een relatie wordt van gezamenlijke duiding/betekenisgeving), die tussen leraar en leerling (waarbij het leerdoel verschuift van kennisoverdracht naar vaardigheidsontwikkeling) en die van overheid/gemeente en haar inwoners (waarbij de inwoners net als de patiënt en de leerling een veel sterkere kennispositie hebben).

Peters stelt dan ook dat het opnieuw uitdenken en uitvinden van de rolverhouding tussen overheid en samenleving een kans is voor het lokaal niveau. Om dat juist vanaf de lokale schaal gezamenlijk in te vullen, vanuit gesprek en ervaring opdoen. Zo kan die relatie tussen overheid en samenleving van nieuwe betekenis voorzien worden. Dat is een mooie uitdaging voor de komende jaren. Tegelijkertijd is het ook een abstract en veelomvattend vraagstuk, dat taai is en dat snel af kan drijven van de intentie tot het verwezenlijken van een gelukkig leven voor zoveel mogelijk mensen, zoals bijvoorbeeld Croese dat verwoordt. Hij benadrukt dat het essentieel is om als samenlevingen de onderlinge afhankelijkheid en samenhang als uitgangspunt te nemen en vervreemding ten alle tijden te bestrijden.

Niemand kan wegkijken van de impact van digitalisering

Ook Croese is dan ook een groot voorstander van dit fundamentele gesprek. Alleen door gezamenlijk gesprekken te voeren over de betekenis van digitalisering kunnen we daar verstandig mee om gaan. Want die digitaliseringgolf brengt ethische en maatschappelijke uitdagingen met zich mee, zo signaleert ook Croese. Hierbij, zo stelt hij, zijn belangrijke publieke waarden in het geding die nauw verwant zijn aan grond- en mensenrechten. Het blijven balanceren tussen die waarden vereist dat alle partijen in de maatschappij in actie komen om digitalisering in goede banen te leiden.

Croese gaf op dit punt de volgende reflectie mee: ‘Deze tijd vereist een actief breed maatschappelijke dialoog waarbij zo veel mogelijk mensen betrokken zijn, hoog en minder hoog opgeleiden, om actief met elkaar in gesprek te gaan over wat een goede samenleving, een goed leven inhoudt, actief keuzes te maken en ruimte te bieden om de waarschijnlijkheid van dit wenselijke scenario te vergroten. Dit vereist een open houding, waarbij onze waarden, intenties en hoop kunnen meebewegen met nieuwe inzichten en kennis. Cynisme en nihilisme dragen niet bij. Het zou een waarde gedreven, hoopvol en diepgaand gesprek moeten zijn. Veel van de maatschappelijke dialogen rondom de rol van technologie als middel blijven hangen in oppervlakkigheden.’

In essentie gaat het zowel Croese als Peters om het ontwikkelen twee soorten burgerschap: technologisch (Peters) en/of actief (Croese) burgerschap. Met technologisch burgerschap heeft Peters het over dat mensen in de samenleving, in het algemeen, technologisch bekwaam zijn/worden. Dat betekent: dat mensen om kunnen gaan met techniek, maar daar ook de risico’s van kennen en de voor- en nadelen kunnen afwegen. Daar moet je in investeren! In onderwijs, in het openbaar debat, met een politiek die daarin het goede voorbeeld geeft.

Wat is verstandig omgaan met digitalisering voor de overheid?

Naast het fundamentele gesprek benoemen beiden verschillende aspecten in het verstandig omgaan met digitalisering voor de komende jaren. Belangrijke zaken daarin zijn volgens hen samen: het borgen van ‘rechten’ die door digitalisering onder druk staan (landelijk en lokaal) – ook als checks en balances, het scheppen van stabiele plekken voor ontwikkeling en het als overheid écht doordenken van wat innovaties betekenen voor de publieke ruimte. Belangrijke kanttekening: veel van de aspecten van digitalisering en technologisering zijn primair landelijke (zo niet internationale) vraagstukken. De bredere trendmatige technologische/digitale ontwikkelstroom is er primair één die zich op grotere schaal afspeelt dan die van het lokaal bestuur.

Waarborg rechten zoals het recht op menselijk contact en vrijwaring van monitoring

Peters beschrijft in haar gesprek met ons het eerste punt over ‘rechten’ het meest prangend. Zo noemt ze het basisrecht op menselijk contact dat een overheid inwoners moet blijven bieden. Dat wil zeggen dat een overheid niet alles wegorganiseert achter een muur van computers en applicaties. Omdat juist in dat menselijk contact ook de menselijke maat naar boven kan komen. Croese onderschrijft dat technologie ook zeer vervreemdend kan werken. Je zou nieuwe technologie dus ook kunnen toetsen op de aansluiting bij of de herkenbaarheid van die technologische toepassing voor de menselijke interactie.

Daarnaast het recht op ‘vrijwaring van monitoring’ als tweede voorbeeld. Natuurlijk inhakend op de actuele discussies over wie eigenaar van al die verzamelde data is, en wie daar toegang toe heeft. Dat dataverzameling overal plaatsvindt, en dat dat maatschappelijke vraagstukken met zich meebrengt, behoeft weinig toelichting. Of het nu gaat om camera’s in reclamezuilen of de stappenteller en slaapmonitor van de Iphone: ons reilen en zeilen wordt continu gemonitord. En we krijgen ook continu feedback op ons gedrag: van fitbots en de TomTom tot het insuline-pompje van de suikerziekte-patiënt. Peters gaat hierop door: dat monitoren doet in essentie de grens tussen het openbare en prive-domein vervagen. Wat is nog achter de voordeur, en hoe privé is dat eigenlijk nog? In verstrekkende termen: ons huisrecht is als inwoners aan het vervagen. Juist bij dit aspect speelt in sterke mate: landelijke regelgeving is cruciaal.

Handhaaf grenzen, ze hebben waarde

Ook Croese onderschrijft het belang van het overeind houden van bepaalde grenzen: volledige transparantie lijkt hem geen prettig maatschappelijk beeld. Grenzen hebben functies, zoals Albert Meijer in de inleiding van dit jaarboek al betoogde. In meer algemene zin benoemt Croese in dat licht de rol van de overheid in het creëren van veilige experiment omgevingen waar je kunt ontwikkelen en exploreren, zodat onverwachte gevolgen meegenomen kunnen worden in vervolgontwerpen. Plekken met grenzen, waar ‘de samenleving’ gevrijwaard wordt van experimenten en de onvoorspelbare gevolgen daarvan. Maar waar ook de experimenten tijdelijk gevrijwaard zijn van gevestigde belangen van de samenleving, zodat daadwerkelijk experimenteren mogelijk wordt. Zo zou bijv. al actief invulling gegeven kunnen worden aan het borgen van een deel van het ‘recht op vrijwaring van monitoring’. Hier zou lokaal meer ruimte liggen voor eigen beleid en eigen ‘ruimte’ bieden aan experimenten. Bijvoorbeeld via start-up campussen, in samenwerkingen met hogescholen/universiteiten etc.

Maak investeren in technologie (maatschappelijk) rendabel

Daarnaast problematiseert Croese hoe we als samenleving omgaan met het investeren in technologie. Vaak hebben technologische investeringen (bijv. in het ontsluiten van 5G) een maatschappelijke waarde die breder is dan de te verzilveren economische waarde voor bedrijfsleven. Dat werpt drempels op aan de snelheid van positieve ontwikkelingen en de toegang tot technologische mogelijkheden zoals zelfrijdend vervoer. Het vraagstuk daar is hoe we als land en gemeenschap ruimte maken voor juiste afwegingen en goed werkende prikkels voor private spelers, waarin beide belangen (publiek & privaat) goed gewogen worden en dus beter afgewogen geïnvesteerd kan worden? Dit thema is weer primair een landelijk thema, zowel financieel als qua regelgeving.

Omarm niet elke innovatie, maar doordenk die eerst voordat je als overheid handelt

Tot slot benoemen beiden dat digitale en technologische innovaties vaak slecht doordacht worden door de overheid en ook lastig te overzien zijn. In de private sfeer is dat prima. Als daar bijvoorbeeld door de opkomst van Airbnb private bedrijven onder druk komen te staan, is dat voor een deel de reguliere concurrentie-cyclus. Tegelijkertijd hebben hotels ook een maatschappelijke functie in wijken én heeft het hebben van aanspreekbare ondernemers op thema’s als veiligheid, cohesie in een buurt en kwaliteit van openbare ruimte ook een belangrijk voordeel. Het doordenken van disruptieve innovaties als Airbnb, Uber en andere platform-ontwikkelingen blijkt voor de overheid lastig. Zo ook de impact van deze ontwikkelingen op wat we in bredere termen onze democratie noemen: hoe we samenleven, waarden bepalen en waarborgen.

Temeer omdat het ethisch kader van de ontwerper van het platform, bedoeld of onbedoeld, in sterke mate stuurt hoe het platform zal werken en voor welke negatieve bij-effecten wel en niet gecompenseerd is/zal worden. Dat maakt deze systemen positief gesteld ook kwetsbaar voor blindspots van ontwerpers in hoe hun eigen software zal werken, zo schetst Croese. In grotere gemeenten zie je gemeenteraden deze ontwikkelingen nog wel proberen te duiden en te richten, maar in brede zin ontbreekt het in gemeenteland aan het doordenken van deze ontwikkelingen.

Dezelfde vraagstukken spelen overigens ook in meer zuivere publieke taakvelden als het onderwijs, of juist in zeer commerciële domeinen als de banken. Ook daar zie je disruptieve effecten van technologisering en digitalisering die de komende jaren gaan versnellen, die op de korte termijn positief lijken voor inwoners/consumenten maar waarvan we consequenties op de langere termijn slecht overzien. Diezelfde bank die nu op de hypotheekmarkt door internet-concurrenten wordt weggespeeld, gebruikt die hypotheekmarkt deels om haar functie in het betaalsysteem te financieren. En de school die wordt geacht maatwerk te leveren en aan te sluiten bij de lokale context, wordt geconfronteerd met 2 of 3 aanbieders van lesprogramma’s via digitale lessystemen, waarin alles met elkaar samenhangt en de keuze op onderdelen ingewikkeld is.

Centrale regie voor lokale autonomie

Peters pleit langs deze lijn voor het sterk versterken van centrale regie op dit soort voorzieningen, om zo lokale vrijheid te borgen. Voor gemeenten een interessante gedachtelijn, waarin de gekoesterde lokale beleidsvrijheid wellicht maar een tijdelijk goed is omdat de marktontwikkeling via ver-platformisering in rap tempo tendeert naar eenheidsworst, waardoor het aanbod verschraalt door technologische/digitale innovaties die we maar slecht overzien en waar we geen grip op hebben. Ook dit punt vraagt primair om landelijk acteren en lokaal bewustzijn. Het schept ook de randvoorwaarden om het ‘opnieuw doordenken’ van de rolverhouding tussen overheid en samenleving binnen vorm te kunnen geven. Dat kwam eerder in dit artikel aan de orde.

Waar betekent dit alles voor waar lokale politiek en democratie nog over moet gaan de komende jaren?

Interessante reflecties en verstandige opmerkingen, maar ze staan relatief ver af van de praktijk van de lokale democratie. Wat is daar aan de hand? Er gaan veel cowboy-verhalen rond over hoe Artificial Intelligence op basis van algoritmen straks ons land kan gaan besturen. Onze gesprekspartners, toch beiden goed ingevoerd, vinden het ingewikkeld om precies te duiden wat daarvan waarheid zal worden. Dat data en algoritmes een grotere rol zullen gaan spelen in hoe we in het openbaar bestuur tot keuzes komen, lijkt hen beiden onvermijdelijk. Dat algoritmen en AI de huidige democratie zou vervangen, lijkt beiden onwaarschijnlijk. Daarbij waarschuwen beiden ook: Het gaat nu, en het zal blijven gaan, om bij het maken van democratische keuzes op een slimme wijze data, algoritmen en de menselijke blik te combineren.

Lokale politiek als waarden-programmering

Wat vraagt dat van (lokale) politiek: politiek moet meer en meer de ‘waarden-programmering’ van afwegingskaders worden, en dat kunnen dan algoritmen en data-analyses zijn. Dus politiek zal nog meer dan nu moeten gaan over welke waarden je ‘er’ aan de voorkant in stopt als afwegingskader, als sleutel tot ‘optimale uitkomsten’. Niet anders dan dat politiek dat nu doet voor de beleidsmachine die we het ambtelijk apparaat noemen. Maar dan geeft wellicht het algoritme antwoord op de vraag of je wel of niet je interventie doet als overheid. Dat zijn telkens keuzes op het micro-niveau, op de vertaalslag van waarden naar concrete handelingen. Het algoritme zal (in elk geval niet op korte termijn) niet het ideaal kunnen geven, de stip op de horizon waar je als gemeenschap naar toe ontwikkelt. Des te relevanter om in politiek die discussie over idealen en grote ontwikkelrichtingen volop te blijven voeren.

Benut experimenteerruimte

Daarbij kan lokale politiek ook veel meer gaan experimenteren. Omdat digitalisering en technologisering het mogelijk maakt meer te meten, en meer te weten. Daarmee wordt het mogelijk om steeds kortere feedback-cirkels te maken op het eigen beleid: werkt het? Leidt een ander werkproces voor de 1e-lijnszorg ook daadwerkelijk tot meer preventie en minder doorverwijzen? En waarom dan? Leidt het investeren in beroepsonderwijs ook daadwerkelijk tot een verhoging van gemiddeld welzijn in een wijk, en hoe komt dat dan?

Wat betekent dat voor het werk van de raad? Die moet sturen op de waarden-gedreven afwegingen en wensbeelden op beleids- en praktijkvraagstukken. En die controleert het college van B&W op het juist toepassen van die door haar vastgestelde waardenkaders. Daarbij zijn de idealen het uiteindelijke toetsingskader. Dat is wat anders dan wat veel gemeenteraden nu doen: namelijk sturen op de concrete uitkomsten. In een digitaliserende democratie zullen die uitkomsten steeds minder het object van controle door de raad worden, denken Croese en Peters.

Moeten we de weg naar resultaat nog begrijpen?

Daarbij is er wel een belangrijk vraagstuk dat gaat over de mate van begrijpelijkheid van de logica van het algoritme en haar uitkomsten. Snappen we met elkaar nog waarom a, b of c de uitkomst van het algoritme is? Is er nog een duidelijke koppeling, voor ons herleidbaar, tussen de waarden die de raad vaststelt en de uitkomst van de ‘afweging’ in de praktische casus? Croese geeft als voorbeeld dat algoritmes soms tot onverwachte resultaten komen: hij schetst de praktijk van warehousing van grote logistieke bedrijven waar de indeling van warehouses geautomatiseerd is. Het is dan niet in 1 oogopslag helder waarom de ordening is zoals die is, maar het bedrijfsleven omarmt de waarde die leidend is aan die automatisering: een zo efficiënt mogelijke opslag en overslag.

Peters bekrachtigt dat dit problematisch kan zijn. We moeten kunnen herleiden waarom uitkomsten zijn zoals ze zijn. Ze staan daarin niet alleen. De Raad van State heeft recent een besluit op basis van geautomatiseerde tooling over een omgevingsvisie nietig verklaard, omdat niet meer te herleiden was op basis van welke indicatoren de tool tot een afweging was gekomen. Beiden bepleiten dan ook sterk het houden van zicht op de relatie tussen input (de waarden-programmering) en de uitkomsten. Een lastige keuze voor gemeenteraden, die neerkomt op het vertrouwen in de logica van applicaties en de (on)feilbaarheid van systemen.