Verantwoord by design

Op het moment dat ik dit schrijf, wordt er wereldwijd overlegd over autonome wapensystemen. Ik vermijd even de term ‘killer robots’. Want bijvoorbeeld een afweersysteem dat autonoom een raketaanval detecteert en onschadelijk maakt, komt best sympathiek over. Vorig jaar vond deze VN-bijeenkomst voor het eerst plaats. Wat opvalt, is dat vooral landen buiten Afrika, het Midden-Oosten en Azië zich zorgen maken. Dit zijn vaak landen die zich zorgen maken om de wapenwedloop om hen hen. Landen die juist een tactische voorsprong denken te creëren, zoals de VS, of die vast zitten in een wapenwedloop, zoals Israël en Iran, zien niets in beperkingen.

Nederland zit er uiteraard een beetje tussenin: zo maar verbieden moeten we niet doen, maar we kunnen wel over regels nadenken. De terminator-achtige schrikbeelden die worden opgeroepen door de tegenstanders liegen er niet om. En we zien zelfs dat prominente weten­schappers en technologiebedrijven vrezen voor zelfdenkende robots, zelfs in bredere zin. De producenten en afnemers van deze systemen wuiven de bezwaren eenvoudig weg, of negeren ze gewoon als ruis. Vooruitgang is tenslotte altijd goed.

De killer robots discussie leeft volgens mij totaal niet bij het gewone publiek. Ze hebben er gewoon geen beeld bij. De voorbeelden van de vredesbewegingen zijn te science-fiction. En de toekomst is te ver weg om te begrijpen. Technologie is hierin niet partijdig. Toch vallen er veel kanttekeningen te zetten bij het ongebreidelde technologie-optimisme dat – en de naam zegt het al – door technologie-evangelisten als blijde boodschap wordt verspreid. Neem blockchain. De ultieme hype binnen technologieland van het moment. Waar de burger al helemaal niets van begrijpt. Investeerders pompen miljarden in blockchain startups. Ik zie op LinkedIn steeds meer connecties overstappen van grote IT-bedrijven naar blockchain startups. En bedrijven en instellingen starten allemaal hun eigen blockchain-project om toch maar niets te missen. We zien interessante toepassingen ontstaan, maar vooralsnog valt het allemaal eigenlijk toch wel behoorlijk tegen. De blockchain verwijst naar technische uitdagingen die in de loop van de tijd wel worden opgelost. Wellicht.

Veel blockchain experts vinden dat we eigenlijk niet over Bitcoin moeten praten. Wat voegt Bitcoin eigenlijk toe aan de samenleving? Als betaalmiddel faalt het tot nog toe in alle opzichten. Het heeft geen enkele intrinsieke waarde, alleen de dagwaarde die de belegger eraan toekent. Het grootste deel is bovendien in handen van een handvol individuen. Bitcoin onttrekt heel wat meer aan de samenleving. Persoonlijk vind ik Bitcoin-mining moreel gezien een dubieuze aangelegenheid. Het slurpt ongekend veel energie in een tijd waarin we als maatschappij op alle vlakken ons proberen te matigen. Vooruit, dit probleem is niet generiek voor blockchain. Wel kan je je afvragen hoe energie-efficiënt een gedistribueerd grootboek is. Ook moeten we ons realiseren dat het niet zomaar beter wordt. Google en Facebook zijn niet meer weg te denken.

De gebruikerservaring wordt, voor de meesten, steeds beter. Maar de relatie met deze technologiegrootmachten wordt er niet beter op. De schimmigheid over wat er met persoonlijke gegevens wordt gedaan. Aan wie wordt mijn data verkocht en kan ik die partijen vertrouwen? Wie bepaalt er eigenlijk welke berichten ik wel en niet te zien krijg? En is de beveiliging wel op orde? Nieuwe technologie heeft altijd schaduwkanten. En technologiebedrijven zien het pas als een prioriteit om daar wat aan te doen als de maatschappij kaders eist. We moeten ook erkennen dat wet- en regelgeving daarbij cruciaal is. CIO’s en CEOs moeten nieuwsgierig zijn naar nieuwe technologie en nieuwe kansen ontdekken. Maar eerst in het wild lanceren en daarna pas de grenzen ontdekken, is een handelswijze die onhoudbaar wordt. Nieuwe producten moeten niet alleen secure en private by design worden, maar ook verantwoord by design.

Peter Vermeulen is Directeur bij Pb7 Research

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.