Digitaal Systeem Risico

Ethiek in het digitale tijdperk. Het digitale tijdperk dat we betreden vraagt om een andere benadering van ethiek dan we gewend waren in de klassieke wereld. Nu letterlijk iedereen iedereen kan uitschelden, valselijk kan beschuldigen, nepnieuws kan verspreiden, “deep fakes” kan vervaardigen, en niemand daar iets aan kan doen, doemt een nieuwe wereld op. Terecht neemt de roep toe om deze chaotische en steeds gevaarlijker vorm van communicatie op één of andere manier te gaan beheersen. Systematisch nepnieuws en leugens beïnvloeden de maatschappij op een onverantwoorde manier. Deze uitwas van de digitale samenleving wordt een maatschappelijk risico en vraagt om beheersing vanuit een maatschappelijk kader.

Techgiganten zijn terughoudend. De techgiganten hebben tot nu toe een zeer terughoudende houding aangenomen bij het tegenhouden van berichten verkeer. Beter gezegd: hebben via hun technologieën bijgedragen aan de vele uitings mogelijkheden op sociale media om onbelemmerd berichten te verspreiden ongeacht de inhoud. De techgiganten hebben aangemoedigd dat mensen, via likes en retweets, berichten maximaal verspreiden, waar of onwaar. Meegeholpen wordt aan technologieën om “deep fake” (waarbij via video manipulatie over personen onware berichten worden gegenereerd) berichten te kunnen maken. Weinig of niets wordt door tech giganten überhaupt gedaan om onware of gemanipuleerde berichten te weren. En met de dataprivacy is het droevig gesteld: keer op keer liggen gegevens op straat of wordt ongevraagd gebruik gemaakt van persoonlijke informatie.

Zijn techgiganten schuldig ? Het is evident dat met al het goede dat de sociale media met zich meebrengen voor de miljarden tevreden gebruikers er ook uitwassen meekomen. We leven in een digitale wereld die anders beheerst moet worden dan de klassieke wereld. En daar ligt zowel een taak voor overheden als voor de techgiganten zelf. Het is dan ook de vraag of uitsluitend de techgiganten alle schuld moeten krijgen van alle negatieve aspecten van social media. De tech giganten stellen zich op het standpunt dat ze slechts leverancier van diensten zijn en niet alles op inhoud kunnen controleren. Kortom: de houding die ook Telecom bedrijven innemen, die immers ook niet verantwoordelijk zijn voor telefoongesprekken tussen criminelen of ander misbruik van de telefoon. Het verschil is natuurlijk dat social media qua impact niet te vergelijken zijn met telecomdiensten. Maar dan nog: hoe moeten de techgiganten de honderden miljoenen berichten op inhoud controleren en als dat al kan: wat zouden ze dan wel de criteria moeten zijn ? Er bestaan voor het digitale berichtenverkeer nu eenmaal geen algemeen geaccepteerde regels.

NRC artikel. De NRC stelt in een opinie artikel van 3 augustus (BigTech: gebrek aan ethisch besef is systeemrisico geworden) dat overheidsingrijpen noodzakelijk is. Allerlei algoritmes worden de wereld ingeslingerd zonder besef voor de gevolgen. De tech giganten wordt verweten alles slechts te doen om maar meer omzet te genereren. De vergelijking wordt gemaakt met het amorele gedrag van de banken, die ook totaal het kompas kwijt waren, door de grote complexiteit van de systemen. De tech giganten zouden zich onaantastbaar wanen, niet openstaan voor kritiek en verschuilen zich achter, alweer, de complexiteit om er iets structureels aan te kunnen doen.

Welke overheid moet ingrijpen ? Allereerst is natuurlijk de vraag, als gesproken wordt over overheidsingrijpen, over welke overheid hebben we het dan ? Moeten nationale overheden ieder voor zich (andere) maatregelen nemen ? De NRC rept over tal van nationale acties van allerlei landen om de macht van de tech giganten te beteugelen. Is het erg adequaat als zo’n 180 landen allemaal verschillende maatregelen gaan nemen ? Vergeten wordt maar al te gemakkelijk dat we in een digitale wereld leven, waar nationaal beleid weinig terzake doet om wereldzaken van deze omvang aan te pakken.

Nationale aanpak is zinloos en contraproductief. Zeker is overheidsingrijpen nodig om met de grote techbedrijven tot overeenstemming te komen over ethisch gedrag, wat wel en niet mag met persoonsgegevens, hoe om te gaan met nepnieuws of “deep fakes” of op welke wijze belasting moet worden betaald. Maar dat zal gemeenschappelijk en op wereldschaal moeten gebeuren. Een aanpak per land is zinloos en zelfs contra productief. De alleingang van Frankrijk om bijvoorbeeld fiscale maatregelen te treffen voor het opereren van techgiganten in Frankrijk stuit terecht op weerstand bij zowel de Europese Commissie als bij de VS. Het is bitter noodzakelijk dat er een algemeen erkende vorm van een “digitale rechtstaat” gaat komen, maar dan wel op wereldschaal. Ook omdat we de aanpak van de techbedrijven niet los kunnen zien van de aanpak van cyber criminaliteit. De cybercriminaliteit wordt immers ook grootschalig bediend door de faciliteiten die tech bedrijven bieden en zal ook slechts op wereldschaal kunnen worden aangepakt. Je zou kunnen denken aan een nieuw mandaat voor het International Strafhof. Jammer alleen dat met name de grootmachten, zoals de VS en China, zich daar niets van aan zullen trekken.

Zijn techbedrijven nutsbedrijven ? Maar behalve het vraagstuk van “welke overheid” moet de tech bedrijven aanpakken is er nog een ander probleem. Dat is het vraagstuk waarvoor we de techbedrijven verantwoordelijk kunnen houden. Wat zijn het voor soort bedrijven ? Moeten we de tech bedrijven uiteindelijk beschouwen als een nieuwe vorm van nutsbedrijven ? Daar hebben ze wel veel van weg. Immers wie kan de diensten van de techbedrijven nog missen zowel op persoonlijk als zakelijk vlak ? En zijn het dan nutsbedrijven op wereldschaal ? Kennelijk wel. Misschien moeten we ze gaan behandelen zoals banken. Zwaar door de overheid gereguleerd met Centrale Banken als toezichthouder, maar wel beursgenoteerd. Welke overheidsstructuur moet toezicht gaan houden op deze nieuwe digitale nutsbedrijven, wie stelt daarvoor de regels vast die wereldwijd geldig zijn ? Op nationale schaal zal dat niet kunnen gebeuren in ieder geval.

Ethiek is uit de hand gelopen. Het derde vraagstuk wat zich vervolgens aan dient is dat van de ethiek. Terecht stelt de NRC dat het met de ethiek nogal uit de hand gelopen is bij de techbedrijven. Dat is niet geheel onbegrijpelijk bij een zo massale, snelle en onoverzichtelijke introductie van telkens andere nieuwe technologieën, waar wereldwijd inmiddels miljarden mensen en organisaties gebruik van maken. Valt hen kwalijk te nemen dat ze niet bij iedere nieuwe technologie direct overzien wat de gevolgen voor de maatschappij zijn ? Wie kon overzien dat “deep fake” technologie zich zo snel, zo goedkoop ging ontwikkelen dat het nu ineens een bedreiging wordt ? Wie kon overzien dat het met de data privacy zo gigantisch uit de hand zou lopen ? Wie kon voorzien dat cybercriminaliteit zo snel zo uitbundig zou groeien ?

Europese Commissie loopt voorop. Zeker zouden de tech giganten aan allerhande problemen veel meer kunnen doen. Maar noch het vaststellen hoe we ze maatschappelijk moeten behandelen, noch het opstellen van ethische gedragsregels over wat maatschappelijk wel en niet kan is uiteindelijk een taak voor de techbedrijven. De overheden hebben, ondanks waarschuwingen van vele deskundigen, het er al jaren bij laten zitten. En voor zover er regels zijn, doet ieder land het weer anders. De Europese Commissie is één van de weinige grotere overheden in de wereld die wel zeer actief is op dit gebied. Onder andere met de GDPR (General Data Protection Regulation in Nederland AVG) loopt men ver vooruit op nationale overheden en niet Europese landen. Inplaats van dit soort acties te omarmen, hoorden we vele protesten van allerlei landen bij de invoering. Nu dringt het besef ineens door dat de Europese Commissie wellicht voorop loopt in zijn denken.

Overheidsingrijpen: maar hoe en door wie ? Als de NRC pleit voor overheidsingrijpen is dat een goede zaak, maar er moet bij verteld worden hoe dan en door wie. En ook: hoe komen we tot goede regelgeving, internationaal en hoe stellen we vast op welke gebieden wel en niet kan of moet worden ingegrepen. Het ratjetoe aan nationale initiatieven dat tot nu toe is genomen, verdient absoluut geen schoonheidsprijs. Het is belangrijk dat initiatieven als van de Europese Commissie om de tech bedrijven te beteugelen worden aangemoedigd. Nadrukkelijk pleit de Europese Commissie voor een gezamenlijke aanpak. Vooralsnog staat de Europese Commissie bitter alleen. Noch de lidstaten, noch grote andere mogendheden als de VS of China zijn aanspreekbaar op een meer gemeenschappelijke, internationale aanpak.

Slechts internationale aanpak kan digitale systeem risico inperken. Toch zal begrepen moeten worden door overheden dat slechts een gemeenschappelijke benadering het digitale systeem risico kan inperken. De nieuwe vloeibare samenleving functioneert totaal anders, kent een andere verdienmodel, maar is per definitie “global” in al zijn effecten. Dat vraagt ook om een andere governance van de kant van de overheden. Maar internationaal samenwerken: kom daar niet mee aan bij steeds meer politici a la Trump, Johnson, Xi, Poetin en andere autocraten. Het zal daarom helaas nog vele jaren duren en nog veel ellende vergen, voordat overheden begrijpen dat het nationale soevereiniteitsdenken op een aantal gebieden, zoals voor de digitale samenleving, belemmerend werkt en geen adequate oplossingen biedt voor dit soort systeem risico’s op wereldschaal.

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

1 + acht =