Het nieuwe Babel

Analyse van ons online-gedrag maakt het mogelijk om ons te profileren en in te delen in bepaalde groepen. Deze informatie kan worden gebruikt om ons te beïnvloeden, bijvoorbeeld door te manipuleren welke berichten we op Facebook te zien krijgen. We zijn dus interessant voor mensen met belangstelling voor het manipuleren van onze gedachten en ons gedrag, ook al kennen we hen niet en hebben ze geen belangstelling voor ons persoonlijk. Het probleem met big data, privacy en veiligheid werd dus breder. Deze incidenten lieten zien dat er verschillende datasets worden gecombineerd, geanalyseerd en buiten ons medeweten worden gebruikt om te beïnvloeden wat we te zien krijgen op sociale media, zonder daarbij gegevens vrij te geven en dus zonder direct onze privacy te schenden. Dit heeft een enorme impact op ons eigen leven en ook op onze democratische samenleving als geheel.

Melanie Peters

Als je de auteur Yuval Noah Harari mag geloven is de mens hard op weg om een god te worden, een Homo Deus. Dat is weer eens iets anders dan ambtenaar, boer, professor, friet-bakker of postbode. De mens heeft een nieuwe route ingeslagen in de geschiedenis van de mensheid waarvan de uitkomsten niet zijn te overzien. Wat is er aan de hand? Waarom noemt Harari de mens een Homo Deus?

Harari laat in zijn boek Homo Deus zien dat de mens door de moderne techniek in staat is om ontzagwekkende hoeveelheden data te verzamelen die hem in staat stellen om situaties te analyseren, te diagnosticeren en te manipuleren. Onder situaties kan inmiddels bijna alles worden verstaan. Waarom? Omdat onder elke situatie een werkelijkheid schuilt die met behulp van algoritmes in kaart kan worden gebracht. Dat gaat zelfs zover dat ook de biologische wetmatigheden inmiddels hierdoor bepaald worden. Het menselijk leven zou je kunnen zien als een verzameling van algoritmes – die eenmaal in kaart gebracht en in werking gezet – geen geheimen meer heeft voor de onderzoeker. Deze paradigmawisseling: biologische processen opvatten als een verzameling algoritmes, maakt het mogelijk om in te grijpen in het leven met nieuwe technieken en nieuwe vergezichten. Harari stelt dat in de technische toepassingen van onze kennis de relatie tussen intelligentie en bewustzijn is doorgeknipt. Een machine hoeft geen bewustzijn te hebben zoals een mens om intelligente beslissingen te nemen. Op basis van heel veel data kan een machine leren en zich aanpassen aan telkens nieuwe situaties. Tenslotte vraagt Harari aan het eind van zijn boek zich af of die stelling klopt: of ook het leven gezien kan worden als een verzameling algoritmes (en of je daarmee niet tekort doet aan het leven zelf dat meer is dan een verzameling wiskundige berekeningen). Harari beantwoordt die vraag niet maar stelt ze aan de lezer opdat deze hiermee aan de slag gaat.

Wat inmiddels wel helder is, is dat velen geloven in het verzamelen van data en het nut ervan. Harari noemt dat geloof dataïsme. Als we maar genoeg data verzamelen en genoeg contexten en standpunten innemen om die data met elkaar te vergelijken en te correleren, dan komen er altijd wel goede keuzes en beslissingen uit voort. Als een hartmeter via je horloge kan voorspellen wat er staat te gebeuren met je hart, of een taalanalyse-instrument tekenen van Alzheimer kan constateren, dan zijn we hard op weg om greep te krijgen op essentiële levensonderdelen en dat alles op basis van algoritmes die onder dit alles hun werk doen. Maar als data zo belangrijk zijn en als de verzameling ervan zoveel impact kan hebben op tal van vormen van gedrag dan moet de vraag worden gesteld hoe het dan zit met de menselijke autonomie en de zeggenschap over de eigen data. Als je wordt gemeten om wat voor reden dan ook, met of zonder toestemming, dan worden die data ergens verwerkt en later weer toegepast. Dat gaat buiten jou om, daar heb je geen zegging schap over. Je bent dan wel de bron of de ‘mijn’ van de data maar de fabriek die met die ‘grondstoffen’ aan de gang gaat heeft een eigen programma en heeft eigen prioriteiten. Melanie Peters, directeur van het Rathenau-instituut schrijft over dit probleem, ik citeer:

“Bij de analyse van onze use cases kwamen we tot de conclusie dat er, naast de bestaande rechten, nog twee extra rechten nodig zijn in de datasamenleving: het recht om niet te worden gemeten, geanalyseerd of gecoached, en het recht op betekenisvol menselijk contact in bepaalde belangrijke situaties. Zo kan een zorgrobot mensen weliswaar helpen om langer thuis te blijven wonen, maar in sommige situaties kan het ook mensonterend zijn om er een te gebruiken. Mensen moeten bijvoorbeeld het recht hebben om bepaalde beslissingen met een arts of verpleegkundige te bespreken. Soms kan er behoefte zijn aan politieke besluitvorming over dit soort zaken en soms gaat het om persoonlijke beslissingen. De invoering van deze technologieën vraagt om diepgaand denkwerk over het inzetten van deze nieuwe mogelijkheden op een zodanige manier dat iedereen – de maatschappij als geheel en mensen afzonderlijk – ervan meeprofiteert. Op sommige terreinen zullen aanvullende regels nodig zijn. Maar het begint ermee dat alle actoren hun verantwoordelijkheid nemen en hun zorgplicht serieus nemen.”

Het is natuurlijk prachtig om te stellen dat alle actoren hun verantwoordelijkheid moeten nemen, dat er heldere regels moeten komen en dat kennis uiteindelijk transparant en voor ieder toegankelijk moet zijn om machtsconcentraties te voorkomen waar kennis exclusief wordt ingezet om mensen te manipuleren. Grote sociale media organisaties gebruiken nou allerlei algoritmes om hun klanten in kaart te brengen zodat ze gericht reclame kunnen verspreiden. Sommige regeringen zoals de Russische (en waarschijnlijk zijn dat er nog heel wat meer) brengen gericht ‘nepnieuws’ in omloop om het eigen volk maar ook andere ‘volken’ bewust te misleiden en ‘op te voeden’ binnen een bepaalde gedachtestroom die gunstig uitpakt voor de eigen regering. Daarvoor zijn ‘vijanden’ nodig, anderen die kunnen functioneren als tegenpool om zich tegen af te zetten en die dienen als goed voorbeeld van een dreiging. Vluchtelingen met andere religieuze en maatschappelijke achtergronden lenen zich hier goed voor. Populisten maken hier dankbaar gebruik van door sluimerende angsten en sluimerende hebzucht aan te wakkeren. De techniek is hetzelfde, het verzamelen van data is voorwaarde, het ontwerpen van algoritmes en de toepassing ervan doet de rest. Maar wie bewaakt de bewakers, wie is de baas over al die data, en kun je en mag je als burger in een samenleving überhaupt er nog vanuit gaan dat jouw data in goede handen zijn? Natuurlijk roepen velen nu dat wij helemaal vrijwillig onze data afstaan aan grote ondernemingen zoals Google, Apple, Facebook e.a. Maar tussen afstaan en het niet lezen van de kleine lettertjes en bestookt worden met reclame toegesneden op ons profiel gaapt nog altijd een grote kloof. Namelijk deze: waarom zou ik het goed moeten vinden dat ik object wordt van dergelijke manipulaties als ik gebruik wil maken van openbare diensten zoals die mij worden aangeboden? Wie geeft overheden het recht hun burgers digitaal te bewaken en te sturen op basis van verkregen informatie? Kortom is autonomie, is vrijheid die daarop gebaseerd is, is een vrije denk- en handelingsruimte, ook om te protesteren, om verzet te laten zien, überhaupt nog een realiteit, als elke digitale uiting of registratie wordt vastgelegd en gecontroleerd, en via slimme algoritmes aan elkaar wordt geknoopt zodat de overheid een uitstekend profiel van jou kan maken? Niet de mens is de nieuwe god, maar de overheid, of de dataverzamelaar is de nieuwe godheid. Het systeem is god. “Computer says no” zoals de komieken van de serie “Little Britain” ons lieten zien.

Stephan Lessenich die een boek geschreven heeft over de gevolgen van de gestimuleerde groei in een neoliberale kapitalistische samenleving voor de mensen die hier geen of weinig deel aan hebben, geeft met zijn concept ‘de externaliserings-maatschappij’ een inkijkje in de vaak onzichtbare effecten van ons handelen. We leven voor een deel in welvaart, een soort van ‘geluksbubbel’ waarin het streven naar geluk (Happiness) tot hoogste goed is verheven en sociale media versterken dit effect want iedereen toont zich van zijn leukste en succesvolste zijde. Maar dat er duizenden in landen als India elke dag bezig zijn met het verwijderen van ongewenste plaatjes en teksten van bijvoorbeeld Facebook om zo er voor te zorgen dat de Westerse consument niet gechoqueerd raakt door gruwelijke beelden op zijn scherm, weet bijna niemand. Deze ‘controleurs’ in dienst van grote organisaties lijden zelf aan slaapstoornissen en andere gevolgen van de voortdurende blootstelling aan deze beelden. Net zoals politieambtenaren miljoenen plaatjes van kinderporno moeten bekijken om daders en slachtoffers te identificeren. De Homo Deus van Harari die dit soort gruwelijke beelden plaatst is op internet eerder een satan – een verspreider van duivels materiaal om zo mensen hartgrondig kapot te maken als ze op sites klikken die hun van alles en nog wat beloven en waar elke vorm van humaniteit ontbreekt omdat mensen worden verkracht, misbruikt en vermoord in naam van een verdienmodel gebaseerd op perverse neigingen van de gebruikers. De donkere krochten van internet staan vol met verboden thema’s en websites die abjecte inhoud aanbieden. De mensen die zich hier ophouden zijn de mensen van de nacht. En op internet lopen dag en nacht door elkaar, net zoals in de bovenwereld waar de onderwereld een vinger in de pap wil hebben. Welk algoritme is er nodig om goed van kwaad te onderscheiden en kan dat wel als goed en kwaad beiden begrippen zijn met zeer complexe ladingen? Een Homo Deus die denkt dat hij voor god kan spelen als hij zijn algoritmes inzet om te manipuleren is eigenlijk niet meer dan de stenenschouwer die we al zagen bij de bouw van de toren van Babel. Een toren moest er komen tot aan de hemel en daarmee aanzien, goddelijk aanzien. Een steen was belangrijker dan de arbeider zelf. Daarom daalde God neer om te kijken hoe het zat. Omdat de mens niet meetelde, omdat de toren alles was, werd hij door God verwoest en de taal verward. Met de inzet van algoritmes hoopt de mens één taal te kunnen bezitten, een taal die alles en iedereen bestrijkt. De toren dat zijn de dataverzamelingen, aan elkaar gekoppeld zijn ze een groot netwerk van mogelijkheden: in principe, in principio, als een begin van een antwoord op alle vragen. Ik noem het overmoed, hybris, een weg ten dode – want de mens is en blijft – wat hij ook probeert – niet de oorsprong van zichzelf. Zelfs een reageerbuisbaby – zelfs een helemaal kunstmatig ontstane mens – is niet de oorsprong van zichzelf – maar treft zich aan als een gegevenheid. En dat besef brengt een vorm van betekenis met zich mee die volgt op dit ervaren en die misschien vraagt naar een waarom. Maar misschien worden er in de naaste toekomst mensen voortgebracht waarin het besef van autonomie is ingeruild voor slaafse gehoorzaamheid aan de grote leider en de machine die alles bepaalt. Zou de mens zelfs zover willen gaan dat hij zichzelf kan voortzetten in een oneindige reeks via de moderne techniek? Dat de dood uiteindelijk opgeheven wordt en dan een fictie wordt? In feite is de mens zoals hij nu leeft al een gevolg van een lange reeks – eindresultaat van een proces dat ver in het verleden is gestart. Niet alleen met de komst van de mens op aarde, maar zelfs al met het allereerste begin van dit heelal. Hier zijn we nu, hier staan we nu, hier bevinden we ons tegenover een reuzeberg met data en met hulpmiddelen als algoritmes om de data te bewerken en te vormen naar de beelden die we hebben en die we willen hebben. God-Mens-Algoritme-Hanteerder op zoek en op weg naar het eeuwige leven. Zover is het nog niet. De dood kapt gelukkig nog heel veel af. De goeden en de slechten lijden daar beiden onder. Misschien is de dood daarom ook wel een zegen. Zelfs tegen beter weten in. En, is het menselijk bewustzijn in staat om de verzoeking te weerstaan om alles te willen weten en tevreden te zijn met heel veel ‘niets’, met ‘niet-willen-weten’ en niet-hoeven-te weten’ omdat het leven vaak al genoeg heeft aan zichzelf. Zoals je in de zon op een bankje kunt zitten en genieten kunt van nietsdoen en kijken naar de natuur om je heen.

John W Hac

30 november 2018

Bron:

Melanie Peters – Rathenau Instituut: https://www.rathenau.nl/nl/digitale-samenleving/nieuwe-regels-voor-kunstmatige-intelligentie

Harari, Yuvel Noah, Homo Deus. Een kleine geschiedenis van de toekomst, Meppel 2017 (Thomas Rap)

Lessenich, Stephan, Neben uns die Sintflut. Die Externalisierungsgesellschaft und ihr Preis, Berlin 2016 (Hanser)