De mens een zuchtje in de wind of een bundeltje electronen?
2
Wir, die wir schneller noch als unser Wort verblassen,
Und sind wir auch der Schöpfung Ziel und Sinn –
All unsre Fantasie kann wohl die Schöpfung fassen,
Doch nicht den letzten, unsern Urbeginn.In jedem Worte atmest du das Leben kühl, gelassen,
Und siehst doch: auch die Sterne gehn dahin.
Von Liebe ist dein Geist beflügelt und vom Hassen,
Kannst doch nicht sagen so wie Gott: Ich bin.Wir sind nur Spiegel seiner schweigenden Gestalt.
Durch uns will er das Leben mit dem Tod verbinden.
Wenn unser Leib in Staub zerfällt, alsbaldSieht man ein neues Flämmlein sich entzünden.
So gehn wir auf in Wunden und – verschwinden
Und leben ewig heiß und sterben ewig kalt.Lajser Ajchenrand
uit: Die 24 Sonette für Regi und Charles Aukin
*********
De mens kan zich als een ‘god’ gedragen en hij is al ver op weg om heel wat hindernissen te overwinnen die ‘de natuur’ hem in de weg legt. Vooreerst natuurlijk de dood, daar kan hij nog niet zoveel aan veranderen. Maar door de nieuwe computertechnologieën, waaronder de resultaten op het terrein van ‘kunstmatige intelligentie’ (AI), komt hij een heel eind. Het grote geld – dat wil zeggen – de grote technologie-maatschappijen die nu al een monopolie hebben op het gebied van computerontwikkeling en internet – is op deze voortrazende trein gesprongen en de wetgeving in de wereld komt zoals altijd achteraan (en vaak te laat). De meeste politici die wetten moeten ontwerpen en goedkeuren weten nauwelijks nog wat er allemaal speelt op dit terrein. Een enkele filosoof waarschuwt, maar dan moet je al weten van de hoed en de rand.
Als de mens voor ‘god’ wil spelen is het ook interessant wat AI via Chat GPT bijvoorbeeld zegt over die God. Chat GPT geeft als antwoord op de vraag ‘geef mij een bewijs dat God bestaat en voer argumenten aan’ het volgende:
Het bestaan van God is een kwestie van geloof en kan niet wetenschappelijk worden bewezen op dezelfde manier als andere natuurlijke fenomenen. Er zijn echter verschillende filosofische en theologische argumenten die worden aangevoerd ter ondersteuning van het bestaan van God. Hier zijn enkele van de meest bekende argumenten:
1. Het kosmologische argument: Dit argument stelt dat het bestaan van het universum een oorzaak moet hebben, en dat deze oorzaak God is. Het universum kan niet zichzelf hebben geschapen of uit het niets zijn voortgekomen, daarom moet er een onveroorzaakte oorzaak zijn.
2. Het teleologische argument: Dit argument wijst op het ontwerp en de complexiteit van het universum en stelt dat dit alleen kan worden verklaard door een intelligent ontwerp. De complexiteit van het leven op aarde, de precisie van de natuurwetten en het feit dat het universum de voorwaarden bevat die nodig zijn voor leven, worden vaak aangehaald als bewijs van een Goddelijke Ontwerper.
3. Het morele argument: Dit argument stelt dat het bestaan van objectieve morele waarden en verplichtingen ons leidt tot de aanname dat er een morele wetgever, oftewel God, is. Het idee is dat als er geen God is, er geen basis is voor absolute morele waarden en alles subjectief wordt, maar objectieve morele waarden lijken wel te bestaan.
4. Het argument van religieuze ervaring: Velen geloven dat hun persoonlijke ervaringen van God bewijs vormen voor Zijn bestaan. Dit kan variëren van emotionele ervaringen tijdens gebed of meditatie tot diepgaande spirituele ervaringen.
Het is belangrijk op te merken dat deze argumenten individuele overtuigingen en interpretaties vertegenwoordigen en dat geen enkel argument algemeen aanvaard is als een definitief bewijs voor het bestaan van God. Geloof en religiositeit zijn persoonlijke aangelegenheden die voortkomen uit een combinatie van persoonlijke ervaringen, gevoelens en intellectuele overtuigingen. Iedereen heeft het recht om zijn eigen standpunt in te nemen over de kwestie van het bestaan van God, gebaseerd op zijn of haar eigen overtuigingen en ervaringen. (einde antwoord)
Er zijn vast nog wel meer teksten te verzamelen en te combineren door dit programma om een antwoord op deze vraag nog wat uit te breiden en te verdiepen. Maar Dat is hier nu niet aan de orde.
De NRC van 18 november kopt (tekst door Colin van Heezik):
Éric Sadin techfilosoof – In zijn nieuwe boek beschrijft de Franse techfilosoof Éric Sadin een zorgwekkende toekomst: de mens beweegt zich als een zombie door een alomtegenwoordige digitale wereld, voortgestuwd door een spookachtig algoritme. „Het leven in ons dreigt gedoofd te worden.”
Dat klinkt apocalyptisch en dat is het ook. Techmiljonairs zetten nieuwe technieken in om nog rijker te worden en natuurlijk niet in het minst om zoveel mogelijk data te verzamelen om hun algoritmes te voeden. Ik denk ook dat ze uit zijn op controle. Een vorm van macht die zelf kan worden aangewend om de consument te sturen en te beïnvloeden maar ook om in samenwerking met sommige politici macht te krijgen over kiezers, burgers, kortom alle subjecten in hun systeem. Die subjecten zijn dan meteen gedegradeerd tot object. De digitale samenleving loopt volgens Sadin uit op een ‘totale digitalisering van het leven’. De commerciële belangen van de grote spelers op dit terrein kennen geen grenzen. Toepassing van AI in de medische wereld wordt als vooruitgang voor de mensheid gepresenteerd maar is eigenlijk slechts het voorspel van een totale commercialisering van de medische wereld waarin de farmaceuten zich presenteren als redder van de mensheid maar intussen steenrijk worden.
Het artikel in de NRC stelt (het hele artikel staat op het einde) dat in het bedrijf Amazon bijvoorbeeld de mensen al gerobotiseerd zijn. Het algoritme bepaalt hun werkzaamheden. Sadin zegt in het interview:
„Daarna komt de volgende fase, de integratie van die nachtmerrie in onze hersenen, wanneer die via breinchips verbonden worden met technologie. Daar werkt het bedrijf Neuralink van Elon Musk aan, en veel andere bedrijven. Dat is de volgende stap in de immer groeiende automatisering, pixelisatie en spectralisering van menselijke aangelegenheden.”
Het Amerikaanse “Physicians Committee” beschrijft in mei 2023 in een artikel hoe het bedrijf Neuralink van Elon Musk ongebreideld dieren gebruikt om mee te experimenteren. Ze krijgen elektronische chips ingeplant en veel dieren gaan eraan onderdoor. De volgende stap is de mens. Neuralink maakt reclame door verlamde mensen hoop te bieden maar het rapport van deze natuurkundigen liegt er niet om. (Ook dit rapport staat op het einde)
Wat precies de effecten zullen zijn op ons als mensen is op dit moment nog niet helder, maar de gevolgen zullen groot zijn. Voor onze interacties en daarmee onze gemeenschappen en samenleving, maar ook voor ons individueel welbevinden en ons gedrag, onze opvattingen en onze emoties.
Schuilen kan niet meer. Losgekoppeld worden van het net, de digitale wereld maakt je in feite in-existent – je bestaat niet meer. Fabio Pusterla schrijft in zijn gedicht ‘de blauwe bunker’ nog een poging om het vol te houden (in een soort sfeer zoals in de Koude Oorlog). Maar zijn er nog bunkers om in te schuilen als onze hoofden vol zitten met elektronica? Zijn er nog bunkers om in te schuilen voordat types als Musk ons opzadelen met een onomkeerbare ontwikkeling waar niemand op zit te wachten? Macht en geld corrumpeert, absolute macht en ontzettend veel geld corrumpeert absoluut. Hoeveel mooie praatjes er ook worden gehouden: het zijn leugens om de echte bedoelingen te maskeren. Als je nog steeds dit soort lui blijft steunen (op X voormalig Twitter) ben je in mijn ogen niet goed snik. Lever je maar over, gratis, aan/op de slachtbank van de technoslagers.
DER BLAUE BUNKER (ipotesi sul nemico)
Letti blu, pareti blu.
Geometria perfetta di forme.
Calcolata volumetria degli spazi
sotterranei. Ombre verticali,
perennemente immobili, simmetriche
alla tangibilità reale.
Incroci di linee rette, tubi neri,
dall’alto al basso, condotti d’alluminio
orizzontali. Pochi gomiti, mai casuali.
Tutto previsto, prevedibile, funzionale.
….
Letti blu, pareti blu. Silenzio
irreale.Appena percepibile ronzio,
vortichio dell’aria nel condizionatore.
A tratti un lieve crosciare d’acqua
nei tubi neri.
…
Rilàssati sei nel centra del cristallo
(quarzo rosa, quarzo occhio di tigre,
ametista prisma durissimo) circondato
da spalti di granito (quarzo feldspato e mica)
al sicura dietro porte blindate.
….
Tutto è pronto. Da tempo.Vengano pure ora.
Attenderemo gli eventi nel cuore delle montagne.
….
Letti blu, pareti blu. Echi di passi
(ma pochi) metallici in corridoi paralleli.
Locali comunicanti, labirinti,
prospettive ingannevoli.
….
I defolianti, gli aggressivi
chimici (nervini), lo strisciante
napalm, gli allarmi atomici.
La guerra tradizionale, il confutto nucleare,
gli scontri stellari: tutto previsto.
….
Monitor on, light off. Immagine:
macerie fumanti, carri armati,
cingolati leggeri con sopra granatieri
dal volto nero. Buio. Clic.
Nuova immagine: elicottero
solitario sulla valle. Si stacca
una nuvola bianca, vischiosa,
come a spegnere un incendio immaginario.
Poi: volti deformi, cadaveri nerastri,
gonfi; braccia e gambe puntinate
di colori vari. «E anche questo –
– fa lo speaker – potrebbe succedere.»
….
Il nemico (pare)
arriverà all’alba
(inutilmente inatteso)
o giú di lí.
L’importante
è chiudere sempre bene la porta.
….
Nell’immobile notte il sogno.
Di scivolare fuori, di aggirarsi
all’aperto. Richiudere il loculo.
Camminare opalescenti.
Sdraiarsi su luc cic anti erbette.
….
Letti blu, pareti blu. Formìche
bianche. Convergenza di linee,
incroci d’ ombre. Silenzio.
Immobilità. Ronzio.
Temperatura costante.
….
Non no stro questo luogo certo.
Altri magari: filiformi, raggi
di luce mobili, intelligenze angeliche
o perfette si muoveranno qui.
Amianto e nichelio saranno le insegne del re.
….
Coprire di scritte le pareti, sventrare
i materassi, scardinare i bulloni.
Svellere gli infissi, forare i tubi.
Le coperte, le lenzuola: brandelli.
….
Poi un giorno sarà riscoperto.
Come i denti
dell’ ominide di Agrigento, o le mura di Troia.
Si faranno ipotesi, indebite illazioni.
Qualcuno dirà qui viveva
una volta eccetera eccetera.
(Oppure con un po’ di fortuna
ci penserà un terremoto a cancellare tutto.)
Fabio Pusterla
***
DER BLAUE BUNKER (Theorie über den Feind)
Blaue Betten, blaue Wände.
Perfekt geometrische Formen.
Errechneter Rauminhalt
der Untergeschosse. Senkrechte Schatten,
fortdauernd unbeweglich, symmetrisch
zur greifbaren Realität.
Kreuzungen grader Linien, schwarze Röhren
von oben nach unten, horizontale
Aluminiumrohre. Biegungen selten, nie zufällig.
Vorgesehen, vorauszusehen, funktionsgerecht alles.
…..
Blaue Betten, blaue Wände. Irreale Stille.
Kaum vernehmbares Summen,
Luftströme in der Klimaanlage.
Leises Wasserrauschen dann und wann
in den schwarzen Röhren.
…..
Sei ruhig, du bist in der Mitte des Kristalls
(Rosenquarz, Tigerauge, härtestes Prisma
des Amethysts) und umschlossen
von lauter Granit (Quarz, Feldspat und Glimmer)
in Sicherheit hinter gepanzerten Türen.
…..
Alles bereit. Schon länger. Sie sollen nur kommen.
Wir harren der Dinge im Herzen der Berge.
…..
Blaue Betten, blaue Wände. Widerhall (selten)
von metallischen Schritten durch parallele Gänge.
Kommunizierende Räume, Labyrinthe,
irreführende Perspektiven.
….
Entlaubungsmittel, chemische Kampfstoffe
(Nervengas ), schleichendes Napalm,
Atomalarm.
Konventioneller Krieg, Nuklearangriff,
Zusammenstoß im Weltraum: alles vorgesehen.
….
Monitor on, light off. lm Bild:
rauchendes Trümmerfeld, Panzerwagen,
leichte Raupenfahrzeuge mit schwarzgesichtigen
Grenadieren. Dann Dunkel. Klick.
Neues Bild: Hubschrauber
einsam über dem Tal. Eine Wolke
löst sich, weiß, schleimig, wie um
ein nichtexistentes Feuer zu löschen.
Danach: entstellte Gesichter, geschwollene
schwärzliche Leichen; Arme und Beine
verschiedenfarbig gepunktet. “Auch das”,
sagt der Sprecher, “könnte passieren.”
….
Der Feind kommt (scheint es)
am frühesten Morgen (unnötig unerwartet)
oder so ungefähr.
Wichtig ist, dass die Tür
immer gut zugemacht wird.
….
Der Traum in der reglosen Nacht.
Hinauszugleiten, im Freien
herumzustreifen. Die Grabnische
hinter sich schließen. Durchscheinend hingehn.
Sich betten auf funkelnden Gräsern.
….
Blaue Betten, blaue Wände. Weiße
Kunststoffplatten. Linien, die sich treffen,
Schatten, die sich kreuzen. Stille.
Keine Bewegung. Ein Summen.
Gleichmäßige Temperatur.
….
Gewiss nicht unser der Ort.
Anderer, ja: Lichtstrahlen fadenförmig
beweglich; Intelligenzen, engelhaft oder
vollkommen, werden hier umgehen,
Asbest und Nickel die Königsinsignien sein.
….
Die Wände mit Wörtern bedecken,
die Matratzen aufschlitzen, die Bolzen herausziehn.
Die Türen ausheben, die Röhren durchlöchern.
Die Decken, die Laken: in Fetzen.
….
Und eines Tages wird man ihn wiederentdecken.
So wie die Zähne
des Hominiden von Agrigent, wie die Mauern von Troja.
Man wird aus Theorien falsche Schlüsse ziehen.
Jemand wird sagen, hier lebte
einstmals – etcetera.
(Oder wenn alles gut geht,
lässt ein Erdbeben alles verschwinden.)
Fabio Pusterla
uit: Pusterla, Fabio, Solange Zeit bleibt. Dum vacat. Gedichte Italienisch und Deutsch, Zürich 2002 (Limmat Verlag) – vertaling Hanno Helbling
John Hacking 27 november 2023
bijlages:
* NRC 18 nov 2023
‘De sleutel tot de toekomst van de mensheid zou niet in handen moeten zijn van zo’n klein clubje techmiljardairs’
MACHINEMENSEN
Éric Sadin techfilosoof
In zijn nieuwe boek beschrijft de Franse techfilosoof Éric Sadin een zorgwekkende toekomst: de mens beweegt zich als een zombie door een alomtegenwoordige digitale wereld, voortgestuwd door een spookachtig algoritme. „Het leven in ons dreigt gedoofd te worden.”
Tekst: Colin van Heezik
Tien boeken schreef de Franse filosoof Éric Sadin over de impact van technologie op de samenleving. De rode draad die hij daarbij observeert is, zoals hij dat noemt, een „totale digitalisering van het leven”, zo ongeveer sinds de komst van de smartphone in 2007 – een ontwikkeling waar volgens Sadin eigenlijk niemand om gevraagd heeft, en die vooral gedreven wordt door de commerciële belangen van Big Tech.
Zijn nieuwe boek La vie spectrale. Penser l’ère du métavers et des IA génératives (Grasset, 2023 – ‘Het spectrale leven. Een bespiegeling op het tijdperk van metaverse en generatieve AI’) verscheen 18 oktober en staat nu al hoog in de Franse bestsellerlijsten. Sadin beschrijft erin hoe het leven in de 21ste eeuw zich in zijn ogen verder zal ontwikkelen, met de AI-revolutie die gaande is: steeds vaker zullen algoritmes ons als spoken begeleiden in het leven, ons aanbevelingen influisterend voor een optimaal aangenaam en gezond bestaan.
De digitalisering van het leven zal steeds verder gaan, denkt Sadin, wordt alomtegenwoordig, steeds ‘spectraler’. „Spoken in immersieve omgevingen gaan ons meevoeren naar een soort algoritmisch surrealisme”, zegt hij via Zoom vanuit een hotelkamer in Medellín, Colombia – hij geeft er in twee dagen drie lezingen, dan vliegt hij door naar Italië, ook weer voor een lezing. „Ze zullen ons overal volgen om ons gedrag te interpreteren en ons continu diensten en producten aan te bevelen. Dat is het spectrale leven dat ik beschrijf in mijn nieuwe boek. Ik bedoel daarmee ook dat we andere mensen steeds meer ervaren als spoken die komen en gaan via schermen.”
In ‘La vie spectrale’ analyseert u ook de opkomst van de metaverse. Was dat laatste niet een mislukt idee van Meta-topman Mark Zuckerberg?
„Wat ik onder metaverse versta, is een ontwikkeling die allang gaande is, al zo’n vijftien jaar, en vooral sinds de pandemie. Menselijke relaties verliezen hun fysieke dimensie, en we belanden in wat ik noem een collectief isolement: ieder achter zijn scherm. Zuckerbergs grote onhandigheid was de metaverse een nog angstwekkender dimensie te geven, met helmen en avatars. Net op het moment dat we uit de pandemie kwamen, toen we hadden geleden onder de fysieke afwezigheid van andere mensen, kwam Zuckerberg vertellen dat hij de zaken nog eens wilde versnellen.”
Dat was een strategische misstap, volgens Sadin. „Wat niet wegneemt dat we allang in een soort metaverse leven, namelijk in een virtuele wereld, en dat gaat steeds verder. Wat we hebben ontdekt tijdens de lockdowns, met WhatsApp-borrels, topontmoetingen van staatshoofden, online interviews, virtuele doktersconsulten enzovoort – die ontwikkeling is in gang gezet en zal alleen maar sterker worden.”
In de 21ste eeuw, ziet Sadin, is technologie altijd verbonden met commercie. Als voorbeeld geeft hij vaak de zelfrijdende auto. „Zo’n auto brengt je niet alleen van Amsterdam naar Parijs, maar gaat je ook adviseren op een bepaalde plek te stoppen, bij een apotheek als je er moe uitziet, of bij een restaurant afhankelijk van je budget. Die zelfrijdende auto past in een bredere ontwikkeling: de volledige commercialisering van het leven, al gaande zolang er kapitalisme is en versterkt sinds de komst van marketing in de 20ste eeuw. Alleen zijn er nu nieuwe hulpmiddelen, zoals AI. De systemen weten steeds meer over jou, en gaan jouw gedrag steeds meer sturen.”
Sadin plaatst zichzelf in de traditie van de Franse denker Michel Foucault, die een diagnosticus van het heden wilde zijn. „Maar dat is nu niet meer genoeg”, aldus Sadin. „Technologie ontwikkelt zich zó snel. De techindustrie heeft altijd een voorsprong en we worden altijd te laat wakker. We zien de maatschappelijke gevolgen te laat. We komen te laat met wetgeving. Dus je moet proberen te zien wat zich aandient in de nabije toekomst.”
Sadins ster is rijzende, vooral nu zijn bezorgdheid steeds breder gedeeld wordt. Zijn boeken, opiniestukken en interviews verschijnen internationaal, niet zozeer in de Engelstalige wereld, maar vooral in Latijnse landen: Spanje, Italië en Zuid-Amerika. De helft van het jaar werkt hij aan een boek, de rest van de tijd reist hij de wereld over voor optredens, van Rome tot de Chileense hoofdstad Santiago.
U bent geen fan van de term ‘kunstmatige intelligentie’ – waarom niet?
„De term kunstmatige intelligentie suggereert: er is menselijke intelligentie en er is kunstmatige intelligentie, alsof AI op een natuurlijke manier de plaats van onze menselijke intelligentie zou kunnen innemen. Maar het is geen nabootsing van menselijke intelligentie. Het is een andere vorm van rationaliteit, die voornamelijk gebaseerd is op de wil om menselijke situaties te optimaliseren en het grootste deel van het bestaan te commercialiseren. Natuurlijk zijn er ook niet-commerciële toepassingen, maar wat mij interesseert, is de bredere structuur. De hele 20ste eeuw wordt gekenmerkt door rationalisering: alles beter organiseren, efficiënter maken, optimaliseren. Digitale technologie, dus ook AI, ligt in het verlengde daarvan. Het zijn geen onafhankelijke wetenschappers aan universiteiten die proberen iets te bouwen dat lijkt op menselijke intelligentie. AI wordt ontwikkeld door de techindustrie, met een winstoogmerk. Het dient geen publieke, maar private belangen.”
Ziet u geen positieve toepassingen, zoals AI die artsen kan helpen een betere diagnose te stellen?
„Medische AI past in een gigantische operatie, de privatisering van de medische sector, waar ook de farmaceutische industrie belang bij heeft. Want als de AI een diagnose gesteld heeft, wordt natuurlijk meteen het beste geneesmiddel aanbevolen. De context is dat de techindustrie probeert de medische sector te veroveren, wat haar trouwens al aardig lukt. Alle grote techbedrijven zijn ermee bezig. In de jaren 2016-2017 is enorm veel geïnvesteerd in medische AI, alle ziekenhuizen moesten het hebben. En wat bleek tijdens de pandemie? Er was gebrek aan zorg, aan bedden, aan zuurstofapparaten, aan artsen en verplegers! Niet aan AI.”
U beschrijft in uw boeken dat de functie van technologie de laatste tien jaar volledig veranderd is.
„Tot de vroege jaren 2010 beperkten digitale technologieën zich vooral tot verzamelen, opslaan en verwerken van informatie. Dat veranderde vanaf 2010, met de komst van neurale netwerken: op de werking van het menselijk brein geïnspireerde, zelflerende informatiesystemen die getraind worden op steeds grote hoeveelheden data, met steeds grotere rekenkracht, en zichzelf continu verbeteren. Sindsdien wordt technologie vaker ingezet om de werkelijkheid te analyseren en interpreteren, als een expert die dat beter en sneller kan dan wij. En die ons bovendien adviezen gaat geven.”
In zijn lezingen noemt Sadin vaak het voorbeeld van de navigatie-app Waze. „Dat is een app die de actuele verkeerssituatie in real time analyseert, met behulp van AI, satellieten en data van gebruikers, op een manier die onze cognitieve capaciteiten volledig te boven gaat. Op basis van die expertise vertelt die app ons links- of rechtsaf te slaan.”
Techniek die ons de weg wijst, letterlijk en figuurlijk. Die trend zet door, verwacht Sadin. „Steeds vaker zullen we beslissingen overlaten aan algoritmes. Zo zijn er AI-systemen in de human-resourceswereld die de competenties van sollicitanten beoordelen en uit duizend kandidaten de beste drie of vier selecteren. Nu komen er nog mensen aan te pas om met die drie of vier kandidaten een sollicitatiegesprek te voeren. Maar typisch voor AI-systemen is dat ze zich voortdurend en razendsnel verbeteren. We laten steeds meer aan ze over, dus ik kan me voorstellen dat er over vijf of zes jaar geen mens meer bij betrokken is.”
Sadin onderscheidt grofweg twee manieren waarop AI menselijk gedrag begint te sturen: vrijblijvend advies, zoals een sport-app die met AI een trainingsschema maakt. En een meer dwingend niveau, waarin AI bijvoorbeeld wordt ingezet op de werkvloer.
„Kijk naar de managementmethoden in de distributiecentra van Amazon, die gebaseerd zijn op AI-systemen. Werknemers worden aangestuurd via koptelefoons en systemen die hun vertellen wat te doen, die dwingende instructies geven. ‘Haal dit artikel uit die kast en leg het met deze snelheid op die pallet.’ Zo worden mensen in de Amazon-depots gereduceerd tot robots van vlees en bloed.”
Dat is het spectrale leven volgens Sadin, waarin algoritmes in toenemende mate de mens aansturen. „Daarna komt de volgende fase, de integratie van die nachtmerrie in onze hersenen, wanneer die via breinchips verbonden worden met technologie. Daar werkt het bedrijf Neuralink van Elon Musk aan, en veel andere bedrijven. Dat is de volgende stap in de immer groeiende automatisering, pixelisatie en spectralisering van menselijke aangelegenheden.”
Generatieve AI-systemen als ChatGPT werken met een ‘prompt’: een tekstopdracht of vraag die je invoert en waar het AI-systeem mee aan de slag gaat. Hoe denkt u dat dit zich verder ontwikkelt?
„Wat ik zie ontstaan, is een soort gegeneraliseerd ‘promptisme’. In plaats van dingen zelf te doen, gaan we instructies geven aan het AI-systeem. Bestel mijn boodschappen, vind een geschikte partner voor me, vertel me wie ik moet aannemen voor deze baan, ontwikkel een strategie voor mij, schrijf een versie van mijn lezing speciaal voor mijn publiek hier in Colombia, enzovoort. Het grote promptisme betekent: we doen nergens meer moeite voor, we hoeven onze intellectuele capaciteiten niet meer te gebruiken.”
Sadin geeft een voorbeeld uit het onderwijs. „Je ziet nu al dat leerlingen van tien jaar oud geen opstellen meer schrijven, maar een opdracht aan een AI-systeem geven – om een werkstuk te produceren dat het resultaat had moeten zijn van inventieve, creatieve activiteit. Het leren van de taal, het inspannen van de geest, ergens moeite voor doen. Zweten, ploeteren, lijden. Schrijven is niet makkelijk, maar het is ook de weerslag van onze individualiteit, van ieder wezen: spreken in de eerste persoon, ons uitdrukken op onze eigen manier, op ons eigen niveau, zowel in het dagelijkse leven als in grote romans. Daarom vind ik dat generatieve AI een bedreiging vormt voor menselijke expressie, een van de meest fundamentele aspecten van het mens-zijn.”
Met generatieve AI doelt Sadin niet alleen op chatbots als ChatGPT die tekst genereren, maar ook op AI-gegenereerde video en audio: voiceclones, deepfakes, beelden gemaakt door image generators zoals DALL-E en Midjourney.
Wat voor gevolgen ziet u voor de democratie, nu zulke technologie voor iedereen toegankelijk wordt?
„We gaan naar een wereld waarin ieder zijn eigen waarheid heeft. Maak een video speciaal voor mij, waaruit blijkt dat Trump een geweldige kerel is. Maak er eentje waarin zwarte mensen een vrouw wurgen in het 16de arrondissement. Je krijgt dus prompts die gevoed worden door menselijke boosheid of domheid, en die in het publieke domein belanden.”
Hij verwijst naar zijn boek Het tijdperk van de ik-tiran uit 2020. „Zoals ik in dat boek heb geanalyseerd, heeft de samenleving steeds minder een gemeenschappelijke basis, in de zin van gedeelde waarden en principes. Dat draagt bij aan een gevaarlijke versplintering van de samenleving. Als dan ook nog eens allerlei beelden gefabriceerd kunnen worden door grillige en krankzinnige individuen, om anderen te overtuigen van een politieke boodschap, of om haat te zaaien, dan zie je naar wat voor samenleving dat toegaat: eentje waarin iedereen doof is voor elkaar, met alle gevaren van dien.”
Ja, Sadin is diep bezorgd – maar hij gelooft niet in „existentieel risico”: de kans op uitsterven van de mens door toekomstige superintelligentie. „Sommigen hebben het over het einde van de mensheid, maar dat is het niet, dat is onzin. Wat op het spel staat, is niet het overleven van de menselijke soort, maar dat wat ons tot mens maakt: onze levenskracht, ons vuur. Het is onze levendigheid, het leven in ons dat gedoofd dreigt te worden.”
Is daar nog wat aan te doen?
„We zouden generatieve AI moeten verbieden. Want waar komt deze AI-revolutie eigenlijk vandaan? Het is geen maatschappelijk project, het is niet dat een meerderheid van de samenleving zegt: laten we dit doen, laten we met elkaar deze kant op gaan. Het is een handjevol ingenieurs, de techindustrie, een paar duizend mensen, die opeens dit soort systemen maken en op de markt gooien, die het menselijke leven volledig gaan veranderen. Dat zouden we gewoon niet moeten accepteren. De sleutel tot de toekomst van de mensheid zou niet in handen moeten zijn van zo’n klein clubje techmiljardairs.”
Over deze serie
Dit is de vierde aflevering van Machinemensen , een interviewserie over de invloed van kunstmatige intelligentie (AI) op de samenleving.
Cv Essayist en filosoof
De Franse essayist Éric Sadin (1973) was oorspronkelijk docent filosofie aan een Parijse kunstacademie. Zijn fascinatie voor technologie ontstond tijdens een studieverblijf in Japan rond het jaar 2000. Gaandeweg heeft hij zich ontwikkeld als een criticus van Big Tech. Hij schreef tien boeken over de impact van technologie op de samenleving .
In zijn oeuvre analyseert hij de opeenvolgende fasen in de recente, exponentiële ontwikkeling van digitale technologie: na het verzamelen van data en voorspellen van gedrag gaan AI-systemen ons begeleiden en adviseren. Zijn boeken en opiniestukken verschijnen wereldwijd. Hij geeft lezingen voor bedrijven, overheidsinstellingen en universiteiten.
Bijlage:
Physicians Committee’s Statement on Neuralink Reportedly Receiving Approval for Human Clinical Trials From the U.S. Food and Drug Administration
On May 25, 2023, Elon Musk’s brain-computer interface company Neuralink shared via Twitter that it had received approval from the FDA to begin human clinical trials. It is important to remember that such FDA approval is not an acquittal of Neuralink’s well-documented track record of animal cruelty and sloppy scientific studies. The approval is also not a guarantee that a Neuralink device will someday be commercially available as a significant number of medical devices that begin clinical trials never reach the market. In addition, Neuralink will likely continue to conduct experiments on monkeys, pigs, and other animals even after clinical trials have begun. Past animal experiments revealed serious safety concerns stemming from the product’s invasiveness and rushed, sloppy actions by company employees. As such, the public should continue to be skeptical of the safety and functionality of any device produced by Neuralink.
According to a March 2023 news report, which cited Neuralink employees, the FDA itself “raised safety concerns” related to “device’s lithium battery; the potential for the implant’s tiny wires to migrate to other areas of the brain; and questions over whether and how the device can be removed without damaging brain tissue.”
The Physicians Committee continues to urge Elon Musk and Neuralink to shift to developing a noninvasive brain-computer interface. Researchers elsewhere have already made progress to improve patient health using such noninvasive methods, which do not come with the risk of surgical complications, infections, or additional operations to repair malfunctioning implants. Noninvasive devices are already demonstrating the ability to improve quality of life for older adults and elderly patients, translate brain activity into intelligible speech, and assist paralyzed patients.
The Physicians Committee was the first group to obtain internal records detailing painful, deadly experiments conducted on monkeys by Neuralink in partnership with the University of California, Davis. Since those records were released, three federal agencies have launched investigations into the company and additional botched experiments were revealed by reporters. Most recently, in February 2023, the U.S. Department of Transportation (DOT) began investigating Neuralink for violations of federal hazardous material laws after documents obtained by the Physicians Committee revealed that untrained company employees transported “contaminated” devices that had been removed from the brains of “infected” monkeys without safely packaging them.
One of the infected monkeys mentioned in the complaint to the DOT was a rhesus macaque labeled “Animal 11” by UC Davis. In December 2018, Neuralink staff drilled two holes in her skull and implanted electrodes in her brain. They attached metal plates to her head with bone screws and stitched up her skin around the implants. Quickly, the surgical sites became infected and her “skin was eroded.” Finally, three months after they put her under the knife, as the infections persisted, they killed her. A necropsy revealed that she had been suffering from “acute” bleeding in her brain and her cerebral cortex had been “tattered” by Neuralink’s devices.
In December 2022, the Physicians Committee requested that the FDA investigate Neuralink for violations of the agency’s “good laboratory practices” regulations, which are designed to assure the quality and integrity of nonclinical laboratory studies. As of March 31, 2023, according to the FDA’s website, the agency had not inspected Neuralink.
“Musk needs to drop his obsession with sticking a device in our heads,” says Ryan Merkley, director of research advocacy with the Physicians Committee. “If he cared about the health of patients, he would invest in a noninvasive brain-computer interface.”
Vertaling via Google Translate:
Op 25 mei 2023 deelde Neuralink, het brein-computerinterfacebedrijf van Elon Musk, via Twitter dat het goedkeuring had gekregen van de FDA om klinische proeven op mensen te starten. Het is belangrijk om te onthouden dat een dergelijke goedkeuring door de FDA geen vrijspraak betekent van Neuralinks goed gedocumenteerde staat van dienst op het gebied van dierenmishandeling en slordige wetenschappelijke studies. De goedkeuring is ook geen garantie dat een Neuralink-apparaat ooit commercieel verkrijgbaar zal zijn, aangezien een aanzienlijk aantal medische apparaten waarmee klinische tests zijn begonnen, nooit op de markt zullen komen. Bovendien zal Neuralink waarschijnlijk doorgaan met het uitvoeren van experimenten op apen, varkens en andere dieren, zelfs nadat de klinische proeven zijn begonnen. Eerdere dierproeven brachten ernstige veiligheidsproblemen aan het licht als gevolg van de invasiviteit van het product en de overhaaste, slordige acties van werknemers van het bedrijf. Als zodanig moet het publiek sceptisch blijven over de veiligheid en functionaliteit van elk apparaat dat door Neuralink wordt geproduceerd.
Volgens een nieuwsbericht uit maart 2023, waarin werknemers van Neuralink werden geciteerd, heeft de FDA zelf “veiligheidsproblemen geuit” met betrekking tot “de lithiumbatterij van het apparaat; de mogelijkheid dat de kleine draadjes van het implantaat naar andere delen van de hersenen migreren; en vragen over de vraag of en hoe het apparaat kan worden verwijderd zonder hersenweefsel te beschadigen.”
De Physicians Committee blijft Elon Musk en Neuralink aansporen om over te stappen op de ontwikkeling van een niet-invasieve hersen-computerinterface. Onderzoekers elders hebben al vooruitgang geboekt bij het verbeteren van de gezondheid van patiënten met behulp van dergelijke niet-invasieve methoden, die geen risico met zich meebrengen op chirurgische complicaties, infecties of extra operaties om defecte implantaten te repareren. Niet-invasieve apparaten demonstreren nu al het vermogen om de levenskwaliteit van oudere volwassenen en oudere patiënten te verbeteren, hersenactiviteit te vertalen in begrijpelijke spraak en verlamde patiënten te helpen.
De Physicians Committee was de eerste groep die interne gegevens in handen kreeg met details over pijnlijke, dodelijke experimenten die Neuralink in samenwerking met de Universiteit van Californië, Davis, op apen had uitgevoerd. Sinds deze gegevens zijn vrijgegeven, zijn drie federale instanties onderzoeken naar het bedrijf gestart en zijn er nog meer mislukte experimenten aan het licht gekomen door verslaggevers. Recentelijk, in februari 2023, begon het Amerikaanse ministerie van Transport (DOT) Neuralink te onderzoeken wegens overtredingen van de federale wetgeving inzake gevaarlijke stoffen, nadat uit documenten verkregen door de Physicians Committee bleek dat ongetrainde werknemers van het bedrijf ‘besmette’ apparaten vervoerden die uit de hersenen van mensen waren verwijderd. “geïnfecteerde” apen zonder ze veilig te verpakken.
Een van de besmette apen die in de klacht bij de DOT werd genoemd, was een resusaap met het label ‘Animal 11’ door UC Davis. In december 2018 boorden medewerkers van Neuralink twee gaten in haar schedel en implanteerden elektroden in haar hersenen. Ze bevestigden metalen platen op haar hoofd met botschroeven en hechtten haar huid rond de implantaten. Al snel raakten de operatieplekken geïnfecteerd en haar ‘huid erodeerde’. Uiteindelijk, drie maanden nadat ze haar onder het mes hadden gelegd, omdat de infecties aanhielden, hebben ze haar vermoord. Uit een necropsie bleek dat ze last had van ‘acute’ bloedingen in haar hersenen en dat haar hersenschors ‘aan flarden’ was geraakt door de apparaten van Neuralink.
In december 2022 verzocht de Artsencommissie de FDA een onderzoek in te stellen naar Neuralink wegens schendingen van de voorschriften voor ‘goede laboratoriumpraktijken’ van het bureau, die bedoeld zijn om de kwaliteit en integriteit van niet-klinische laboratoriumonderzoeken te waarborgen. Volgens de website van de FDA had het bureau op 31 maart 2023 Neuralink niet geïnspecteerd.
“Musk moet zijn obsessie met het in ons hoofd steken van een apparaat laten varen”, zegt Ryan Merkley, directeur onderzoeksbehartiging bij de Physicians Committee. “Als hij om de gezondheid van patiënten gaf, zou hij investeren in een niet-invasieve hersen-computerinterface.”
betekenisgeving & levenshorizon 