Aksel Kielland

Besatt

Om hvordan den digitale kapitalismen invaderte menneskekroppen

Til Elisabeth og Bruno

Jeg hadde aldri klart dette uten dere.

Og hvis jeg hadde det, hadde det tatt mye kortere tid.

We shape our tools and thereafter our tools shape us.

John Culkin

(men ofte feilaktig tilskrevet Marshall McLuhan)

Innledning

Arbeidet med denne boken startet på et tidspunkt der de viktigste og mest presserende problemstillingene vedrørende mennesker og teknologi kretset rundt teknologiens påvirkning på vår egen bevissthet og væren i verden. På dette tidspunktet var internett-og-smarttelefonen-ødelegger-konsentrasjonsevnen-vår-boken en vital sjanger som favnet alt fra dyptpløyende akademisk kulturkritikk til selvhjelpsguider av simpleste sort, og jeg hadde endelig fått somlet meg til å begynne å skrive på min. Så, den 30. november 2022, lanserte det amerikanske teknologiselskapet OpenAI språkmodellen ChatGPT, hvorpå den offentlige samtalen nærmest over natten dreide seg bort fra menneskelig bevissthet og over på kunstig intelligens (KI). Den avanserte språkmodellen ble lansert med et enkelt og intuitivt brukergrensesnitt, og nådde 100 millioner brukere i løpet av de to første månedene den var tilgjengelig. Den voldsomme begeistringen for den nye teknologien spilte seg imidlertid ut mot en dyster bakgrunn. Elon Musk, som var med på å grunnlegge OpenAI i 2015, hadde ved en rekke anledninger advart mot den eksistensielle trusselen han hevdet kunstig intelligens representerte, og i 2014 sammenlignet han utviklingen av KI med å mane frem en demon.1

Musk var langt fra den eneste som mente kunstig intelligens representerte en betydelig risiko for menneskeheten, og OpenAI gjorde påfallende lite for å avfeie dommedagsvisjonene som raskt begynte å florere på internett. Under en høring i det amerikanske senatet i mai 2023 uttalte selskapets administrerende direktør Sam Altman at «hvis det går galt med denne teknologien, så vil det gå veldig galt», og uttrykte bekymring for at ChatGPT kunne brukes til å manipulere velgere og spre desinformasjon.2 Flere andre ledende KI-selskaper bygget direkte eller indirekte opp under budskapet om at KI kunne være farlig, og fikk god drahjelp av den delen av media som fungerer som en forlengelse av teknologibransjens markedsføringsarm. I utgangspunktet skulle man tro at det å skape frykt på denne måten var en dårlig markedsføringsstrategi, men som medieteoretikeren Douglas Rushkoff har påpekt3, bidro skremselspropagandaen til å forsterke hypen ved å sementere forestillingen om at KI var ulikt alt annet menneskeheten hittil hadde skapt.

I mars 2023 publiserte tenketanken The Future of Life Institute et opprop der hundrevis av eksperter, akademikere og næringslivsledere – deriblant Musk og Apple-grunnlegger Steve Wozniak – tok til orde for å sette utviklingen av KI på pause i minimum seks måneder, slik at man kunne utvikle retningslinjer for regulering.4 KI-bransjen sa seg imidlertid ikke enig. Blant annet ble det hevdet at det nettopp på grunn av de potensielt katastrofale konsekvensene var viktig at Silicon Valley fikk de økonomiske ressursene og det juridiske armslaget de trengte for å trykke gassen i bånn. Hvis ikke ville Kina kunne få et forsprang den frie demokratiske verden aldri ville kunne ta igjen. Det eneste som fristet mindre enn å bli utslettet av roboter var å bli utslettet av kinesiskutviklede roboter. 

Det som eksploderte ut av Silicon Valley i disse siste ukene av 2022 var en kraftig intensivering av den lavfrekvente, allestedsnærværende teknologipropagandaen som utgjør en så sentral del av livet i det tjueførste århundre at de færreste av oss tar noen notis av den i det daglige. De store språkmodellene ble hevdet å besitte et potensial til å forvandle verden som kunne sammenlignes med smarttelefonen, trykkekunsten og atombomben i ett. Følgelig befant menneskeheten seg på randen av en fremtid som var så radikalt annerledes enn alt vi kjente, at den ville transformere ikke bare arbeidshverdagen og vanene våre, men på sikt også våre verdier og normalitetsbegreper. Dette innebar at ingen av den gamle verdens skrevne og uskrevne regler lenger var relevante. For å forhindre at nøklene til fremtiden havnet i hendene på aktører som ikke ville oss vel, var det ifølge KI-selskapene essensielt å handle raskt. Å forsøke å trekke lærdom fra historien ville bare vikle oss inn i gammelt og håpløst utdatert tankegods, og forhindre oss i å fatte de rette beslutningene på et tidspunkt der det gjaldt å gripe øyeblikket. Det fantes rett og slett ikke tid til utførlige produkttester, kompliserte juridiske prosesser eller langtekkelige debatter om hva slags verden denne teknologien i praksis ville skape. Det gjaldt å handle nå.

Enten man var politiker eller en helt vanlig bekymret samfunnsborger, var man derfor nødt til å legge motforestillingene til side og la teknologibransjen og finanskapitalen manifestere denne vidunderlige og potensielt apokalyptiske nye virkeligheten. Også de mest ihuga KI-entusiastene medgikk riktignok at det fantes en viss sjanse for at teknologien i en periode først og fremst ville føre til arbeidsledighet og ytterligere konsentrasjon av velstand og makt, men dette var kun en overgangsfase. Og dersom overgangsfasen mot all formodning skulle vise seg å bli varig, var det uansett viktig at folk lærte å omstille seg i møte med et skiftende arbeidsmarked. Alle prognoser tydet på at verden ville bli enda mer skiftende i fremtiden.

Lanseringen av ChatGPT satte arbeidet med denne boken mange måneder tilbake. Selv om jeg setter min personlige og profesjonelle stolthet i å ta alt teknologibransjen proklamerer med en klype salt, svelget jeg innledningsvis den tøylesløse, skrekkblandede hypen rundt kunstig intelligens. På et tidspunkt var jeg genuint i tvil om hvorvidt det fortsatt ville være behov for bøker forfattet av mennesker når jeg omsider var ferdig med å skrive min. Det var som om KI-revolusjonen var et par blendende billykter som kom susende mot meg i stor fart, og jeg var et paralysert rådyr som ikke klarte å bevege meg ut av veibanen. Det skulle ta lang tid før jeg klarte å frigjøre meg fra mistanken om at alt jeg (og – for den saks skyld – alle andre) skrev om teknologi i disse siste dagene før revolusjonen ville bli gjort fullstendig og ugjenkallelig irrelevant når språkmodellene snudde verden på hodet.

Jeg fortsatte likevel å skrive, og mens jeg skrev skjedde det noe: Den mest intense hypen rundt kunstig intelligens fislet gradvis ut, og etter hvert syntes det klart at teknologien i første omgang ville nøye seg med å revolusjonere eksamensjuks, beregning av proteinstrukturer og visse typer digital bildemanipulasjon i filmer og tv-serier. Utviklingen man så på disse feltene var like forbløffende som den var dramatisk, men verden som sådan var tross alt gjenkjennelig, og det fantes fortsatt en plass for bøker skrevet av mennesker. Den viktigste lærdommen jeg trakk av dette var ikke at KI-selskapene lovet mer enn de kunne holde, men at opplevelsen av å befinne seg i en mellomfase mellom en irrelevant fortid og en radikalt annerledes fremtid var en like sentral del av livet i det tjueførste århundre som den teknologisk fasiliterte rastløsheten det har vært snakket så mye om. Dette var nemlig ikke første gang vi hadde fått presentert et slikt scenario av teknologibransjen dette tiåret – det var ikke engang den første gangen den måneden. 

Bare noen uker før ChatGPT ble lansert, kollapset den viktige kryptovalutabørsen FTX, og en av grunnleggerne, den profilerte filantropen og kryptoforkynneren Sam Bankman-Fried, ble siktet for bedrageri og hvitvasking. Nyheten fikk stor internasjonal oppmerksomhet, og syntes å bekrefte det onde tunger lenge hadde hevdet, nemlig at kryptovaluta i realiteten var en teknologisk avansert form for pyramidespill. FTX-kollapsen fikk store ringvirkninger på kryptofeltet, og var et solid skudd for baugen for visjonen bransjen lenge hadde forsøkt å selge inn til verden. Bærebjelken i denne visjonen var at kryptovaluta representerte en ny og mer demokratisk form for penger, som ved å omgå de tradisjonelle portvokterne i pengemarkedet kunne gjøre underverker for fattige individer og samfunn. At kryptovaluta og andre produkter basert på blokkjedeteknologi i praksis hovedsakelig ble brukt som spekulasjonsobjekter av en liten gruppe mennesker som var besatt av tanken på å bli rike fort, skyldes ifølge kryptoentusiastene at den nye teknologien ble motarbeidet av etablissementet, og at folk flest ikke var i stand til å gi slipp på sine utdaterte pengebegreper.

Slik KI-bransjen skulle gjøre noen uker senere, hadde kryptovalutaens talspersoner i en årrekke tegnet opp et bilde av en revolusjon som kom susende mot oss i høy hastighet, og som ville gjenskape verden i sitt digitale demokratiske bilde. Denne kommende transformasjonen av valutafeltet ble fremstilt som så radikal og omseggripende at historien ikke kunne forberede oss på det som skulle skje, noe som innebar at fortiden i praksis var irrelevant. Og fordi denne nye verdenen altså var rett rundt hjørnet, var det heller ikke tid til å diskutere hvorvidt ting kunne gjøres annerledes. Det eneste reelle alternativet, hevdet kryptopionerene, var å gi slipp på alle motforestillinger og la dem virkeliggjøre fremtiden på våre vegne. Kryptobransjen var aldri like overbevisende som det KI-selskapene skulle bli, men budskapet deres var mer eller mindre identisk (og like selvmotsigende): Fremtiden kommer enten du liker det eller ei, men vi trenger din hjelp til å virkeliggjøre den – og det litt kvikt.

Etter å ha gått og tenkt på sammenhengen mellom denne retorikken og vår tids allestedsnærværende forestilling om den teknologiske utviklingen, ble det etter hvert åpenbart at bokens fokus måtte utvides til å omfatte et bredere spekter av måter selskapene, forretningsmodellene og maktstrukturene som produserer teknologien vi omgir oss med påvirker oss på. Jo større plass teknologibransjen får i livene våre, jo større makt får den til å forme hvordan vi forholder oss til verden rundt oss, og det er en makt den utøver via både produktdesign, algoritmer, lobbyvirksomhet og PR-strateger. Vi vet at en rastløshet har infisert kroppene våre via smarttelefonene våre, men hva mer er det som har sneket seg med på lasset? Og hva mer prøver å trenge inn?

Snarere enn å forfatte enda et innlegg i den offentlige debatten om hvordan algoritmer og avhengighetsmekanismer forhindrer oss i å lese bøker og være til stede i hverdagen, bestemte jeg meg for å skrive en bok om hvordan teknologibransjens ideologi, verdensbilde, forretningsmodeller, markedsføringsstrategier, løfter og trusler tar bolig i språket, bevisstheten og kroppen vår. I likhet med mange andre har jeg lenge gått rundt med en følelse av at en dunkel kraft – et vanskelig definerbart noe – i løpet av det tjueførste århundre har opprettet ambassader, etablert fremskutte lagre og installert hemmelige bakdører i oss. Det er et noe det er vanskelig å sette fingeren på nettopp fordi det er allestedsnærværende, og vanskelig å sette navn på fordi det ikke oppfattes å være én ting.

Boken du nå holder i hendene er et forsøk på å skildre dette noe ved å tegne opp forbindelsene mellom teknologien vi lever i symbiose med og noen av de sentrale fenomenene som definerer vår tid: forringelsen av konsentrasjonsevnen, den markante høyredreiningen blant unge, den økte tilbøyeligheten til magisk tenkning som preger de sosiale mediene, og vår tids behov for å definere identitet ved hjelp av stjernetegn, diagnoser og personlighetstyper. 

Vårt forhold til teknologi beskrives vanligvis med utgangspunkt i hjernen, men alle som noensinne har følt den akutte trangen til å avbryte det de holder på med for å klikke seg gjennom en vilkårlig strøm av bilder og videoer i fem – elleve – tjueseks minutter, vet at dette instinktet sitter i ryggmargen. Hånden griper etter mobiltelefonen før den bevisste hjernen engang har rukket å tenke at den kjeder seg, og en stor andel av dette distré, refleksmessige konsumet av medieinnhold er såpass mekanisk at det knapt registreres i bevisstheten i det hele tatt. Denne opplevelsen av at noe har tatt bolig i oss – satt seg i ryggmargen og viklet sine tentakler rundt nervetrådene våre – gjør det naturlig å se til body horror for bilder og fortellinger som kan hjelpe oss med å forstå hva som skjer med oss.

Body horror er en grøssersjanger der drastiske og som regel groteske forvandlinger av menneskekroppen står i sentrum. Det er en utpreget visuell sjanger hvor attraksjonen består i å se kropper endre form og funksjon, produsere nye organer og overskride biologiens grenser ved å smelte sammen med teknologiske apparater. Body horror er det flommende kjøttet, de nye kroppsåpningene, de teknoorganiske symbiosene og den intenst kroppsliggjorte fremmedgjøringens sjanger, og skiller seg fra de fleste andre typer skrekk i den forstand at publikum inviteres til å identifisere seg med den monstrøse kroppen. I de fleste typer skrekkfiksjon er monsteret noe fremmed, i body horror-fortellinger er det deg. 

Body horror ble først etablert som begrep og sjanger på 1980-tallet, men har røtter tilbake til antikke myter om mennesker som forvandles til dyr og eldgamle fortellinger om ånder og demoner som tar bolig i menneskekropper. I et slikt utvidet perspektiv er Franz Kafkas kortroman Forvandlingen – om selgeren Gregor Samsa som plutselig en dag våkner opp som en forvokst kakerlakk – formodentlig verdens mest kjente body horror-fortelling. Begrepet er likevel først og fremst assosiert med film, animasjon og tegneserier, og blant prominente eksempler kan nevnes den klonede monstrositeten i Coralie Fargeats Oscar-nominerte Hollywood-satire The Substance, veritable kaskader av menneskekjøtt i Katsuhiro Otomos animerte cyberpunkklassiker Akira, og tenåringer som manifesterer bisarre fysiske mutasjoner i X-Men-tegneseriene.

De mest innflytelsesrike body horror-tradisjonene finner vi i japansk tegnefilm (anime) og i kunstnerskapet til den kanadiske filmskaperen David Cronenberg. I disse forestillingsverdenene er kroppen en kronisk ustabil og uferdig størrelse hvis transformasjoner og mutasjoner både må forstås billedlig og høyst bokstavelig.

Kapitalismen har alltid hatt et element av body horror over seg: En usynlig kraft som griper inn i menneskers liv og dikterer hva kroppene deres skal gjøre, vil uunngåelig oppleves som et fremmed nærvær og etterlate seg fysiske arr og traumatiske opplevelser. I det tjueførste århundre har imidlertid body horror-aspektet blitt mer bokstavelig og konkret, i takt med at teknologien har brakt kapitalismen stadig tettere inn på kroppen. Tidligere gikk kapitalismens rovdrift på det menneskelige legeme ut på å trekke så mye arbeidskraft som mulig ut av det, for så lite penger som mulig. I det tjueførste århundre har dette blitt utvidet til å innlemme kroppen i den digitale kapitalismens infrastruktur for produksjon, kjøp og salg via smarttelefoner og andre duppeditter som kobler nervesystemet direkte på internett.

Om lag et år etter at ChatGPT og den moderne ideen om kunstig intelligens var lansert, startet debatten om smarttelefonens og algoritmenes nedbrytende effekt på den menneskelige konsentrasjonsevnen opp igjen. Det vil si, denne gangen handlet det spesifikt om de oppvoksende generasjoner, hvis barndom og utdannelse stod i fare for å bli ødelagt takket være det norske skoleverkets lyssky allianse med teknologibransjen. Selv om denne fornyede interessen for de negative konsekvensene av digital teknologi i utgangspunktet var positiv, virket det ensidige fokuset på barn og ungdom som en fallitterklæring. Inntrykket jeg satt igjen med – og jeg tror ikke jeg var den eneste – var at fellesskapet i praksis hadde gitt opp kampen om å bekjempe den store rastløse uroen som har infisert kroppen og kulturen vår som sådan. Denne andre runden fortonet seg nemlig mest av alt som en forhandling om betingelsene for kapitulasjon, der det sentrale punktet var spørsmålet om hvor gamle barna våre skal være før vi ofrer dem til teknologibransjen. 

I dag hevdes det i det kjedsommelige at teknologien er «kommet for å bli», og hver eneste dag blir utallige hendelser, fenomener og trender forklart og forsvart med henvisning til den teknologiske utviklingen. Denne overbevisningen om at teknologien former samfunnet og historien, og at vi mennesker er ute av stand til å stoppe eller styre den, utgjør den viktigste røde tråden i teknologibransjens propaganda. I dag har de fleste av oss internalisert denne propagandaen til et punkt hvor den har satt seg i ryggmargen, og aktiveres hver gang noen foreslår omfattende regulering av teknologibransjen eller andre ting som strider mot denne deterministiske forståelsen av forholdet mellom menneske, teknologi og økonomi.

Denne boken bygger på en overbevisning om at denne propagandaen, den store kontinuitetsoppløsende rastløsheten som hjemsøker vår tid, og teknologien som omtales som kunstig intelligens, alle er ulike aspekter av én og samme ting, og at vi er nødt til å starte med kroppen dersom vi skal forstå hva denne tingen er for noe. Body horror er verken kjent for subtilitet eller nyanserikdom, og som metafor betraktet er dens brutale og surrealistiske motivkrets å regne som en stump gjenstand. Samtidig – eller kanskje nettopp derfor – er den umiddelbar, tydelig og full av tankevekkende bilder som etser seg fast i hukommelsen. I en tid hvor teknologien blir stadig mer sømløst integrert i nervesystemene våre, og påvirker oss på måter vi verken er fullstendig bevisst eller forstår den fulle rekkevidden av, er body horror-sjangerens muterende, fremmedgjorte kropper et ypperlig utgangspunkt for å se nærmere på nøyaktig hva det er teknologibransjen gjør med oss.

Dette er en fortelling i tre akter, og den starter med det nærmeste vi kommer et navn på det som har tatt bolig i oss – nemlig den teknologiske utviklingen.