Hvis vi sapiens er så kloge, hvorfor er vi samtidig så selvdestruktive? Det spørgsmål stiller Yuval Noah Harari i sin nye bog Nexus. Læs et uddrag her.
Professor og bestsellerforfatter Yuval Noah Harari tager os endnu engang igennem menneskedens historie for at gøre os klogere på os selv og vores fremtid. I Nexus – En kort historie om informationsnetværk fra stenalderen til kunstig intelligens ser Yuval Noah Harari på, hvordan informationsstrømme har formet verden fra stenalderen til Bibelen, fra heksejagt, stalinisme og nazisme til den genopblussen af populismen, vi ser i dag.
LÆS OGSÅ: Yuval Harari udgiver bog om kunstig intelligens: “Vi gennemlever den mest dybtgående informationsrevolution i menneskets historie”, siger han i Nexus
Ifølge Yuval Noah Harari har mennesket aldrig været bedre til at samle enorme mængder information – og dermed opnå stor magt. Men måske er det netop denne konstante stræben efter information og magt, som ender med at blive vores endeligt. Verden er på kanten af et økologisk kollaps, misinformation truer demokratiet, og vi kaster os blindt ud i brugen af kunstig intelligens, et nyt informationsnetværk, der truer med at udslette os.
LÆS OGSÅ: Derfor SKAL du læse Sapiens og Homo deus
Yuval Harari er historiker, filosof og ph.d. i middelalder- og militærhistorie fra Oxford Universitet. Han er blevet verdenskendt for sine anmelderroste bestsellere Sapiens – En kort historie om menneskeheden og Homo Deus – En kort historie om i morgen, som har gjort læsere over hele verden klogere på menneskehedens fortid, nutid og fremtid.
Læs prologen til Nexus af Yuval Noah Harari her:
NEXUS
af Yuval Noah Harari
Prolog
Vi har givet vores art navnet Homo sapiens – det vise menneske. Men det kan diskuteres, hvor godt vi har formået at leve op til det navn.
I løbet af de seneste 100.000 år har vi sapiens uden tvivl akkumuleret en enorm magt. Det ville fylde mange bind blot at opregne alle vores opdagelser, opfindelser og erobringer. Men magt er ikke visdom, og efter 100.000 års opdagelser, opfindelser og erobringer har menneskeheden bragt sig selv i en eksistentiel krise.
Vi befinder os på randen af et økologisk kollaps, som er forårsaget af misbruget af vores egen magt. Vi har også travlt med at skabe nye teknologier såsom kunstig intelligens, der har potentialet til at undslippe vores kontrol og enten slavebinde eller tilintetgøre os.
Men i stedet for at vores art forener sig for at tage sig af disse eksistentielle udfordringer, stiger de internationale spændinger, det globale samarbejde bliver stadig mere vanskeligt, flere lande hamstrer dommedagsvåben, og en ny verdenskrig forekommer ikke umulig.
Hvis vi sapiens er så kloge, hvorfor er vi samtidig så selvdestruktive?
Selv om vi har ophobet så megen information om alt fra dna-molekyler til fjerne galakser, virker det på et dybere niveau ikke, som om al denne information har givet os et svar på livets store spørgsmål: Hvem er vi? Hvad bør vi stræbe efter? Hvad er et godt liv, og hvordan bør vi leve det?
Til trods for de enorme mængder information, der er til vores rådighed, er vi lige så tilbøjelige som vores fjerne forfædre til at nære fantasier og illusioner. Nazismen og stalinismen er blot to nylige eksempler på det massevanvid, som selv moderne samfund lejlighedsvis rammes af. Ingen bestrider, at mennesker i dag har meget mere information og magt end i stenalderen, men det er langtfra sikkert, at vi forstår os selv og vores rolle i universet meget bedre.
Hvorfor er vi så gode til at ophobe information og magt, men langt dårligere til at erhverve visdom? Gennem historien har man i mange traditioner ment, at en skæbnesvanger fejl i menneskets natur frister os til at efterstræbe en magt, vi ikke ved, hvordan vi skal håndtere.
Den græske myte om Faëton handler om en dreng, som opdager, at han er søn af solguden Helios. Faëton, der gerne vil bevise sin guddommelige oprindelse, kræver at få lov til at styre solvognen. Helios advarer Faëton om, at intet menneske kan kontrollere de himmelske heste, der trækker solvognen. Men Faëton bliver ved med at plage, indtil solguden giver efter.
Efter stolt at have kørt solvognen hen over himlen mister Faëton som spået kontrollen over vognen. Solen kommer ud af kurs, svider al vegetation og dræber adskillige dyr og mennesker, og der er fare for, at hele verden vil bryde i brand. Zeus griber ind og dræber Faëton med et lyn. Det indbildske menneske, nu selv i brand, falder ned fra himlen som en faldende stjerne. Guderne tager igen kontrollen over himlen og frelser verden.
To tusinde år senere, da den industrielle revolution var i sin spæde vorden og maskiner langsomt begyndte at erstatte mennesker i forbindelse med udførelsen af mange opgaver, skrev Johann Wolfgang von Goethe en lignende historie til skræk og advarsel med titlen ”Troldmandens lærling”.
Goethes digt (senere populariseret som en Walt Disney-tegnefilm med Mickey Mouse) handler om en gammel troldmand, der lader en ung lærling få ansvaret over sit værksted og beder ham om at ordne nogle gøremål, mens han er væk, såsom at hente vand fra floden. Lærlingen beslutter at gøre tingene lettere for sig selv og bruger en af troldmandens besværgelser til at fortrylle en kost til at hente vand for sig.
Men lærlingen ved ikke, hvordan han skal stoppe kosten, som bliver ved med at hente vand, så værkstedet er i fare for helt at blive oversvømmet. I panik hugger han med en økse den fortryllede kost over blot for at se, at de to halvdele bliver til to koste. Nu er to fortryllede koste ved at oversvømme værkstedet med vand.
Da den gamle troldmand vender tilbage, beder lærlingen ham om hjælp: ”De ånder, jeg fremmanede, slipper jeg ikke af med igen.” Troldmanden bryder med det samme fortryllelsen og stopper den truende oversvømmelse. Lærlingens – og menneskehedens – lærestreg er klar: Lad være med at fremmane kræfter, du ikke kan kontrollere.
Hvad kan vi her i det 21. århundrede lære af fablerne om lærlingen og Faëton? Vi mennesker har åbenlyst nægtet at lytte til deres advarsler. Vi har allerede drevet Jordens klima ud af balance og har fremmanet milliarder af fortryllede koste, droner, chatbots og andre algoritmiske ånder, som risikerer at komme ud af vores kontrol og udløse en stormflod af utilsigtede konsekvenser.
Hvad skal vi så gøre? Fablerne tilbyder ingen svar ud over at vente på en eller anden gud eller troldmand, der kommer og redder os. Det er selvfølgelig et ekstremt farligt budskab. Det opmuntrer mennesker til at fralægge sig ansvaret og i stedet sætte deres lid til guder og troldmænd.
Hvad der er endnu værre, mangler der her en erkendelse af, at guder og troldmænd selv er menneskelige opfindelser – på lige fod med hestevogne, koste og algoritmer. Tilbøjeligheden til at skabe mægtige ting med utilsigtede konsekvenser begyndte ikke med opfindelsen af dampmaskinen eller kunstig intelligens, men med opfindelsen af religion. Profeter og teologer har fremmanet mægtige ånder, der skulle bringe kærlighed og glæde, men endte lejlighedsvist med at oversvømme verden med blod.
Myten om Faëton og Goethes digt giver os ingen nyttige svar, fordi de misforstår den måde, mennesker opnår magt på. I begge fabler får et enkelt menneske en enorm magt, men korrumperes dernæst af hybris og grådighed. Konklusionen er, at vores fejlbehæftede individuelle psykologi får os til at misbruge magt. Denne enkle analyse overser, at menneskelig magt aldrig er resultatet af individuelle initiativer. Magten har altid rod i et stort antal menneskers samarbejde med hinanden.
I overensstemmelse med det er det ikke vores individuelle psykologi, der får os til at misbruge magt. Ud over at være tilbøjelige til at være grådige, begå hybris og være grusomme er mennesker trods alt også i stand til at udvise kærlighed, medfølelse og beskedenhed og føle glæde.
Det er rigtigt, at blandt de værste medlemmer af vores art er grådighed og grusomhed de fremherskende egenskaber, og grådighed og grusomhed får onde aktører til at misbruge magt. Men hvorfor vælger menneskelige samfund at give magten til deres værste medlemmer?
For eksempel var de fleste tyskere i 1933 ikke psykopater. Så hvorfor stemte de på Hitler?
Vores tilbøjelighed til at stræbe efter magt, vi ikke kan kontrollere, har ikke rod i vores individuelle psykologi, men i den unikke måde, hvorpå vores art samarbejder i store grupper.
Det primære argument i denne bog er, at menneskeheden opnår en enorm magt ved at skabe store samarbejdsnetværk, men at den måde, disse netværk er opbygget på, som oftest fører til, at magten bruges på en uklog måde. Vores problem er derfor et netværksproblem.
Det er mere specifikt et informationsproblem. Information er den lim, der binder netværk sammen. Men i titusinder af år opbyggede og vedligeholdt sapiens store netværk ved at opfinde og sprede fiktioner, fantasier og massebedrag – om guder, om fortryllede koste, om kunstig intelligens og mange andre ting.
Mens det enkelte menneske typisk er interesseret i at finde ud af sandheden om sig selv og verden, tiltrækker store netværk medlemmer og skaber orden ved hjælp af fiktioner og fantasier. Det var for eksempel sådan, nazismen og stalinismen opstod. Det var usædvanligt stærke netværk, som blev holdt sammen af usædvanligt illusoriske ideer. Som George Orwell så berømt formulerede det: Uvidenhed er styrke.
Den kendsgerning, at de nazistiske og stalinistiske regimer var grundlagt på grusomme fantasier og skamløse løgne, gjorde dem ikke historisk exceptionelle, ligesom det ikke forudbestemte dem til at bryde sammen. Nazismen og stalinismen var to af de stærkeste netværk, som mennesker nogensinde har skabt.
I slutningen af 1941 og begyndelsen af 1942 så det ud, som om Aksemagterne kunne vinde Anden Verdenskrig. Til sidst var det dog Stalin, der kunne trække sig ud af krigen som sejrherre, og i 1950’erne og 1960’erne så det også ud, som om han og hans efterfølgere havde en rimelig chance for at vinde den kolde krig. I 1990’erne havde de liberale demokratier fået overtaget, men i dag fremstår det mest af alt som en midlertidig sejr.
I det 21. århundrede kan det meget vel være, at et eller andet nyt totalitært regime vil lykkes, hvor Hitler og Stalin mislykkedes, og skabe et almægtigt netværk, der kan forhindre fremtidige generationer i blot at forsøge at afsløre dets løgne og fiktioner. Vi bør ikke antage, at netværk, der hviler på bedrag og illusioner, er dømt til at mislykkes. Hvis vi ønsker at forhindre, at de vinder, er vi nødt til at gøre det hårde arbejde selv.
Den naive opfattelse af information
Det er vanskeligt at forstå styrken af netværk, der hviler på bedrag og illusioner, på grund af en generel misforståelse af, hvordan store informationsnetværk – hvad enten de hviler på bedrag og illusioner eller ej – fungerer. Denne misforståelse er indkapslet i det, jeg kalder ”den naive opfattelse af information”.
Mens fabler som myten om Faëton og ”Troldmandens lærling” præsenterer et overdrevent pessimistisk syn på den individuelle menneskelige psykologi, udbreder den naive opfattelse af information en overdrevent optimistisk opfattelse af menneskelige netværk i stor skala.
Fortalere for den naive opfattelse hævder, at store netværk kan opnå en bedre forståelse af medicin, fysik, økonomi og adskillige andre felter ved at indsamle og bearbejde meget mere information, end individer kan. Det gør ikke blot sådanne netværk meget stærke, men også kloge.
For eksempel kan lægemiddelvirksomheder og sundhedsvæsener ved at indsamle information om patogener bestemme årsagen til mange sygdomme, hvilket gør det muligt for dem at udvikle mere effektiv medicin og træffe klogere beslutninger om brugen af denne medicin.
Denne opfattelse indebærer, at information i tilstrækkelige mængder fører til sandheden, og at sandheden på sin side fører til både magt og visdom. Uvidenhed synes i modsætning hertil ikke at føre nogen vegne.
Selv om netværk, der hviler på bedrag og illusioner, lejlighedsvist kan opstå i historien – i krisetider – er disse netværk forudbestemt til i det lange løb at tabe til mere klarsynede og ærlige rivaler. Et sundhedsvæsen, der ignorerer information om patogener, eller en lægemiddelgigant, der bevidst spreder desinformation, vil i sidste ende tabe til konkurrenter, der bruger information på en klogere måde.
Den naive opfattelse indebærer således, at netværk, der hviler på bedrag og illusioner, må være en afvigelse, og at man normalt kan have tillid til, at store netværk bruger magt på en klog måde.
Fortalere for den naive opfattelse anerkender selvfølgelig, at mange ting kan gå galt på vejen fra information til sandhed. Vi kan godt komme til at begå fejl i forbindelse med indsamlingen og bearbejdningen af information.
Ondsindede aktører motiveret af grådighed eller had kan skjule vigtige kendsgerninger eller forsøge at bedrage os. Som følge heraf fører information sommetider til fejl snarere end til sandhed. For eksempel kan delvis information, en fejlbehæftet analyse eller en desinformationskampagne føre til, at selv eksperter kan komme til at identificere den forkerte årsag til en bestemt sygdom.
Fortalere for den naive opfattelse antager imidlertid, at modgiften til de fleste problemer, vi møder i forbindelse med indsamlingen og bearbejdningen af information, er indsamlingen og bearbejdningen af endnu mere information.
Selv om vi aldrig kan være fuldstændig sikre på ikke at begå fejl, er mere information i de fleste tilfælde ensbetydende med større nøjagtighed. En enkelt læge, som ønsker at identificere årsagen til en epidemi ved at undersøge en enkelt patient, vil have en mindre sandsynlighed for at lykkes med dette end tusindvis af læger, som indsamler data om millioner af patienter.
Og hvis lægerne selv konspirerer om at skjule sandheden, vil det at gøre medicinsk information mere frit tilgængelig for offentligheden og for undersøgende journalister på et tidspunkt føre til, at bedraget afsløres. Ifølge denne opfattelse er det sådan, at jo større informationsnetværket er, desto tættere må det være på sandheden.
Selv hvis vi analyserer information korrekt og opdager vigtige sandheder, garanterer det naturligvis ikke, at vi vil bruge de evner, vi hermed har opnået, på en klog måde. Visdom betyder almindeligvis evnen til ”at træffe rigtige beslutninger”, men hvad ”rigtig” betyder, afhænger af værdidomme, som er forskellige fra folk til folk, fra kultur til kultur, fra ideologi til ideologi. Forskere, som opdager et nyt patogen, kan udvikle en vaccine, der kan beskytte mennesker.
Men hvis forskerne – eller deres politiske herrer – tror på en racistisk ideologi, som indebærer, at nogle racer er andre racer underlegne og derfor bør udryddes, kan den nye medicinske viden måske bruges til at udvikle et biologisk våben, der dræber millioner af mennesker.
Også i dette tilfælde mener fortalere for den naive opfattelse af information, at yderligere information vil tilbyde en i det mindste delvis kur. De mener, at uenigheder om værdier ved nærmere eftersyn viser sig at skyldes enten mangel på information eller bevidst desinformation.
Ifølge denne opfattelse er racister dårligt informerede mennesker, som blot ikke er i besiddelse af tilstrækkelig viden om biologi og historie. De tror, at ”race” er en gyldig biologisk kategori, og de er blevet hjernevasket af falske konspirationsteorier. Kuren mod racisme er derfor at præsentere mennesker for mere biologisk og historisk viden. Det kan godt tage noget tid, men i et frit informationsmarked vil sandheden før eller siden sejre.
Den naive opfattelse er selvfølgelig mere nuanceret og reflekteret, end man kan forklare på nogle få sider, men dens centrale dogme er, at information grundlæggende er en god ting, og at jo mere information vi har, desto bedre.
Hvis blot vi får tilstrækkeligt med information og har tilstrækkeligt med tid til rådighed, er vi nærmest forudbestemt til at opdage sandheden om ting – spændende fra virusinfektioner til racistiske fordomme – hvorved vi ikke blot udvikler vores magt, men også den visdom, som det kræver at bruge denne magt på en god måde.
Denne naive opfattelse retfærdiggør menneskets stræben efter stadig mægtigere informationsteknologier og har været computeralderens og internettets semiofficielle ideologi.
I juni 1989, nogle få måneder før Berlinmuren og jerntæppets fald, erklærede Ronald Reagan, at ”den totalitære kontrols Goliat vil hurtigt blive styrtet af mikrochippens David”, og at ”den største af alle Big Brothers i stigende grad er hjælpeløs over for kommunikationsteknologien.
... Information er den moderne tidsalders ilt. … Den siver gennem mure med pigtråd. Den svæver over grænser med elektriske hegn og miner. Briser af elektroniske stråler svæver gennem jerntæppet, som var det lavet af blondestof.”
I november 2009 talte Barack Obama under et besøg i Shanghai i den samme ånd, da han sagde til sine kinesiske værter: ”Jeg nærer stor tiltro til teknologi, og jeg nærer stor tiltro til åbenhed, når det kommer til bevægelsen af information. Jeg tror, at jo mere frit information bevæger sig, jo stærkere vil samfundet blive.”
Iværksættere og virksomheder har ofte udtrykt lignende rosenrøde opfattelser af informationsteknologier. Allerede i 1858 kunne man i en leder i The New Englander læse følgende om opfindelsen af telegrafen: ”Gamle fordomme og fjendtligheder kan umuligt fortsætte med at eksistere, når et sådant instrument til udveksling af tanker mellem alle Jordens nationer er blevet skabt.”
Næsten to århundreder og to verdenskrige senere sagde Mark Zuckerberg, at Facebooks mål ”er at hjælpe mennesker med at dele mere med henblik på at gøre verden mere åben og være med til at fremme forståelsen mellem mennesker”.
I sin bog The Singularity Is Nearer fra 2024 giver den fremtrædende fremtidsforsker og iværksætter Ray Kurzweil et overblik over informationsteknologiens historie og konkluderer, at ”realiteten er, at næsten hvert eneste aspekt af livet gradvist bliver bedre som følge af en eksponentielt forbedret teknologi”.
I sit tilbageblik på menneskehedens historie bruger han eksempler som opfindelsen af trykpressen til at argumentere for, at informationsteknologi som følge af selve sin natur er tilbøjelig til at skabe ”en god cirkel, som fremmer næsten hvert eneste aspekt af menneskets trivsel, herunder evnen til at læse og skrive, uddannelse, velstand, hygiejne, sundhed, demokratisering og mindre vold”.
Den naive opfattelse af information kommer måske mest koncist til udtryk i Googles erklærede mission om at ”organisere verdens information og gøre den universelt tilgængelig og nyttig”. Googles svar på Goethes advarsler vil være, at selv om en enkelt lærling, der tilraner sig sin herres hemmelige bog med besværgelser, muligvis kan føre til en katastrofe, vil en masse lærlinge, som får fri adgang til hele verdens information, ikke blot skabe nyttige fortryllede koste, men også lære at bruge dem på en klog måde.
Google versus Goethe
Det må fremhæves, at der findes adskillige tilfælde, hvor det at have mere information virkelig har gjort det muligt for mennesker at forstå verden bedre og bruge deres magt på en klogere måde. Tænk for eksempel på det dramatiske fald i børnedødeligheden.
Johann Wolfgang von Goethe var den ældste af syv søskende, men kun han og hans søster Cornelia kunne fejre deres syvårsfødselsdag. Deres bror Hermann Jacob døde i en alder af seks år, mens deres søster Catharina Elisabeth døde i en alder af fire år, deres søster Johanna Maria i en alder af to år, deres bror Georg Adolf i en alder af otte måneder, alle på grund af sygdom. En femte, unavngiven bror var dødfødt. Cornelia døde af sygdom i en alder af 26 år, hvilket gjorde Johann Wolfgang til den eneste overlevende i sin familie.
Johann Wolfgang von Goethe fik selv fem børn, hvoraf alle på nær den ældste søn – August – døde, inden de var blevet fjorten dage gamle. Årsagen var højst sandsynligt uforeneligheden mellem Goethes blodtype og hans hustru Christianes blodtype, som betød, at moren efter den første vellykkede graviditet udviklede antistoffer mod fostrets blod.
Denne lidelse, der kaldes for rhesussygdom, kan i dag behandles så effektivt, at mortalitetsraten for denne sygdom er på mindre end 2 procent, mens den i 1790’erne var på 50 procent, og for Goethes fire yngste børn var den en dødsdom.
Samlet set var overlevelsesraten for børn i Goethes familie – en velstående tysk familie i slutningen af det 18. århundrede – på blot 25 procent. Kun tre ud af tolv børn levede, til de blev voksne. Denne gruopvækkende statistik var ikke usædvanlig. Omkring den tid, hvor Goethe skrev ”Troldmandens lærling” – i 1797 – vurderes det, at kun omkring 50 procent af tyske børn blev femten år gamle, og det samme var sandsynligvis tilfældet i de fleste andre dele af verden.
I 2020 oplevede 95,6 procent af alle børn globalt set deres femtenårsfødselsdag, og i Tyskland var tallet 99,5 procent. Denne utrolige bedrift ville ikke have været mulig uden indsamlingen, analysen og delingen af enorme mængder medicinske data om fænomener såsom blodtyper. I dette tilfælde viste den naive opfattelse af information sig således at være korrekt.
Fortalere for den naive opfattelse af information ser imidlertid kun en del af billedet, og den moderne tidsalders historie har ikke blot handlet om at reducere børnedødelighed. I de seneste generationer har menneskeheden oplevet den største stigning nogensinde i både mængden og hastigheden af vores informationsproduktion.
Hver eneste smartphone indeholder mere information end Det Alexandrinske Bibliotek i antikken og gør det muligt for sin ejer øjeblikkeligt at komme i kontakt med milliarder af andre mennesker over hele verden. Men selv med al denne information, som sendes i omløb med en utrolig hastighed, er menneskeheden tættere på at tilintetgøre sig selv end nogensinde før.
Til trods for – eller måske på grund af – de enorme mængder data, vi råder over, fortsætter vi med at sende drivhusgasser ud i atmosfæren, forurene floder og have, rydde skove, ødelægge hele habitater, drive utallige arter til randen af udryddelse og bringe det økologiske grundlag for vores egen art i fare.
Vi producerer også stadig flere mægtige masseødelæggelsesvåben – fra brintbomber til dommedagsvira. Vores ledere mangler ikke information om disse farer, men i stedet for at arbejde sammen om at finde løsninger kommer vi stadig tættere på en global krig.
Ville det at have endnu mere information gøre tingene bedre – eller værre? Det vil vi snart finde ud af. Adskillige virksomheder og regeringer har en mission om at udvikle den stærkeste informationsteknologi i historien – kunstig intelligens. Nogle fremtrædende iværksættere såsom den amerikanske investor Marc Andreessen mener, at kunstig intelligens omsider vil løse alle menneskehedens problemer.
Den 6. juni 2023 offentliggjorde Andreessen et essay med titlen ”Why AI Will Save the World”, der var fyldt med dristige påstande såsom: ”Jeg er kommet for at fortælle den gode nyhed: Kunstig intelligens vil ikke ødelægge verden og kan rent faktisk måske redde den” og ”Kunstig intelligens kan gøre alt, vi kerer os om, bedre”.
Han konkluderede: ”Udviklingen og udbredelsen af kunstig intelligens – som langtfra er en risiko, vi bør frygte – er en moralsk forpligtelse, vi har over for os selv, vores børn og vores fremtid.”
Ray Kurzweil erklærer sig enig, idet han i The Singularity Is Nearer hævder, at ”kunstig intelligens er den afgørende teknologi, som gør det muligt for os at håndtere de udfordringer, vi står over for, herunder overvindelsen af sygdom, fattigdom, miljøødelæggelser og alle vores menneskelige svagheder”. Kurzweil er yderst bevidst om teknologiens potentielle farer og analyserer dem indgående, men mener, at det kan lykkes os at afværge dem.
Andre er mere skeptiske. Ikke blot filosoffer, men også mange fremtrædende eksperter i kunstig intelligens og iværksættere såsom Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk og Mustafa Suleyman har advaret offentligheden om, at kunstig intelligens kan udslette vores civilisation.
I en artikel fra 2024 skrevet af Bengio, Hinton og adskillige andre eksperter blev det bemærket, at ”en ukontrolleret udvikling af kunstig intelligens kan kulminere i et enormt tab af liv og af biosfæren og i marginaliseringen eller endda udryddelsen af menneskeheden”.
I en undersøgelse fra 2023 med deltagelse af 2.778 forskere i kunstig intelligens mente mere end en tredjedel, at der er mindst 10 procent risiko for, at avanceret kunstig intelligens kan have skæbnesvangre konsekvenser såsom menneskehedens udryd- delse.
I 2023 underskrev hen ved 30 regeringer – herunder i Kina, USA og Storbritannien – The Bletchley Declaration om kunstig intelligens, hvori det anerkendes, at ”der er potentiale for alvorlig, endda katastrofal skade, enten bevidst eller utilsigtet, som følge af de mest betydningsfulde muligheder, som disse modeller for kunstig intelligens tilbyder”.
Når eksperter og regeringer gør brug af så apokalyptiske termer, er det ikke, fordi de har et ønske om at fremmane et Hollywood-billede af oprørske robotter, der løber rundt på gaderne og skyder folk. Et sådant scenarie er usandsynligt, og det distraherer blot folk fra de virkelige farer. Eksperter advarer i stedet om to andre scenarier.
Det første scenarie er, at kunstig intelligens kan forstærke allerede eksisterende konflikter og føre til en opdeling og splittelse af menneskeheden.
Ligesom jerntæppet i det 20. århundrede delte de rivaliserende magter i den kolde krig, vil siliciumtæppet – der består af siliciumchips og computerkoder snarere end pigtråd – i det 21. århundrede måske dele rivaliserende magter i en ny global konflikt. Fordi våbenkapløbet i forbindelse med kunstig intelligens vil føre til udviklingen af stadig mere destruktive våben, vil selv en lille gnist kunne antænde en altødelæggende verdensbrand.
Det andet scenarie er, at siliciumtæppet ikke vil skabe en splittelse mellem grupper af mennesker, men snarere mellem på den ene side det enkelte menneske og på den anden side vores nye herre – den kunstige intelligens. Uanset hvor i verden vi lever, vil vi opleve at være spundet ind i et net af ubegribelige algoritmer, som styrer vores liv, forandrer vores politik og kultur og endda forandrer vores kroppe og bevidstheder – fordi vi ikke længere kan forstå de kræfter, der kontrollerer os, for slet ikke at tale om at stoppe dem.
Hvis et totalitært netværk i det 21. århundrede formår at erobre verden, vil det være styret af en ikkemenneskelig intelligens snarere end af en menneskelig diktator. Folk, som peger på Kina, Rusland eller et postdemokratisk USA som den primære kilde til totalitære mareridt, misforstår faren. I realiteten er kinesere, russere, amerikanere og alle andre mennesker i fællesskab truet af det totalitære potentiale i en ikkemenneskelig intelligens.
Set i lyset af farens omfang bør alle mennesker interessere sig for kunstig intelligens. Selv om ikke alle kan blive eksperter i kunstig intelligens, bør vi alle være opmærksomme på, at det er den første teknologi i historien, der af egen kraft kan træffe beslutninger og skabe nye ideer.
Alle tidligere menneskelige opfindelser har givet mennesker mere magt, for ligegyldigt hvor mægtige de nye redskaber var, forblev beslutningerne vedrørende brugen af dem på menneskelige hænder. Knive og bomber bestemmer ikke selv, hvem de skal dræbe. De er stumme redskaber, som mangler den nødvendige intelligens til at bearbejde information og træffe uafhængige beslutninger.
I modsætning hertil kan kunstig intelligens selv bearbejde information og dermed erstatte mennesker i forbindelse med beslutningstagning. Kunstig intelligens er ikke et redskab, men en aktør.
Den kunstige intelligens’ mestring af information gør den også i stand til uafhængigt af mennesker at få nye ideer inden for mange forskellige felter – fra musik til medicin. Grammofoner spillede vores musik, og mikroskoper afslørede vores cellers hemmeligheder, men grammofoner kunne ikke komponere nye symfonier, og mikroskoper kunne ikke frembringe nye lægemidler.
Kunstig intelligens er allerede i stand til af sig selv at skabe kunst og gøre videnskabelige opdagelser. Inden for de næste få årtier vil kunstig intelligens sandsynligvis endda erhverve evnen til at skabe nye livsformer enten ved at skrive genetiske koder eller ved at opfinde en uorganisk kode, der kan besjæle uorganiske entiteter.
Selv i dag – på fosterstadiet af den revolution, som kunstig intelligens er – træffer computere allerede beslutninger om os. De beslutter for eksempel, om vi er værdige til at få et lån, om vi får et job, vi har ansøgt om, eller om vi skal sættes i fængsel.
Denne tendens vil kun blive forstærket og accelerere og gøre det vanskeligere at forstå vores egne liv. Kan vi have tiltro til, at computeralgoritmer vil træffe kloge beslutninger og skabe en bedre verden? Det er meget mere risikabelt end at lade en fortryllet kost hente vand. Og det er mere end blot menneskeliv, vi sætter på spil. Kunstig intelligens kan ændre kursen for ikke blot vores arts historie, men for udviklingen af alle livsformer.
Information som et våben
I 2016 udgav jeg Homo deus, en bog, som kastede lys over nogle af de farer, som de nye informationsteknologier udgør for menneskeheden.
I bogen hævdede jeg, at historiens virkelige helt altid har været information snarere end Homo sapiens, og at forskere i stigende grad forstår ikke blot historie, men også biologi, politik og økonomi som informationsstrømme. Dyr, stater og markeder er alle informationsnetværk, som absorberer data fra det omgivende miljø, træffer beslutninger og sender data tilbage.
I bogen advarede jeg om, at mens vi håber på, at bedre informationsteknologi vil give os sundhed, lykke og magt, vil den i realiteten måske tage magten fra os og ødelægge både vores fysiske og mentale helbred.
I Homo deus fremsatte jeg den hypotese, at hvis mennesker ikke passer på, risikerer vi, at informationsstrømmen opløser os som en klump jord i en fossende flod, og at menneskeheden under evighedens synsvinkel blot vil have vist sig at være en lille krusning i den kosmiske datastrøm.
I de år, der er gået siden udgivelsen af Homo deus, har den hastighed, hvormed forandringerne finder sted, kun accelereret, og vi har rent faktisk set, at magt er blevet overført fra mennesker til algoritmer. Mange af de scenarier, der lød som science fiction i 2016 – såsom at algoritmer kan skabe kunst, foregive at være mennesker, træffe livsafgørende beslutninger om os og vide mere om os, end vi ved om os selv – er en del af hverdagen i 2024.
Mange andre ting har forandret sig siden 2016. Den økologiske krise er eskaleret, de internationale spændinger er blevet intensiveret, og en populistisk bølge har undermineret sammenhængskraften i selv de mest robuste demokratier.
Populismen udgør også en radikal udfordring for den naive opfattelse af information. Populistiske ledere som Donald Trump og Jair Bolsonaro og populistiske bevægelser og konspirationsteorier som QAnon og vaccinemodstanderne har hævdet, at alle traditionelle institutioner, som får deres autoritet ved at påstå at indsamle information og finde frem til sandheden, ganske enkelt lyver. Bureaukrater, dommere, læger, mainstreamjournalister og akademiske eksperter udgør eliter, som ikke har nogen interesse i sandheden og bevidst spreder desinformation for selv at få magt og privilegier på bekostning af ”folket”.
Fremkomsten af politikere som Trump og bevægelser som QAnon har en specifik politisk kontekst, som var unik for forholdene i USA i slutningen af 2010’erne. Men populismen som en verdensanskuelse, der er vendt mod det politiske establishment, fandtes længe før Trump og er relevant i forhold til adskillige andre historiske kontekster nu og i fremtiden. Populismen betragter kort sagt information som et våben.
I sin mere ekstreme version indebærer populisme, at der slet ikke findes nogen objektiv sandhed, og at alle har ”deres egen sandhed”, som de bruger til at knuse deres rivaler. Ifølge denne verdensanskuelse er magt den eneste virkelighed. Alle sociale interaktioner er magtkampe, for mennesker er kun interesseret i magt. Påstanden om at være interesseret i noget andet – såsom sandhed eller retfærdighed – er intet andet end et kneb til at opnå magt.
Når som helst og hvor som helst populismen formår at udbrede opfattelsen af information som et våben, undermineres selve sproget. Substantiver som ”kendsgerninger” og adjektiver som ”korrekt” og ”sandfærdig” bliver sværere at definere. Sådanne ord betragtes ikke som noget, der afspejler en fælles objektiv virkelighed. Enhver snak om ”kendsgerninger” eller ”sandhed” er i stedet forudbestemt til at få i det mindste nogle mennesker til at stille spørgsmålet: ”Hvis kendsgerninger og hvis sandheder taler du om?”
Det bør fremhæves, at denne magtfokuserede og dybt skeptiske opfattelse af information ikke er et nyt fænomen og ikke blev opfundet af vaccinemodstandere, mennesker, der påstår, at Jorden er flad, Bolsonaristas eller Trump-tilhængere. Lignende opfattelser har været forfægtet længe før 2016, herunder af nogle af de mest begavede mennesker, der har eksisteret.
For eksempel påstod intellektuelle fra den radikale venstrefløj såsom Michel Foucault og Edward Said i slutningen af det 20. århundrede, at videnskabelige institutioner såsom klinikker og universiteter ikke stræber efter tidløse og objektive sandheder, men i stedet bruger magt til at bestemme, hvad der betragtes som sandhed, idet de hermed tjener kapitalistiske og kolonialistiske eliters interesser.
Disse radikale kritikker gik lejlighedsvist så vidt som til at påstå, at ”videnskabelige kendsgerninger” ikke er andet og mere end en kapitalistisk eller kolonialistisk ”diskurs”, og at mennesker med magt aldrig rigtig kan være interesseret i sandhed, og at man ikke kan sætte sin lid til, at de vil være i stand til at opdage og korrigere deres egne fejl.
Denne særlige form for radikal venstreorienteret tænkning går tilbage til Karl Marx, som i midten af det 19. århundrede hævdede, at magt er den eneste virkelighed, at information er et våben, og at eliter, som påstår at tjene sandheden og retfærdigheden, i realiteten stræber efter at bevare særlige klassers privilegier.
Med nogle ord fra Det kom munistiske manifest fra 1848: ”Alle hidtidige samfunds historie er en klassekampens historie. Fri mand og slave, patricier og plebejer, baron og livegen, lavsmester og svend, kort sagt: Undertrykkere og under- trykte har stået i stadig modsætning til hinanden, har – snart skjult, snart åbenlyst – ført en uafbrudt kamp.”
Denne binære fortolkning af historien antyder, at hver eneste menneskelig interaktion er en magtkamp mellem undertrykkere og undertrykte. Som følge heraf skal man, når som helst nogen siger noget, ikke stille spørgsmålet: ”Hvad bliver der sagt? Er det sandt?”, men i stedet: ”Hvem siger det? Hvis privilegier tjener det?”
Højrefløjspopulister som Trump og Bolsonaro har selvfølgelig ikke læst Foucault eller Marx – ja, de præsenterer sig selv som stærkt antimarxistiske. De adskiller sig også i høj grad fra marxister, hvad angår den politik, de fører inden for områder som skat eller velfærd. Men deres grundlæggende syn på samfundet og på information er overraskende marxistisk, idet de betragter alle menneskelige interaktioner som en magtkamp mellem undertrykkere og undertrykte.
For eksempel sagde Trump i sin tiltrædelsestale i 2017, at ”en lille gruppe i vores nations hovedstad har høstet statens udbytte, mens folket har båret om- kostningerne”. En sådan retorik er en fast bestanddel i populismen, som politologen Cass Mudde har beskrevet som en ”ideologi, som mener, at samfundet i sidste instans er delt i to homogene og antago- nistiske grupper, ’det rene folk’ versus ’den korrupte elite’”.
Ligesom marxisterne hævdede, at medierne er et talerør for den kapitalistiske klasse, og at videnskabelige institutioner såsom universiteter spreder desinformation for at bevare kapitalisternes kontrol over samfundet, beskylder populister de selvsamme institutioner for at arbejde for at fremme de ”korrupte eliters” interesser på bekostning af ”folkets”.
Nutidens populister lider altså af den samme mangel på sammenhæng, som i tidligere generationer plagede radikale bevægelser, der bekæmpede det politiske establishment. Hvis magt er den eneste virkelighed, og hvis information blot er et våben, hvad fortæller det så om populisterne selv? Er også de kun interesseret i magt, og lyver de også for os for at opnå magt?
Populister har forsøgt at vikle sig ud af dette paradoks på to forskellige måder. Nogle populistiske bevægelser hævder at efterleve den moderne videnskabs idealer og agere i overensstemmelse med den skeptiske empirismes tradition. De siger, at man bestemt aldrig bør stole på nogen institutioner eller autoriteter – herunder selverklærede populistiske partier og politikere. Man bør i stedet ”udføre sin egen forskning” og kun stole på det, man selv kan se.
Denne radikale empiriske position indebærer, at selv om man aldrig kan stole på store institutioner såsom politiske partier, domstole, aviser og universiteter, kan enkeltindivider, som gør en indsats, stadig selv finde frem til sandheden.
Denne tilgang kan måske lyde videnskabelig og appellere til frie ånder, men i sit kølvand efterlader den tvivl om, hvordan menneskelige samfund kan samarbejde om at opbygge sundhedssystemer eller vedtage miljøregulering, som kræver institutionel organisering i stor skala.
Er et enkelt individ i stand til at foretage al den forskning, som kræves for at afgøre, om Jordens klima er blevet varmere, og hvad der skal gøres ved det? Hvordan kan et enkelt menneske indsamle klimadata fra hele verden eller få fat i pålidelige opgørelser fra tidligere århundreder?
Det kan lyde videnskabeligt kun at ”stole på min egen forskning”, men i praksis er det ensbetydende med at mene, at der ikke findes nogen objektiv sandhed. Som vi skal se i kapitel 4, er videnskab en samarbejdende institutionel bestræbelse snarere end en personlig søgen.
En alternativ populistisk løsning er at opgive det moderne videnskabelige ideal om at finde sandheden via ”forskning” og i stedet vende tilbage til at sætte sin lid til guddommelige åbenbaringer eller mysticisme. Traditionelle religioner som kristendom, islam og hinduisme har typisk karakteriseret mennesker som upålidelige magtbegærlige skabninger, der kun kan få adgang til sandheden takket være en guddommelig intelligens’ indgriben.
I 2010’erne og begyndelsen af 2020’erne har populistiske partier fra Brasilien til Tyrkiet og fra USA til Indien indgået i en alliance med sådanne traditionelle religioner. De har udtrykt radikal tvivl vedrørende moderne institutioner, mens de har erklæret deres fulde tiltro til antikke skrifter.
Populisterne påstår, at de artikler, du læser i The New York Times eller i Science, blot er elitære kneb med henblik på at opnå magt, mens det, du læser i Bibelen, Koranen eller vedaerne, er den absolutte sandhed.
I en variant af dette opfordres mennesker til at sætte deres lid til karismatiske ledere som Trump eller Bolsonaro, som af deres støtter enten beskrives som Guds sendebud, eller som om de var i besiddelse af et mystisk bånd med ”folket”. Mens almindelige politikere lyver over for folket for selv at få magten, er den karismatiske leder folkets ufejlbarlige talerør, som afslører alle løgnene.
Et af populismens tilbagevendende paradokser er, at den lægger ud med at advare os om, at alle menneskelige eliter er drevet af et farligt magtbegær, men ofte ender med at overdrage al magt til et enkelt ambitiøst menneske.
Jeg vil udforske populismen nærmere i kapitel 5, men her er det vigtigt at bemærke, at populister undergraver tilliden til store institutioner og internationalt samarbejde på netop dette tidspunkt i historien, hvor menneskeheden står over for eksistentielle udfordringer såsom risikoen for økologisk kollaps, global krig og teknologi, vi ikke længere kan kontrollere.
I stedet for at have tillid til komplekse menneskelige institutioner giver populister os det samme råd som myten om Faëton og ”Troldmandens lærling”: ”Sæt din lid til, at Gud eller den store troldmand vil gribe ind og gøre alt godt igen.” Hvis vi følger dette råd, vil vi sandsynligvis på kort sigt være underlagt den værste form for magtbegærlige mennesker og på langt sigt være underlagt en helt ny hersker – kunstig intelligens. Eller vi vil måske slet ikke længere findes, i takt med at Jorden bliver mere og mere ugæstfri over for menneskeligt liv.
Hvis vi ønsker at overgive magten til en karismatisk leder eller en uudgrundelig kunstig intelligens, må vi først få en bedre forståelse af, hvad information er, hvordan den hjælper mennesker med at opbygge netværk, og hvad forholdet mellem på den ene side information og på den anden side sandhed og magt er.
Populister gør ret i at være mistænksomme over for den naive opfattelse af information, men de gør uret i at mene, at magt er den eneste virkelighed, og at information altid er et våben. Information er ikke sandhedens råmateriale, men den er heller ikke kun et våben. Der er tilstrækkeligt med plads mellem disse yderpoler til et mere nuanceret og håbefuldt syn på menneskelige informationsnetværk og vores evne til at gøre brug af magt på en klog måde. Denne bog er helliget udforskningen af denne mellemposition.
Vejen frem
I den første del af denne bog vil jeg se nærmere på den historiske udvikling af menneskelige informationsnetværk. Jeg vil ikke forsøge at præsentere en omfattende redegørelse – århundrede for århundrede – af informationsteknologier såsom skrift, trykpresser og radio.
I stedet vil jeg gennem et par eksempler udforske nogle centrale dilemmaer, som mennesker i alle æraer har stået over for, når de har forsøgt at opbygge informationsnetværk, og undersøge, hvordan forskellige svar på disse dilemmaer har formet samfund på vidt forskellig vis. Det, vi normalt forstår som ideologiske og politiske konflikter, viser sig ofte at være sammenstød mellem modstridende typer af informationsnetværk.
Jeg vil i begyndelsen af første del undersøge to principper, der har været afgørende for menneskelige informationsnetværk i stor skala: mytologi og bureaukrati.
I kapitel 2 og 3 beskriver jeg, hvordan store informationsnetværk – fra oldtidens kongeriger til nutidige stater – har sat deres lid til både mytemagere og bureaukrater. For eksempel var Bibelens historier vigtige for den kristne kirke, men der ville ikke have været nogen bibel, hvis kirkelige bureaukrater ikke havde udvalgt, redigeret og udbredt disse historier.
Det er et vanskeligt dilemma for alle menneskelige netværk, at mytemagere og bureaukrater er tilbøjelige til at trække i forskellige retninger. Institutioner og samfund er ofte defineret af den balance, de formår at finde mellem deres mytemageres og deres bureaukraters modstridende behov. Den kristne kirke blev selv delt i rivaliserende kirker som den katolske og den protestantiske kirke, der hver især fandt balancen mellem mytologi og bureaukrati.
I kapitel 4 fokuserer jeg på problemet med fejlagtig information og på fordele og ulemper ved at have selvkorrigerende mekanismer som for eksempel uafhængige domstole eller fagfællebedømte tidsskrifter. I kapitlet kontrasteres institutioner, som satte deres lid til svage selvkorrigerende mekanismer såsom den katolske kirke, med institutioner, som udviklede stærke selvkorrigerende mekanismer, såsom de videnskabelige fag.
Svage selvkorrigerende mekanismer fører nogle gange til historiske katastrofer som de tidlige moderne europæiske heksejagter, mens stærke selvkorrigerende mekanismer nogle gange destabiliserer netværket indefra. Bedømt ud fra levetid, udbredelse og magt har den katolske kirke måske været den mest succesfulde institution i den menneskelige historie til trods for – eller måske på grund af – dens relativt svage selvkorrigerende mekanismer.
Efter undersøgelsen af den rolle, som mytologi og bureaukrati spiller, og af modsætningen mellem stærke og svage selvkorrigerende mekanismer afslutter kapitel 5 den historiske diskussion og første del af bogen ved at fokusere på en anden modsætning – modsætningen mellem distribuerede og centraliserede informationsnetværk.
Demokratiske systemer gør det muligt for information at strømme frit langs mange uafhængige kanaler, mens totalitære systemer forsøger at koncentrere informationen et enkelt centralt sted. Der er både fordele og ulemper ved begge valg. Forståelsen af politiske systemer som USA og Sovjetunionen ud fra informationsstrømme kan i høj grad forklare den forskellige udvikling i disse lande.
Den historiske del af bogen er afgørende for at forstå nutidige udviklinger og fremtidige scenarier. Fremkomsten af kunstig intelligens er muligvis den største informationsrevolution i historien. Men vi kan ikke forstå den, hvis ikke vi sammenligner den med dens forløbere.
Historie er ikke studiet af fortiden, det er studiet af forandring. Historien lærer os, hvad der forbliver det samme, hvad der forandrer sig, og hvordan ting forandrer sig. Det er lige så relevant for informationsrevolutioner som for enhver anden form for historisk transformation.
Således giver en forståelse af den proces, gennem hvilken den angiveligt ufejlbarlige bibel blev kanoniseret, en værdifuld indsigt i nutidige påstande om den kunstige intelligens’ ufejlbarlighed.
På samme måde udgør studiet af de tidlige moderne heksejagter og Stalins kollektivisering stærke advarsler med hensyn til, hvad der kan gå galt, i takt med at vi giver forskellige former for kunstig intelligens større kontrol over det 21. århundredes samfund.
En dyb historisk viden er også afgørende for at forstå, hvad der er nyt ved kunstig intelligens, hvordan kunstig intelligens grundlæggende adskiller sig fra trykpresser og radioer, og på hvilke specifikke måder et fremtidigt diktatur drevet af kunstig intelligens kan være meget forskelligt fra noget andet, vi tidligere har set.
Jeg vil i bogen ikke påstå, at studiet af fortiden gør os i stand til at forudsige fremtiden. Som jeg gentagne gange vil fremhæve på de følgende sider, er historien ikke deterministisk, og fremtiden vil være formet af de valg, vi alle træffer i løbet af de kommende år. Hele pointen med at skrive denne bog er, at vi ved at træffe oplyste valg kan forhindre de værste udfald. Hvis vi ikke kan ændre fremtiden, hvorfor så overhovedet spilde tid på at diskutere den?
Ved at bygge på den historiske oversigt i første del vil jeg i bogens anden del – ”Det uorganiske netværk” – undersøge det nye informationsnetværk, vi er ved at skabe i disse år, og fokusere på de politiske implikationer af fremkomsten af kunstig intelligens.
Jeg vil i kapitel 6-8 diskutere nyere eksempler fra hele verden – såsom den rolle, sociale mediers algoritmer spillede i forbindelse med anstiftelsen til etnisk vold i Myanmar i 2016-2017 – med henblik på at forklare, på hvilken måde kunstig intelligens adskiller sig fra alle tidligere informationsteknologier. Eksemplerne er primært taget fra 2010’erne snarere end fra 2020’erne, fordi vi har opnået et minimum af historisk perspektiv på de begivenheder, der udspillede sig i 2010’erne.
I anden del af bogen hævder jeg, at vi er i færd med at skabe en helt ny form for informationsnetværk uden at stoppe op og reflektere over dets implikationer. Jeg vil her lægge vægt på skiftet fra organiske til uorganiske informationsnetværk. Romerriget, den katolske kirke og Sovjetunionen støttede sig alle til kulstofbaserede hjerner, der kunne bearbejde information og træffe beslutninger.
De siliciumbaserede computere, som dominerer det nye informationsnetværk, fungerer på en radikalt anderledes måde. Siliciumchips er, hvad enten det nu er en fordel eller en ulempe, fri for mange af de begrænsninger, som den organiske biokemi pålægger kulstofneuroner. Siliciumchips kan skabe spioner, der aldrig sover, finansmænd, der aldrig glemmer noget, og despoter, der aldrig dør. Hvordan vil det ændre vores samfund, økonomi og politik?
I den tredje og sidste del af bogen – ”Computerpolitik” – vil jeg undersøge, hvordan forskellige samfund kan håndtere trusler og løfter i det uorganiske informationsnetværk. Vil kulstofbaserede livsformer som os have en chance for at forstå og kontrollere det nye informationsnetværk? Som bemærket ovenfor er historien ikke deterministisk, og i det mindste nogle få år endnu vil vi sapiens stadig have magten til at forme vores fremtid.
I overensstemmelse hermed udforsker jeg i kapitel 9, hvordan demokratier kan forholde sig til det uorganiske netværk.
Hvordan kan for eksempel politikere af kød og blod træffe finansielle beslutninger, hvis det finansielle system i stigende grad er kontrolleret af kunstig intelligens, og hvis selve betydningen af penge bliver afhængig af uudgrundelige algoritmer?
Hvordan kan man i demokratier føre en offentlig samtale om noget som helst – hvad enten det er økonomi eller køn – hvis vi ikke længere kan vide, om vi taler med et andet menneske eller med en chatbot, der giver sig ud for at være et menneske?
I kapitel 10 udforsker jeg uorganiske netværks potentielle indvirk- ning på totalitarismen. Mens diktatorer gladelig ville slippe for alle offentlige samtaler, frygter de kunstig intelligens. Autokratier er baseret på terrorisering og censur af deres egne borgere. Men hvordan kan en menneskelig diktator terrorisere en kunstig intelligens, censurere dens ubegribelige processer eller forhindre, at den selv griber magten?
Endelig vil jeg i kapitel 11 udforske, hvordan det nye informations- netværk kan påvirke magtbalancen mellem demokratiske og totalitære samfund på globalt niveau. Vil kunstig intelligens afgørende tippe balancen til fordel for den ene lejr? Vil verden blive inddelt i fjendtlige blokke, hvis rivalisering gør os alle til et let bytte for en kunstig intelligens, vi ikke længere kan kontrollere? Eller kan vi forene os i forsvaret for vores fælles interesser?
Men før vi udforsker informationsnetværks fortid, nutid og mulige fremtider, er vi nødt til at begynde med et bedragerisk enkelt spørgsmål. Hvad er information helt præcist?
Yuval Noah Harari: Nexus
NEXUS ser tilbage på menneskets historie og hvordan informationsstrømme har formet os og verden omkring os. Fra stenalderen til Bibelen, fra heksejagt, stalinisme og nazisme til den genopblussen af populismen, vi ser i dag. Yuval Noah Harari kigger på det komplekse forhold mellem information og sandhed, bureaukrati og mytologi, visdom og magt.
Han udforsker, hvordan forskellige samfund og politiske systemer gennem historien på godt og ondt har brugt information for at nå deres mål. Og han adresserer de presserende valg, vi står over for, når ikke-menneskelig intelligens truer vores eksistens.
Yuval Noah Harari er israelsk historiker, filosof og forfatter til bestsellerne Sapiens: En kort historie om menneskeheden, Homo Deus: En kort historie om i morgen og 21 ting du bør vide om det 21. århundrede.
Du kan købe Nexus online, f.eks. hos Saxo, eller i din nærmeste boghandel fra d. 10. september.
Hvis vi sapiens er så kloge, hvorfor er vi samtidig så selvdestruktive? Det spørgsmål stiller Yuval Noah Harari i sin nye bog Nexus. Læs et uddrag her.
Professor og bestsellerforfatter Yuval Noah Harari tager os endnu engang igennem menneskedens historie for at gøre os klogere på os selv og vores fremtid. I Nexus – En kort historie om informationsnetværk fra stenalderen til kunstig intelligens ser Yuval Noah Harari på, hvordan informationsstrømme har formet verden fra stenalderen til Bibelen, fra heksejagt, stalinisme og nazisme til den genopblussen af populismen, vi ser i dag.
LÆS OGSÅ: Yuval Harari udgiver bog om kunstig intelligens: “Vi gennemlever den mest dybtgående informationsrevolution i menneskets historie”, siger han i Nexus
Ifølge Yuval Noah Harari har mennesket aldrig været bedre til at samle enorme mængder information – og dermed opnå stor magt. Men måske er det netop denne konstante stræben efter information og magt, som ender med at blive vores endeligt. Verden er på kanten af et økologisk kollaps, misinformation truer demokratiet, og vi kaster os blindt ud i brugen af kunstig intelligens, et nyt informationsnetværk, der truer med at udslette os.
LÆS OGSÅ: Derfor SKAL du læse Sapiens og Homo deus
Yuval Harari er historiker, filosof og ph.d. i middelalder- og militærhistorie fra Oxford Universitet. Han er blevet verdenskendt for sine anmelderroste bestsellere Sapiens – En kort historie om menneskeheden og Homo Deus – En kort historie om i morgen, som har gjort læsere over hele verden klogere på menneskehedens fortid, nutid og fremtid.
Læs prologen til Nexus af Yuval Noah Harari her:
NEXUS
af Yuval Noah Harari
Prolog
Vi har givet vores art navnet Homo sapiens – det vise menneske. Men det kan diskuteres, hvor godt vi har formået at leve op til det navn.
I løbet af de seneste 100.000 år har vi sapiens uden tvivl akkumuleret en enorm magt. Det ville fylde mange bind blot at opregne alle vores opdagelser, opfindelser og erobringer. Men magt er ikke visdom, og efter 100.000 års opdagelser, opfindelser og erobringer har menneskeheden bragt sig selv i en eksistentiel krise.
Vi befinder os på randen af et økologisk kollaps, som er forårsaget af misbruget af vores egen magt. Vi har også travlt med at skabe nye teknologier såsom kunstig intelligens, der har potentialet til at undslippe vores kontrol og enten slavebinde eller tilintetgøre os.
Men i stedet for at vores art forener sig for at tage sig af disse eksistentielle udfordringer, stiger de internationale spændinger, det globale samarbejde bliver stadig mere vanskeligt, flere lande hamstrer dommedagsvåben, og en ny verdenskrig forekommer ikke umulig.
Hvis vi sapiens er så kloge, hvorfor er vi samtidig så selvdestruktive?
Selv om vi har ophobet så megen information om alt fra dna-molekyler til fjerne galakser, virker det på et dybere niveau ikke, som om al denne information har givet os et svar på livets store spørgsmål: Hvem er vi? Hvad bør vi stræbe efter? Hvad er et godt liv, og hvordan bør vi leve det?
Til trods for de enorme mængder information, der er til vores rådighed, er vi lige så tilbøjelige som vores fjerne forfædre til at nære fantasier og illusioner. Nazismen og stalinismen er blot to nylige eksempler på det massevanvid, som selv moderne samfund lejlighedsvis rammes af. Ingen bestrider, at mennesker i dag har meget mere information og magt end i stenalderen, men det er langtfra sikkert, at vi forstår os selv og vores rolle i universet meget bedre.
Hvorfor er vi så gode til at ophobe information og magt, men langt dårligere til at erhverve visdom? Gennem historien har man i mange traditioner ment, at en skæbnesvanger fejl i menneskets natur frister os til at efterstræbe en magt, vi ikke ved, hvordan vi skal håndtere.
Den græske myte om Faëton handler om en dreng, som opdager, at han er søn af solguden Helios. Faëton, der gerne vil bevise sin guddommelige oprindelse, kræver at få lov til at styre solvognen. Helios advarer Faëton om, at intet menneske kan kontrollere de himmelske heste, der trækker solvognen. Men Faëton bliver ved med at plage, indtil solguden giver efter.
Efter stolt at have kørt solvognen hen over himlen mister Faëton som spået kontrollen over vognen. Solen kommer ud af kurs, svider al vegetation og dræber adskillige dyr og mennesker, og der er fare for, at hele verden vil bryde i brand. Zeus griber ind og dræber Faëton med et lyn. Det indbildske menneske, nu selv i brand, falder ned fra himlen som en faldende stjerne. Guderne tager igen kontrollen over himlen og frelser verden.
To tusinde år senere, da den industrielle revolution var i sin spæde vorden og maskiner langsomt begyndte at erstatte mennesker i forbindelse med udførelsen af mange opgaver, skrev Johann Wolfgang von Goethe en lignende historie til skræk og advarsel med titlen ”Troldmandens lærling”.
Goethes digt (senere populariseret som en Walt Disney-tegnefilm med Mickey Mouse) handler om en gammel troldmand, der lader en ung lærling få ansvaret over sit værksted og beder ham om at ordne nogle gøremål, mens han er væk, såsom at hente vand fra floden. Lærlingen beslutter at gøre tingene lettere for sig selv og bruger en af troldmandens besværgelser til at fortrylle en kost til at hente vand for sig.
Men lærlingen ved ikke, hvordan han skal stoppe kosten, som bliver ved med at hente vand, så værkstedet er i fare for helt at blive oversvømmet. I panik hugger han med en økse den fortryllede kost over blot for at se, at de to halvdele bliver til to koste. Nu er to fortryllede koste ved at oversvømme værkstedet med vand.
Da den gamle troldmand vender tilbage, beder lærlingen ham om hjælp: ”De ånder, jeg fremmanede, slipper jeg ikke af med igen.” Troldmanden bryder med det samme fortryllelsen og stopper den truende oversvømmelse. Lærlingens – og menneskehedens – lærestreg er klar: Lad være med at fremmane kræfter, du ikke kan kontrollere.
Hvad kan vi her i det 21. århundrede lære af fablerne om lærlingen og Faëton? Vi mennesker har åbenlyst nægtet at lytte til deres advarsler. Vi har allerede drevet Jordens klima ud af balance og har fremmanet milliarder af fortryllede koste, droner, chatbots og andre algoritmiske ånder, som risikerer at komme ud af vores kontrol og udløse en stormflod af utilsigtede konsekvenser.
Hvad skal vi så gøre? Fablerne tilbyder ingen svar ud over at vente på en eller anden gud eller troldmand, der kommer og redder os. Det er selvfølgelig et ekstremt farligt budskab. Det opmuntrer mennesker til at fralægge sig ansvaret og i stedet sætte deres lid til guder og troldmænd.
Hvad der er endnu værre, mangler der her en erkendelse af, at guder og troldmænd selv er menneskelige opfindelser – på lige fod med hestevogne, koste og algoritmer. Tilbøjeligheden til at skabe mægtige ting med utilsigtede konsekvenser begyndte ikke med opfindelsen af dampmaskinen eller kunstig intelligens, men med opfindelsen af religion. Profeter og teologer har fremmanet mægtige ånder, der skulle bringe kærlighed og glæde, men endte lejlighedsvist med at oversvømme verden med blod.
Myten om Faëton og Goethes digt giver os ingen nyttige svar, fordi de misforstår den måde, mennesker opnår magt på. I begge fabler får et enkelt menneske en enorm magt, men korrumperes dernæst af hybris og grådighed. Konklusionen er, at vores fejlbehæftede individuelle psykologi får os til at misbruge magt. Denne enkle analyse overser, at menneskelig magt aldrig er resultatet af individuelle initiativer. Magten har altid rod i et stort antal menneskers samarbejde med hinanden.
I overensstemmelse med det er det ikke vores individuelle psykologi, der får os til at misbruge magt. Ud over at være tilbøjelige til at være grådige, begå hybris og være grusomme er mennesker trods alt også i stand til at udvise kærlighed, medfølelse og beskedenhed og føle glæde.
Det er rigtigt, at blandt de værste medlemmer af vores art er grådighed og grusomhed de fremherskende egenskaber, og grådighed og grusomhed får onde aktører til at misbruge magt. Men hvorfor vælger menneskelige samfund at give magten til deres værste medlemmer?
For eksempel var de fleste tyskere i 1933 ikke psykopater. Så hvorfor stemte de på Hitler?
Vores tilbøjelighed til at stræbe efter magt, vi ikke kan kontrollere, har ikke rod i vores individuelle psykologi, men i den unikke måde, hvorpå vores art samarbejder i store grupper.
Det primære argument i denne bog er, at menneskeheden opnår en enorm magt ved at skabe store samarbejdsnetværk, men at den måde, disse netværk er opbygget på, som oftest fører til, at magten bruges på en uklog måde. Vores problem er derfor et netværksproblem.
Det er mere specifikt et informationsproblem. Information er den lim, der binder netværk sammen. Men i titusinder af år opbyggede og vedligeholdt sapiens store netværk ved at opfinde og sprede fiktioner, fantasier og massebedrag – om guder, om fortryllede koste, om kunstig intelligens og mange andre ting.
Mens det enkelte menneske typisk er interesseret i at finde ud af sandheden om sig selv og verden, tiltrækker store netværk medlemmer og skaber orden ved hjælp af fiktioner og fantasier. Det var for eksempel sådan, nazismen og stalinismen opstod. Det var usædvanligt stærke netværk, som blev holdt sammen af usædvanligt illusoriske ideer. Som George Orwell så berømt formulerede det: Uvidenhed er styrke.
Den kendsgerning, at de nazistiske og stalinistiske regimer var grundlagt på grusomme fantasier og skamløse løgne, gjorde dem ikke historisk exceptionelle, ligesom det ikke forudbestemte dem til at bryde sammen. Nazismen og stalinismen var to af de stærkeste netværk, som mennesker nogensinde har skabt.
I slutningen af 1941 og begyndelsen af 1942 så det ud, som om Aksemagterne kunne vinde Anden Verdenskrig. Til sidst var det dog Stalin, der kunne trække sig ud af krigen som sejrherre, og i 1950’erne og 1960’erne så det også ud, som om han og hans efterfølgere havde en rimelig chance for at vinde den kolde krig. I 1990’erne havde de liberale demokratier fået overtaget, men i dag fremstår det mest af alt som en midlertidig sejr.
I det 21. århundrede kan det meget vel være, at et eller andet nyt totalitært regime vil lykkes, hvor Hitler og Stalin mislykkedes, og skabe et almægtigt netværk, der kan forhindre fremtidige generationer i blot at forsøge at afsløre dets løgne og fiktioner. Vi bør ikke antage, at netværk, der hviler på bedrag og illusioner, er dømt til at mislykkes. Hvis vi ønsker at forhindre, at de vinder, er vi nødt til at gøre det hårde arbejde selv.
Den naive opfattelse af information
Det er vanskeligt at forstå styrken af netværk, der hviler på bedrag og illusioner, på grund af en generel misforståelse af, hvordan store informationsnetværk – hvad enten de hviler på bedrag og illusioner eller ej – fungerer. Denne misforståelse er indkapslet i det, jeg kalder ”den naive opfattelse af information”.
Mens fabler som myten om Faëton og ”Troldmandens lærling” præsenterer et overdrevent pessimistisk syn på den individuelle menneskelige psykologi, udbreder den naive opfattelse af information en overdrevent optimistisk opfattelse af menneskelige netværk i stor skala.
Fortalere for den naive opfattelse hævder, at store netværk kan opnå en bedre forståelse af medicin, fysik, økonomi og adskillige andre felter ved at indsamle og bearbejde meget mere information, end individer kan. Det gør ikke blot sådanne netværk meget stærke, men også kloge.
For eksempel kan lægemiddelvirksomheder og sundhedsvæsener ved at indsamle information om patogener bestemme årsagen til mange sygdomme, hvilket gør det muligt for dem at udvikle mere effektiv medicin og træffe klogere beslutninger om brugen af denne medicin.
Denne opfattelse indebærer, at information i tilstrækkelige mængder fører til sandheden, og at sandheden på sin side fører til både magt og visdom. Uvidenhed synes i modsætning hertil ikke at føre nogen vegne.
Selv om netværk, der hviler på bedrag og illusioner, lejlighedsvist kan opstå i historien – i krisetider – er disse netværk forudbestemt til i det lange løb at tabe til mere klarsynede og ærlige rivaler. Et sundhedsvæsen, der ignorerer information om patogener, eller en lægemiddelgigant, der bevidst spreder desinformation, vil i sidste ende tabe til konkurrenter, der bruger information på en klogere måde.
Den naive opfattelse indebærer således, at netværk, der hviler på bedrag og illusioner, må være en afvigelse, og at man normalt kan have tillid til, at store netværk bruger magt på en klog måde.
Fortalere for den naive opfattelse anerkender selvfølgelig, at mange ting kan gå galt på vejen fra information til sandhed. Vi kan godt komme til at begå fejl i forbindelse med indsamlingen og bearbejdningen af information.
Ondsindede aktører motiveret af grådighed eller had kan skjule vigtige kendsgerninger eller forsøge at bedrage os. Som følge heraf fører information sommetider til fejl snarere end til sandhed. For eksempel kan delvis information, en fejlbehæftet analyse eller en desinformationskampagne føre til, at selv eksperter kan komme til at identificere den forkerte årsag til en bestemt sygdom.
Fortalere for den naive opfattelse antager imidlertid, at modgiften til de fleste problemer, vi møder i forbindelse med indsamlingen og bearbejdningen af information, er indsamlingen og bearbejdningen af endnu mere information.
Selv om vi aldrig kan være fuldstændig sikre på ikke at begå fejl, er mere information i de fleste tilfælde ensbetydende med større nøjagtighed. En enkelt læge, som ønsker at identificere årsagen til en epidemi ved at undersøge en enkelt patient, vil have en mindre sandsynlighed for at lykkes med dette end tusindvis af læger, som indsamler data om millioner af patienter.
Og hvis lægerne selv konspirerer om at skjule sandheden, vil det at gøre medicinsk information mere frit tilgængelig for offentligheden og for undersøgende journalister på et tidspunkt føre til, at bedraget afsløres. Ifølge denne opfattelse er det sådan, at jo større informationsnetværket er, desto tættere må det være på sandheden.
Selv hvis vi analyserer information korrekt og opdager vigtige sandheder, garanterer det naturligvis ikke, at vi vil bruge de evner, vi hermed har opnået, på en klog måde. Visdom betyder almindeligvis evnen til ”at træffe rigtige beslutninger”, men hvad ”rigtig” betyder, afhænger af værdidomme, som er forskellige fra folk til folk, fra kultur til kultur, fra ideologi til ideologi. Forskere, som opdager et nyt patogen, kan udvikle en vaccine, der kan beskytte mennesker.
Men hvis forskerne – eller deres politiske herrer – tror på en racistisk ideologi, som indebærer, at nogle racer er andre racer underlegne og derfor bør udryddes, kan den nye medicinske viden måske bruges til at udvikle et biologisk våben, der dræber millioner af mennesker.
Også i dette tilfælde mener fortalere for den naive opfattelse af information, at yderligere information vil tilbyde en i det mindste delvis kur. De mener, at uenigheder om værdier ved nærmere eftersyn viser sig at skyldes enten mangel på information eller bevidst desinformation.
Ifølge denne opfattelse er racister dårligt informerede mennesker, som blot ikke er i besiddelse af tilstrækkelig viden om biologi og historie. De tror, at ”race” er en gyldig biologisk kategori, og de er blevet hjernevasket af falske konspirationsteorier. Kuren mod racisme er derfor at præsentere mennesker for mere biologisk og historisk viden. Det kan godt tage noget tid, men i et frit informationsmarked vil sandheden før eller siden sejre.
Den naive opfattelse er selvfølgelig mere nuanceret og reflekteret, end man kan forklare på nogle få sider, men dens centrale dogme er, at information grundlæggende er en god ting, og at jo mere information vi har, desto bedre.
Hvis blot vi får tilstrækkeligt med information og har tilstrækkeligt med tid til rådighed, er vi nærmest forudbestemt til at opdage sandheden om ting – spændende fra virusinfektioner til racistiske fordomme – hvorved vi ikke blot udvikler vores magt, men også den visdom, som det kræver at bruge denne magt på en god måde.
Denne naive opfattelse retfærdiggør menneskets stræben efter stadig mægtigere informationsteknologier og har været computeralderens og internettets semiofficielle ideologi.
I juni 1989, nogle få måneder før Berlinmuren og jerntæppets fald, erklærede Ronald Reagan, at ”den totalitære kontrols Goliat vil hurtigt blive styrtet af mikrochippens David”, og at ”den største af alle Big Brothers i stigende grad er hjælpeløs over for kommunikationsteknologien.
... Information er den moderne tidsalders ilt. … Den siver gennem mure med pigtråd. Den svæver over grænser med elektriske hegn og miner. Briser af elektroniske stråler svæver gennem jerntæppet, som var det lavet af blondestof.”
I november 2009 talte Barack Obama under et besøg i Shanghai i den samme ånd, da han sagde til sine kinesiske værter: ”Jeg nærer stor tiltro til teknologi, og jeg nærer stor tiltro til åbenhed, når det kommer til bevægelsen af information. Jeg tror, at jo mere frit information bevæger sig, jo stærkere vil samfundet blive.”
Iværksættere og virksomheder har ofte udtrykt lignende rosenrøde opfattelser af informationsteknologier. Allerede i 1858 kunne man i en leder i The New Englander læse følgende om opfindelsen af telegrafen: ”Gamle fordomme og fjendtligheder kan umuligt fortsætte med at eksistere, når et sådant instrument til udveksling af tanker mellem alle Jordens nationer er blevet skabt.”
Næsten to århundreder og to verdenskrige senere sagde Mark Zuckerberg, at Facebooks mål ”er at hjælpe mennesker med at dele mere med henblik på at gøre verden mere åben og være med til at fremme forståelsen mellem mennesker”.
I sin bog The Singularity Is Nearer fra 2024 giver den fremtrædende fremtidsforsker og iværksætter Ray Kurzweil et overblik over informationsteknologiens historie og konkluderer, at ”realiteten er, at næsten hvert eneste aspekt af livet gradvist bliver bedre som følge af en eksponentielt forbedret teknologi”.
I sit tilbageblik på menneskehedens historie bruger han eksempler som opfindelsen af trykpressen til at argumentere for, at informationsteknologi som følge af selve sin natur er tilbøjelig til at skabe ”en god cirkel, som fremmer næsten hvert eneste aspekt af menneskets trivsel, herunder evnen til at læse og skrive, uddannelse, velstand, hygiejne, sundhed, demokratisering og mindre vold”.
Den naive opfattelse af information kommer måske mest koncist til udtryk i Googles erklærede mission om at ”organisere verdens information og gøre den universelt tilgængelig og nyttig”. Googles svar på Goethes advarsler vil være, at selv om en enkelt lærling, der tilraner sig sin herres hemmelige bog med besværgelser, muligvis kan føre til en katastrofe, vil en masse lærlinge, som får fri adgang til hele verdens information, ikke blot skabe nyttige fortryllede koste, men også lære at bruge dem på en klog måde.
Google versus Goethe
Det må fremhæves, at der findes adskillige tilfælde, hvor det at have mere information virkelig har gjort det muligt for mennesker at forstå verden bedre og bruge deres magt på en klogere måde. Tænk for eksempel på det dramatiske fald i børnedødeligheden.
Johann Wolfgang von Goethe var den ældste af syv søskende, men kun han og hans søster Cornelia kunne fejre deres syvårsfødselsdag. Deres bror Hermann Jacob døde i en alder af seks år, mens deres søster Catharina Elisabeth døde i en alder af fire år, deres søster Johanna Maria i en alder af to år, deres bror Georg Adolf i en alder af otte måneder, alle på grund af sygdom. En femte, unavngiven bror var dødfødt. Cornelia døde af sygdom i en alder af 26 år, hvilket gjorde Johann Wolfgang til den eneste overlevende i sin familie.
Johann Wolfgang von Goethe fik selv fem børn, hvoraf alle på nær den ældste søn – August – døde, inden de var blevet fjorten dage gamle. Årsagen var højst sandsynligt uforeneligheden mellem Goethes blodtype og hans hustru Christianes blodtype, som betød, at moren efter den første vellykkede graviditet udviklede antistoffer mod fostrets blod.
Denne lidelse, der kaldes for rhesussygdom, kan i dag behandles så effektivt, at mortalitetsraten for denne sygdom er på mindre end 2 procent, mens den i 1790’erne var på 50 procent, og for Goethes fire yngste børn var den en dødsdom.
Samlet set var overlevelsesraten for børn i Goethes familie – en velstående tysk familie i slutningen af det 18. århundrede – på blot 25 procent. Kun tre ud af tolv børn levede, til de blev voksne. Denne gruopvækkende statistik var ikke usædvanlig. Omkring den tid, hvor Goethe skrev ”Troldmandens lærling” – i 1797 – vurderes det, at kun omkring 50 procent af tyske børn blev femten år gamle, og det samme var sandsynligvis tilfældet i de fleste andre dele af verden.
I 2020 oplevede 95,6 procent af alle børn globalt set deres femtenårsfødselsdag, og i Tyskland var tallet 99,5 procent. Denne utrolige bedrift ville ikke have været mulig uden indsamlingen, analysen og delingen af enorme mængder medicinske data om fænomener såsom blodtyper. I dette tilfælde viste den naive opfattelse af information sig således at være korrekt.
Fortalere for den naive opfattelse af information ser imidlertid kun en del af billedet, og den moderne tidsalders historie har ikke blot handlet om at reducere børnedødelighed. I de seneste generationer har menneskeheden oplevet den største stigning nogensinde i både mængden og hastigheden af vores informationsproduktion.
Hver eneste smartphone indeholder mere information end Det Alexandrinske Bibliotek i antikken og gør det muligt for sin ejer øjeblikkeligt at komme i kontakt med milliarder af andre mennesker over hele verden. Men selv med al denne information, som sendes i omløb med en utrolig hastighed, er menneskeheden tættere på at tilintetgøre sig selv end nogensinde før.
Til trods for – eller måske på grund af – de enorme mængder data, vi råder over, fortsætter vi med at sende drivhusgasser ud i atmosfæren, forurene floder og have, rydde skove, ødelægge hele habitater, drive utallige arter til randen af udryddelse og bringe det økologiske grundlag for vores egen art i fare.
Vi producerer også stadig flere mægtige masseødelæggelsesvåben – fra brintbomber til dommedagsvira. Vores ledere mangler ikke information om disse farer, men i stedet for at arbejde sammen om at finde løsninger kommer vi stadig tættere på en global krig.
Ville det at have endnu mere information gøre tingene bedre – eller værre? Det vil vi snart finde ud af. Adskillige virksomheder og regeringer har en mission om at udvikle den stærkeste informationsteknologi i historien – kunstig intelligens. Nogle fremtrædende iværksættere såsom den amerikanske investor Marc Andreessen mener, at kunstig intelligens omsider vil løse alle menneskehedens problemer.
Den 6. juni 2023 offentliggjorde Andreessen et essay med titlen ”Why AI Will Save the World”, der var fyldt med dristige påstande såsom: ”Jeg er kommet for at fortælle den gode nyhed: Kunstig intelligens vil ikke ødelægge verden og kan rent faktisk måske redde den” og ”Kunstig intelligens kan gøre alt, vi kerer os om, bedre”.
Han konkluderede: ”Udviklingen og udbredelsen af kunstig intelligens – som langtfra er en risiko, vi bør frygte – er en moralsk forpligtelse, vi har over for os selv, vores børn og vores fremtid.”
Ray Kurzweil erklærer sig enig, idet han i The Singularity Is Nearer hævder, at ”kunstig intelligens er den afgørende teknologi, som gør det muligt for os at håndtere de udfordringer, vi står over for, herunder overvindelsen af sygdom, fattigdom, miljøødelæggelser og alle vores menneskelige svagheder”. Kurzweil er yderst bevidst om teknologiens potentielle farer og analyserer dem indgående, men mener, at det kan lykkes os at afværge dem.
Andre er mere skeptiske. Ikke blot filosoffer, men også mange fremtrædende eksperter i kunstig intelligens og iværksættere såsom Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk og Mustafa Suleyman har advaret offentligheden om, at kunstig intelligens kan udslette vores civilisation.
I en artikel fra 2024 skrevet af Bengio, Hinton og adskillige andre eksperter blev det bemærket, at ”en ukontrolleret udvikling af kunstig intelligens kan kulminere i et enormt tab af liv og af biosfæren og i marginaliseringen eller endda udryddelsen af menneskeheden”.
I en undersøgelse fra 2023 med deltagelse af 2.778 forskere i kunstig intelligens mente mere end en tredjedel, at der er mindst 10 procent risiko for, at avanceret kunstig intelligens kan have skæbnesvangre konsekvenser såsom menneskehedens udryd- delse.
I 2023 underskrev hen ved 30 regeringer – herunder i Kina, USA og Storbritannien – The Bletchley Declaration om kunstig intelligens, hvori det anerkendes, at ”der er potentiale for alvorlig, endda katastrofal skade, enten bevidst eller utilsigtet, som følge af de mest betydningsfulde muligheder, som disse modeller for kunstig intelligens tilbyder”.
Når eksperter og regeringer gør brug af så apokalyptiske termer, er det ikke, fordi de har et ønske om at fremmane et Hollywood-billede af oprørske robotter, der løber rundt på gaderne og skyder folk. Et sådant scenarie er usandsynligt, og det distraherer blot folk fra de virkelige farer. Eksperter advarer i stedet om to andre scenarier.
Det første scenarie er, at kunstig intelligens kan forstærke allerede eksisterende konflikter og føre til en opdeling og splittelse af menneskeheden.
Ligesom jerntæppet i det 20. århundrede delte de rivaliserende magter i den kolde krig, vil siliciumtæppet – der består af siliciumchips og computerkoder snarere end pigtråd – i det 21. århundrede måske dele rivaliserende magter i en ny global konflikt. Fordi våbenkapløbet i forbindelse med kunstig intelligens vil føre til udviklingen af stadig mere destruktive våben, vil selv en lille gnist kunne antænde en altødelæggende verdensbrand.
Det andet scenarie er, at siliciumtæppet ikke vil skabe en splittelse mellem grupper af mennesker, men snarere mellem på den ene side det enkelte menneske og på den anden side vores nye herre – den kunstige intelligens. Uanset hvor i verden vi lever, vil vi opleve at være spundet ind i et net af ubegribelige algoritmer, som styrer vores liv, forandrer vores politik og kultur og endda forandrer vores kroppe og bevidstheder – fordi vi ikke længere kan forstå de kræfter, der kontrollerer os, for slet ikke at tale om at stoppe dem.
Hvis et totalitært netværk i det 21. århundrede formår at erobre verden, vil det være styret af en ikkemenneskelig intelligens snarere end af en menneskelig diktator. Folk, som peger på Kina, Rusland eller et postdemokratisk USA som den primære kilde til totalitære mareridt, misforstår faren. I realiteten er kinesere, russere, amerikanere og alle andre mennesker i fællesskab truet af det totalitære potentiale i en ikkemenneskelig intelligens.
Set i lyset af farens omfang bør alle mennesker interessere sig for kunstig intelligens. Selv om ikke alle kan blive eksperter i kunstig intelligens, bør vi alle være opmærksomme på, at det er den første teknologi i historien, der af egen kraft kan træffe beslutninger og skabe nye ideer.
Alle tidligere menneskelige opfindelser har givet mennesker mere magt, for ligegyldigt hvor mægtige de nye redskaber var, forblev beslutningerne vedrørende brugen af dem på menneskelige hænder. Knive og bomber bestemmer ikke selv, hvem de skal dræbe. De er stumme redskaber, som mangler den nødvendige intelligens til at bearbejde information og træffe uafhængige beslutninger.
I modsætning hertil kan kunstig intelligens selv bearbejde information og dermed erstatte mennesker i forbindelse med beslutningstagning. Kunstig intelligens er ikke et redskab, men en aktør.
Den kunstige intelligens’ mestring af information gør den også i stand til uafhængigt af mennesker at få nye ideer inden for mange forskellige felter – fra musik til medicin. Grammofoner spillede vores musik, og mikroskoper afslørede vores cellers hemmeligheder, men grammofoner kunne ikke komponere nye symfonier, og mikroskoper kunne ikke frembringe nye lægemidler.
Kunstig intelligens er allerede i stand til af sig selv at skabe kunst og gøre videnskabelige opdagelser. Inden for de næste få årtier vil kunstig intelligens sandsynligvis endda erhverve evnen til at skabe nye livsformer enten ved at skrive genetiske koder eller ved at opfinde en uorganisk kode, der kan besjæle uorganiske entiteter.
Selv i dag – på fosterstadiet af den revolution, som kunstig intelligens er – træffer computere allerede beslutninger om os. De beslutter for eksempel, om vi er værdige til at få et lån, om vi får et job, vi har ansøgt om, eller om vi skal sættes i fængsel.
Denne tendens vil kun blive forstærket og accelerere og gøre det vanskeligere at forstå vores egne liv. Kan vi have tiltro til, at computeralgoritmer vil træffe kloge beslutninger og skabe en bedre verden? Det er meget mere risikabelt end at lade en fortryllet kost hente vand. Og det er mere end blot menneskeliv, vi sætter på spil. Kunstig intelligens kan ændre kursen for ikke blot vores arts historie, men for udviklingen af alle livsformer.
Information som et våben
I 2016 udgav jeg Homo deus, en bog, som kastede lys over nogle af de farer, som de nye informationsteknologier udgør for menneskeheden.
I bogen hævdede jeg, at historiens virkelige helt altid har været information snarere end Homo sapiens, og at forskere i stigende grad forstår ikke blot historie, men også biologi, politik og økonomi som informationsstrømme. Dyr, stater og markeder er alle informationsnetværk, som absorberer data fra det omgivende miljø, træffer beslutninger og sender data tilbage.
I bogen advarede jeg om, at mens vi håber på, at bedre informationsteknologi vil give os sundhed, lykke og magt, vil den i realiteten måske tage magten fra os og ødelægge både vores fysiske og mentale helbred.
I Homo deus fremsatte jeg den hypotese, at hvis mennesker ikke passer på, risikerer vi, at informationsstrømmen opløser os som en klump jord i en fossende flod, og at menneskeheden under evighedens synsvinkel blot vil have vist sig at være en lille krusning i den kosmiske datastrøm.
I de år, der er gået siden udgivelsen af Homo deus, har den hastighed, hvormed forandringerne finder sted, kun accelereret, og vi har rent faktisk set, at magt er blevet overført fra mennesker til algoritmer. Mange af de scenarier, der lød som science fiction i 2016 – såsom at algoritmer kan skabe kunst, foregive at være mennesker, træffe livsafgørende beslutninger om os og vide mere om os, end vi ved om os selv – er en del af hverdagen i 2024.
Mange andre ting har forandret sig siden 2016. Den økologiske krise er eskaleret, de internationale spændinger er blevet intensiveret, og en populistisk bølge har undermineret sammenhængskraften i selv de mest robuste demokratier.
Populismen udgør også en radikal udfordring for den naive opfattelse af information. Populistiske ledere som Donald Trump og Jair Bolsonaro og populistiske bevægelser og konspirationsteorier som QAnon og vaccinemodstanderne har hævdet, at alle traditionelle institutioner, som får deres autoritet ved at påstå at indsamle information og finde frem til sandheden, ganske enkelt lyver. Bureaukrater, dommere, læger, mainstreamjournalister og akademiske eksperter udgør eliter, som ikke har nogen interesse i sandheden og bevidst spreder desinformation for selv at få magt og privilegier på bekostning af ”folket”.
Fremkomsten af politikere som Trump og bevægelser som QAnon har en specifik politisk kontekst, som var unik for forholdene i USA i slutningen af 2010’erne. Men populismen som en verdensanskuelse, der er vendt mod det politiske establishment, fandtes længe før Trump og er relevant i forhold til adskillige andre historiske kontekster nu og i fremtiden. Populismen betragter kort sagt information som et våben.
I sin mere ekstreme version indebærer populisme, at der slet ikke findes nogen objektiv sandhed, og at alle har ”deres egen sandhed”, som de bruger til at knuse deres rivaler. Ifølge denne verdensanskuelse er magt den eneste virkelighed. Alle sociale interaktioner er magtkampe, for mennesker er kun interesseret i magt. Påstanden om at være interesseret i noget andet – såsom sandhed eller retfærdighed – er intet andet end et kneb til at opnå magt.
Når som helst og hvor som helst populismen formår at udbrede opfattelsen af information som et våben, undermineres selve sproget. Substantiver som ”kendsgerninger” og adjektiver som ”korrekt” og ”sandfærdig” bliver sværere at definere. Sådanne ord betragtes ikke som noget, der afspejler en fælles objektiv virkelighed. Enhver snak om ”kendsgerninger” eller ”sandhed” er i stedet forudbestemt til at få i det mindste nogle mennesker til at stille spørgsmålet: ”Hvis kendsgerninger og hvis sandheder taler du om?”
Det bør fremhæves, at denne magtfokuserede og dybt skeptiske opfattelse af information ikke er et nyt fænomen og ikke blev opfundet af vaccinemodstandere, mennesker, der påstår, at Jorden er flad, Bolsonaristas eller Trump-tilhængere. Lignende opfattelser har været forfægtet længe før 2016, herunder af nogle af de mest begavede mennesker, der har eksisteret.
For eksempel påstod intellektuelle fra den radikale venstrefløj såsom Michel Foucault og Edward Said i slutningen af det 20. århundrede, at videnskabelige institutioner såsom klinikker og universiteter ikke stræber efter tidløse og objektive sandheder, men i stedet bruger magt til at bestemme, hvad der betragtes som sandhed, idet de hermed tjener kapitalistiske og kolonialistiske eliters interesser.
Disse radikale kritikker gik lejlighedsvist så vidt som til at påstå, at ”videnskabelige kendsgerninger” ikke er andet og mere end en kapitalistisk eller kolonialistisk ”diskurs”, og at mennesker med magt aldrig rigtig kan være interesseret i sandhed, og at man ikke kan sætte sin lid til, at de vil være i stand til at opdage og korrigere deres egne fejl.
Denne særlige form for radikal venstreorienteret tænkning går tilbage til Karl Marx, som i midten af det 19. århundrede hævdede, at magt er den eneste virkelighed, at information er et våben, og at eliter, som påstår at tjene sandheden og retfærdigheden, i realiteten stræber efter at bevare særlige klassers privilegier.
Med nogle ord fra Det kom munistiske manifest fra 1848: ”Alle hidtidige samfunds historie er en klassekampens historie. Fri mand og slave, patricier og plebejer, baron og livegen, lavsmester og svend, kort sagt: Undertrykkere og under- trykte har stået i stadig modsætning til hinanden, har – snart skjult, snart åbenlyst – ført en uafbrudt kamp.”
Denne binære fortolkning af historien antyder, at hver eneste menneskelig interaktion er en magtkamp mellem undertrykkere og undertrykte. Som følge heraf skal man, når som helst nogen siger noget, ikke stille spørgsmålet: ”Hvad bliver der sagt? Er det sandt?”, men i stedet: ”Hvem siger det? Hvis privilegier tjener det?”
Højrefløjspopulister som Trump og Bolsonaro har selvfølgelig ikke læst Foucault eller Marx – ja, de præsenterer sig selv som stærkt antimarxistiske. De adskiller sig også i høj grad fra marxister, hvad angår den politik, de fører inden for områder som skat eller velfærd. Men deres grundlæggende syn på samfundet og på information er overraskende marxistisk, idet de betragter alle menneskelige interaktioner som en magtkamp mellem undertrykkere og undertrykte.
For eksempel sagde Trump i sin tiltrædelsestale i 2017, at ”en lille gruppe i vores nations hovedstad har høstet statens udbytte, mens folket har båret om- kostningerne”. En sådan retorik er en fast bestanddel i populismen, som politologen Cass Mudde har beskrevet som en ”ideologi, som mener, at samfundet i sidste instans er delt i to homogene og antago- nistiske grupper, ’det rene folk’ versus ’den korrupte elite’”.
Ligesom marxisterne hævdede, at medierne er et talerør for den kapitalistiske klasse, og at videnskabelige institutioner såsom universiteter spreder desinformation for at bevare kapitalisternes kontrol over samfundet, beskylder populister de selvsamme institutioner for at arbejde for at fremme de ”korrupte eliters” interesser på bekostning af ”folkets”.
Nutidens populister lider altså af den samme mangel på sammenhæng, som i tidligere generationer plagede radikale bevægelser, der bekæmpede det politiske establishment. Hvis magt er den eneste virkelighed, og hvis information blot er et våben, hvad fortæller det så om populisterne selv? Er også de kun interesseret i magt, og lyver de også for os for at opnå magt?
Populister har forsøgt at vikle sig ud af dette paradoks på to forskellige måder. Nogle populistiske bevægelser hævder at efterleve den moderne videnskabs idealer og agere i overensstemmelse med den skeptiske empirismes tradition. De siger, at man bestemt aldrig bør stole på nogen institutioner eller autoriteter – herunder selverklærede populistiske partier og politikere. Man bør i stedet ”udføre sin egen forskning” og kun stole på det, man selv kan se.
Denne radikale empiriske position indebærer, at selv om man aldrig kan stole på store institutioner såsom politiske partier, domstole, aviser og universiteter, kan enkeltindivider, som gør en indsats, stadig selv finde frem til sandheden.
Denne tilgang kan måske lyde videnskabelig og appellere til frie ånder, men i sit kølvand efterlader den tvivl om, hvordan menneskelige samfund kan samarbejde om at opbygge sundhedssystemer eller vedtage miljøregulering, som kræver institutionel organisering i stor skala.
Er et enkelt individ i stand til at foretage al den forskning, som kræves for at afgøre, om Jordens klima er blevet varmere, og hvad der skal gøres ved det? Hvordan kan et enkelt menneske indsamle klimadata fra hele verden eller få fat i pålidelige opgørelser fra tidligere århundreder?
Det kan lyde videnskabeligt kun at ”stole på min egen forskning”, men i praksis er det ensbetydende med at mene, at der ikke findes nogen objektiv sandhed. Som vi skal se i kapitel 4, er videnskab en samarbejdende institutionel bestræbelse snarere end en personlig søgen.
En alternativ populistisk løsning er at opgive det moderne videnskabelige ideal om at finde sandheden via ”forskning” og i stedet vende tilbage til at sætte sin lid til guddommelige åbenbaringer eller mysticisme. Traditionelle religioner som kristendom, islam og hinduisme har typisk karakteriseret mennesker som upålidelige magtbegærlige skabninger, der kun kan få adgang til sandheden takket være en guddommelig intelligens’ indgriben.
I 2010’erne og begyndelsen af 2020’erne har populistiske partier fra Brasilien til Tyrkiet og fra USA til Indien indgået i en alliance med sådanne traditionelle religioner. De har udtrykt radikal tvivl vedrørende moderne institutioner, mens de har erklæret deres fulde tiltro til antikke skrifter.
Populisterne påstår, at de artikler, du læser i The New York Times eller i Science, blot er elitære kneb med henblik på at opnå magt, mens det, du læser i Bibelen, Koranen eller vedaerne, er den absolutte sandhed.
I en variant af dette opfordres mennesker til at sætte deres lid til karismatiske ledere som Trump eller Bolsonaro, som af deres støtter enten beskrives som Guds sendebud, eller som om de var i besiddelse af et mystisk bånd med ”folket”. Mens almindelige politikere lyver over for folket for selv at få magten, er den karismatiske leder folkets ufejlbarlige talerør, som afslører alle løgnene.
Et af populismens tilbagevendende paradokser er, at den lægger ud med at advare os om, at alle menneskelige eliter er drevet af et farligt magtbegær, men ofte ender med at overdrage al magt til et enkelt ambitiøst menneske.
Jeg vil udforske populismen nærmere i kapitel 5, men her er det vigtigt at bemærke, at populister undergraver tilliden til store institutioner og internationalt samarbejde på netop dette tidspunkt i historien, hvor menneskeheden står over for eksistentielle udfordringer såsom risikoen for økologisk kollaps, global krig og teknologi, vi ikke længere kan kontrollere.
I stedet for at have tillid til komplekse menneskelige institutioner giver populister os det samme råd som myten om Faëton og ”Troldmandens lærling”: ”Sæt din lid til, at Gud eller den store troldmand vil gribe ind og gøre alt godt igen.” Hvis vi følger dette råd, vil vi sandsynligvis på kort sigt være underlagt den værste form for magtbegærlige mennesker og på langt sigt være underlagt en helt ny hersker – kunstig intelligens. Eller vi vil måske slet ikke længere findes, i takt med at Jorden bliver mere og mere ugæstfri over for menneskeligt liv.
Hvis vi ønsker at overgive magten til en karismatisk leder eller en uudgrundelig kunstig intelligens, må vi først få en bedre forståelse af, hvad information er, hvordan den hjælper mennesker med at opbygge netværk, og hvad forholdet mellem på den ene side information og på den anden side sandhed og magt er.
Populister gør ret i at være mistænksomme over for den naive opfattelse af information, men de gør uret i at mene, at magt er den eneste virkelighed, og at information altid er et våben. Information er ikke sandhedens råmateriale, men den er heller ikke kun et våben. Der er tilstrækkeligt med plads mellem disse yderpoler til et mere nuanceret og håbefuldt syn på menneskelige informationsnetværk og vores evne til at gøre brug af magt på en klog måde. Denne bog er helliget udforskningen af denne mellemposition.
Vejen frem
I den første del af denne bog vil jeg se nærmere på den historiske udvikling af menneskelige informationsnetværk. Jeg vil ikke forsøge at præsentere en omfattende redegørelse – århundrede for århundrede – af informationsteknologier såsom skrift, trykpresser og radio.
I stedet vil jeg gennem et par eksempler udforske nogle centrale dilemmaer, som mennesker i alle æraer har stået over for, når de har forsøgt at opbygge informationsnetværk, og undersøge, hvordan forskellige svar på disse dilemmaer har formet samfund på vidt forskellig vis. Det, vi normalt forstår som ideologiske og politiske konflikter, viser sig ofte at være sammenstød mellem modstridende typer af informationsnetværk.
Jeg vil i begyndelsen af første del undersøge to principper, der har været afgørende for menneskelige informationsnetværk i stor skala: mytologi og bureaukrati.
I kapitel 2 og 3 beskriver jeg, hvordan store informationsnetværk – fra oldtidens kongeriger til nutidige stater – har sat deres lid til både mytemagere og bureaukrater. For eksempel var Bibelens historier vigtige for den kristne kirke, men der ville ikke have været nogen bibel, hvis kirkelige bureaukrater ikke havde udvalgt, redigeret og udbredt disse historier.
Det er et vanskeligt dilemma for alle menneskelige netværk, at mytemagere og bureaukrater er tilbøjelige til at trække i forskellige retninger. Institutioner og samfund er ofte defineret af den balance, de formår at finde mellem deres mytemageres og deres bureaukraters modstridende behov. Den kristne kirke blev selv delt i rivaliserende kirker som den katolske og den protestantiske kirke, der hver især fandt balancen mellem mytologi og bureaukrati.
I kapitel 4 fokuserer jeg på problemet med fejlagtig information og på fordele og ulemper ved at have selvkorrigerende mekanismer som for eksempel uafhængige domstole eller fagfællebedømte tidsskrifter. I kapitlet kontrasteres institutioner, som satte deres lid til svage selvkorrigerende mekanismer såsom den katolske kirke, med institutioner, som udviklede stærke selvkorrigerende mekanismer, såsom de videnskabelige fag.
Svage selvkorrigerende mekanismer fører nogle gange til historiske katastrofer som de tidlige moderne europæiske heksejagter, mens stærke selvkorrigerende mekanismer nogle gange destabiliserer netværket indefra. Bedømt ud fra levetid, udbredelse og magt har den katolske kirke måske været den mest succesfulde institution i den menneskelige historie til trods for – eller måske på grund af – dens relativt svage selvkorrigerende mekanismer.
Efter undersøgelsen af den rolle, som mytologi og bureaukrati spiller, og af modsætningen mellem stærke og svage selvkorrigerende mekanismer afslutter kapitel 5 den historiske diskussion og første del af bogen ved at fokusere på en anden modsætning – modsætningen mellem distribuerede og centraliserede informationsnetværk.
Demokratiske systemer gør det muligt for information at strømme frit langs mange uafhængige kanaler, mens totalitære systemer forsøger at koncentrere informationen et enkelt centralt sted. Der er både fordele og ulemper ved begge valg. Forståelsen af politiske systemer som USA og Sovjetunionen ud fra informationsstrømme kan i høj grad forklare den forskellige udvikling i disse lande.
Den historiske del af bogen er afgørende for at forstå nutidige udviklinger og fremtidige scenarier. Fremkomsten af kunstig intelligens er muligvis den største informationsrevolution i historien. Men vi kan ikke forstå den, hvis ikke vi sammenligner den med dens forløbere.
Historie er ikke studiet af fortiden, det er studiet af forandring. Historien lærer os, hvad der forbliver det samme, hvad der forandrer sig, og hvordan ting forandrer sig. Det er lige så relevant for informationsrevolutioner som for enhver anden form for historisk transformation.
Således giver en forståelse af den proces, gennem hvilken den angiveligt ufejlbarlige bibel blev kanoniseret, en værdifuld indsigt i nutidige påstande om den kunstige intelligens’ ufejlbarlighed.
På samme måde udgør studiet af de tidlige moderne heksejagter og Stalins kollektivisering stærke advarsler med hensyn til, hvad der kan gå galt, i takt med at vi giver forskellige former for kunstig intelligens større kontrol over det 21. århundredes samfund.
En dyb historisk viden er også afgørende for at forstå, hvad der er nyt ved kunstig intelligens, hvordan kunstig intelligens grundlæggende adskiller sig fra trykpresser og radioer, og på hvilke specifikke måder et fremtidigt diktatur drevet af kunstig intelligens kan være meget forskelligt fra noget andet, vi tidligere har set.
Jeg vil i bogen ikke påstå, at studiet af fortiden gør os i stand til at forudsige fremtiden. Som jeg gentagne gange vil fremhæve på de følgende sider, er historien ikke deterministisk, og fremtiden vil være formet af de valg, vi alle træffer i løbet af de kommende år. Hele pointen med at skrive denne bog er, at vi ved at træffe oplyste valg kan forhindre de værste udfald. Hvis vi ikke kan ændre fremtiden, hvorfor så overhovedet spilde tid på at diskutere den?
Ved at bygge på den historiske oversigt i første del vil jeg i bogens anden del – ”Det uorganiske netværk” – undersøge det nye informationsnetværk, vi er ved at skabe i disse år, og fokusere på de politiske implikationer af fremkomsten af kunstig intelligens.
Jeg vil i kapitel 6-8 diskutere nyere eksempler fra hele verden – såsom den rolle, sociale mediers algoritmer spillede i forbindelse med anstiftelsen til etnisk vold i Myanmar i 2016-2017 – med henblik på at forklare, på hvilken måde kunstig intelligens adskiller sig fra alle tidligere informationsteknologier. Eksemplerne er primært taget fra 2010’erne snarere end fra 2020’erne, fordi vi har opnået et minimum af historisk perspektiv på de begivenheder, der udspillede sig i 2010’erne.
I anden del af bogen hævder jeg, at vi er i færd med at skabe en helt ny form for informationsnetværk uden at stoppe op og reflektere over dets implikationer. Jeg vil her lægge vægt på skiftet fra organiske til uorganiske informationsnetværk. Romerriget, den katolske kirke og Sovjetunionen støttede sig alle til kulstofbaserede hjerner, der kunne bearbejde information og træffe beslutninger.
De siliciumbaserede computere, som dominerer det nye informationsnetværk, fungerer på en radikalt anderledes måde. Siliciumchips er, hvad enten det nu er en fordel eller en ulempe, fri for mange af de begrænsninger, som den organiske biokemi pålægger kulstofneuroner. Siliciumchips kan skabe spioner, der aldrig sover, finansmænd, der aldrig glemmer noget, og despoter, der aldrig dør. Hvordan vil det ændre vores samfund, økonomi og politik?
I den tredje og sidste del af bogen – ”Computerpolitik” – vil jeg undersøge, hvordan forskellige samfund kan håndtere trusler og løfter i det uorganiske informationsnetværk. Vil kulstofbaserede livsformer som os have en chance for at forstå og kontrollere det nye informationsnetværk? Som bemærket ovenfor er historien ikke deterministisk, og i det mindste nogle få år endnu vil vi sapiens stadig have magten til at forme vores fremtid.
I overensstemmelse hermed udforsker jeg i kapitel 9, hvordan demokratier kan forholde sig til det uorganiske netværk.
Hvordan kan for eksempel politikere af kød og blod træffe finansielle beslutninger, hvis det finansielle system i stigende grad er kontrolleret af kunstig intelligens, og hvis selve betydningen af penge bliver afhængig af uudgrundelige algoritmer?
Hvordan kan man i demokratier føre en offentlig samtale om noget som helst – hvad enten det er økonomi eller køn – hvis vi ikke længere kan vide, om vi taler med et andet menneske eller med en chatbot, der giver sig ud for at være et menneske?
I kapitel 10 udforsker jeg uorganiske netværks potentielle indvirk- ning på totalitarismen. Mens diktatorer gladelig ville slippe for alle offentlige samtaler, frygter de kunstig intelligens. Autokratier er baseret på terrorisering og censur af deres egne borgere. Men hvordan kan en menneskelig diktator terrorisere en kunstig intelligens, censurere dens ubegribelige processer eller forhindre, at den selv griber magten?
Endelig vil jeg i kapitel 11 udforske, hvordan det nye informations- netværk kan påvirke magtbalancen mellem demokratiske og totalitære samfund på globalt niveau. Vil kunstig intelligens afgørende tippe balancen til fordel for den ene lejr? Vil verden blive inddelt i fjendtlige blokke, hvis rivalisering gør os alle til et let bytte for en kunstig intelligens, vi ikke længere kan kontrollere? Eller kan vi forene os i forsvaret for vores fælles interesser?
Men før vi udforsker informationsnetværks fortid, nutid og mulige fremtider, er vi nødt til at begynde med et bedragerisk enkelt spørgsmål. Hvad er information helt præcist?
Yuval Noah Harari: Nexus
NEXUS ser tilbage på menneskets historie og hvordan informationsstrømme har formet os og verden omkring os. Fra stenalderen til Bibelen, fra heksejagt, stalinisme og nazisme til den genopblussen af populismen, vi ser i dag. Yuval Noah Harari kigger på det komplekse forhold mellem information og sandhed, bureaukrati og mytologi, visdom og magt.
Han udforsker, hvordan forskellige samfund og politiske systemer gennem historien på godt og ondt har brugt information for at nå deres mål. Og han adresserer de presserende valg, vi står over for, når ikke-menneskelig intelligens truer vores eksistens.
Yuval Noah Harari er israelsk historiker, filosof og forfatter til bestsellerne Sapiens: En kort historie om menneskeheden, Homo Deus: En kort historie om i morgen og 21 ting du bør vide om det 21. århundrede.
Du kan købe Nexus online, f.eks. hos Saxo, eller i din nærmeste boghandel fra d. 10. september.
Andre læste også: