I dag overgår AI menneskers intelligens på en lang række veldefinerede, isolerede opgaver, men ikke som helhed. For at nå AGI, Artificial General Intelligence, mangler især to hovedpunkter: At høste de data, som AI ikke kan finde i datacentrene, samt øget evne til at samkøre alle data. De er nødvendige for at udvikle de centrale dimensioner omkring kausal forståelse, robusthed samt intentionalitet. Dette er indlæg 2 af tre om udvikling af AGI samt om nogle af de risici, AGI fører med sig for økonomi, governance, demokrati og internationalt samarbejde.
Blog-rækken er opdelt i følgende:
- Hvad mangler for at nå AGI? (sidste indlæg)
- Effekt på økonomi og governance (dette indlæg)
- Den demokratisk politiske risiko fra AGI (næste indlæg)
AGI udfordrer især to grundlæggende begrænsninger ved økonomierne
Grundlæggende hviler økonomi og det finansielle system i dag på to centrale forudsætninger, der er særligt vigtige for AGI udviklingen:
- Tillid som fundament. Gensidig tillid mellem aktørerne er en forudsætning for fiat-økonomier og for kredit. AGI vil overgå menneskers intelligens i både bredde og fleksibilitet, jfr. sidste blog indlæg. AGI bliver dermed overbevisende og kan udfordre tilliden mellem mennesker, samt gøre det sværere at skelne mellem ægte og syntetiske beslutningsgrundlag.
- Intelligens som knap ressource. Økonomisk værdiskabelse begrænses i dag af knapheden på kvalificeret arbejdskraft og beslutningskapacitet. Knapheden ophører, når udviklingen passerer AGI og videre mod ASI (SuperIntelligens).
AGI kan derfor føre til markant højere produktivitet og mindre behov for menneskelig arbejdskraft. Det ændrer også selve kapitalbegrebet, når adgang til compute, data og modeller bliver de afgørende produktionsmidler. Samlet kan det således føre til nye former for vækst og fordeling. Det kan gøre de nuværende økonomiske modeller og politikker utilstrækkelige.
AGI kan skabe et strukturelt skifte i produktiviteten, …
Det centrale er retningen snarere end størrelsen af de nuværende gevinster. For med autonome systemer, der kan gennemføre hele arbejdsprocesser, bevæger vi os strukturelt fra forbedring af værktøjer til erstatning af kognitive funktioner.
Allerede i dag kan AI levere store produktivitetsgevinster i vidensarbejde, især hvor opgaver er veldefinerede. AI har bl.a. vist sig i stand til at generere hypoteser, designe og udføre eksperimenter samt evaluere resultater og iterere uden menneskelig indblanding.
Det ændrer også produktionsfunktionen grundlæggende. Arbejde bliver mere effektivt og i visse tilfælde overflødigt. Produktivitetsvækst er dermed ikke længere nødvendigvis koblet til uddannelse, erfaring eller organisatorisk kompleksitet. Fremover er vækst i højere grad koblet til adgang til compute, data og effektive AI-systemer. I sidste ende er det også koblet til adgang til energi og fysisk infrastruktur, som sætter de reelle grænser for skalering.
… fordi der bl.a. kan opstå et feedback-loop fra automatisering af innovation
Når AI således øger forskning og udvikling, opstår et feedback-loop, hvor AI forbedrer forskningen, der igen forbedrer AI. Dette kan potentielt føre til meget høj innovationshastighed, forkortede teknologiske cyklusser og øget konkurrenceintensitet.
Dermed kan flaskehalsen for innovation flytte sig fra produktion af viden til validering af viden, jfr. bl.a. Anthropic. Det øger vigtigheden af institutioner og mekanismer, der kan sikre verifikation.
Kausal forståelse er centralt for AGI, jfr. ovenfor, men normative vurderinger vil fortsat kræve menneskelig involvering i mange år frem.
Governance kan begrænse visse udfald, …
Fremtiden afgøres således af flere mulige strukturer snarere end af én entydig udvikling. World Economic Forum, WEF, fremhæver f.eks. fire overordnede retninger frem mod 2030:
- Høj produktivitet, høj inklusion, hvor AI skaber bred velstandsstigning, og gevinsterne fordele relativt jævnt
- Høj produktivitet men lav inklusion, hvor væksten er høj , men koncentreret hos få aktører med adgang til teknologi og data
- Fragmenteret udvikling, hvor geopolitik og regulering begrænser teknologiadgangen, hvilket reducerer de samlede gevinster
- Lav tillid og lav vækst, hvor manglende tillid til systemer og institutioner begrænser anvendelsen af AI og dermed væksten.
Fælles for scenarierne er, at teknologiens potentiale er stort, men udfaldet begrænses af governance. Samtidig vil hastigheden i udviklingen være afgørende: Jo hurtigere teknologien udvikler sig i forhold til institutionernes tilpasningsevne, desto større bliver risikoen for økonomiske og politiske ubalancer.
… men skal måske tænkes på nye måder
AGI udfordrer således ikke kun økonomien, men også selve governance-strukturen. Tre forskydninger er særligt vigtige:
- Fra regulering til arkitektur. Når regulering er utilstrækkelig, bliver det nødvendigt at designe systemer med indbygget kontrol, transparens og verificerbarhed.
- Fra nationale til transnationale rammer. Når AI-systemer opererer globalt, mens reguleringen er national, opstår et strukturelt mis-match, som bliver vanskeligere at håndtere i takt med stigende kompleksitet.
- Fra tillid til verifikation. Når AI kan simulere ekspertise overbevisende bliver subjektiv tillid utilstrækkelig og objektiv verifikation nødvendig.
Derudover forskydes beslutningsprocesser gradvist, når AI indgår i beslutningsgrundlaget. Det kan hurtigt føre til de facto automatiseret beslutningstagning, hvor menneskelig kontrol formelt opretholdes, men reelt udhules. Det ses allerede i spændinger mellem offentlige myndigheder og AI-udviklere om f.eks. anvendelse i autonome systemer.
Det afgørende bliver derfor sandsynligvis, om beslutninger opfattes som legitime mere end, om de er korrekte.
Effekten på fordeling er den måske mest undervurderede konsekvens
Hvis intelligens pludselig er en ubegrænset ressource, ændres fordelingsmekanismerne fundamentalt. Det rejser en række spørgsmål som:
- Hvem ejer produktionsmidlerne (data, modeller, compute)?
- Hvordan fordeles værdiskabelsen?
- Hvad er menneskets rolle i værdikæden?
Produktionsmidlerne har store skala- og netværkseffekter, der kan føre til høj koncentration af økonomisk magt. Den kan være svær at bryde igen, fordi den er så bred og dyb.
Historisk har økonomier været i stand til at absorbere teknologiske skift gennem nye jobtyper og nye sektorer. Men ved AGI er det ikke givet, at nye opgaver opstår i samme tempo, som gamle forsvinder. Tilpasningshastigheden kan desuden være væsentligt lavere i arbejdsmarkedet og institutionerne end teknologiens udviklingstempo. Historisk har sådanne ubalancer ofte manifesteret sig som finansielle kriser, politisk fragmentering eller institutionel erosion.
Samlet får AGI strukturelt dybe konsekvenser for økonomien
Samlet får AGI således strukturel betydning for økonomiens grundlæggende forudsætninger om tillid mellem aktører og knaphed på intelligens. Det centrale spørgsmål er, om institutioner, governance og fordelingsmekanismer kan følge med. I praksis vil udviklingen være drevet af et begrænset antal aktører med adgang til kapital, compute og data. Den vil dermed afspejle en tilsvarende koncentration af beslutningskraft.
Økonomien kan tilpasse sig teknologien. Governance og legitimitet er langt mere usikre.
Næste blog indlæg skitserer nogle af de bredere perspektiver af AGI for demokrati og politisk stabilitet.