I dag overgår AI menneskers intelligens på en lang række veldefinerede, isolerede opgaver, men ikke som helhed. For at nå AGI, Artificial General Intelligence, mangler især to hovedpunkter: At høste de data, som AI ikke kan finde i datacentrene, samt øget evne til at samkøre alle data. De er nødvendige for udvikling af de centrale dimensioner omkring kausal forståelse, robusthed samt intentionalitet. Dette er afsnit 3 i serien om udvikling af AGI samt om nogle af de risici, AGI fører med sig for økonomi, governance, demokrati, politik og internationalt samarbejde. AGI ændrer, hvem der i praksis kontrollerer, hvordan beslutninger træffes.
Blog-rækken er opdelt i følgende:
- Hvad mangler for at nå AGI? (første indlæg)
- Effekt på økonomi og governance (foregående indlæg)
- Den demokratisk politiske risiko fra AGI (dette indlæg)
AGI ændrer magtbalancen mellem stat, virksomheder og borgere
De to foregående blog indlæg skitserede, hvordan AGI er mere end en teknologisk udvikling, der vil føre til et strukturelt skifte på tværs af samfundets centrale processer. Den, der kontrollerer AI, har således også mulighed for at kontrollere samfundets funktion.
Det forstærker den klassiske spænding mellem stat, civilsamfund og individ, som bl.a. Hegel analyserede. Men når intelligens (AGI) ikke længere er en knaphed for vækst, kan magt skaleres uden, at der er en naturlig modvægt.
Det ses allerede i konflikten mellem stat og AI-udviklere
Den aktuelle konflikt mellem det amerikanske forsvarsministerium og Anthropic illustrerer dynamikken. Anthropic afviser at stille sine modeller til rådighed for bl.a. masseovervågning og for autonome våben. De mener, at teknologien endnu er for umoden. Som reaktion klassificerer Pentagon virksomheden som “supply chain risk”. Følgelig må Anthropics produkter bl.a. ikke længere benyttes af andre underleverandører til Pentagon.
Kernen i konflikten er således, at staten ikke accepterer afhængighed af aktører, der kan sige nej. Det fører til en strukturel magtkamp, hvor staten har et iboende overtag gennem regulering, kontrakter og adgang til infrastruktur. Virksomheders grundlæggende etiske værdier og grænser udvandes dermed.
Konflikten er et tidligt eksempel på en strukturel spænding, der vil gentage sig på tværs af sektorer og lande.
For AI gør overvågning skalérbar, …
Historisk har staters overvågning været begrænset af kapacitet. Den begrænsning forsvinder, for AI gør det muligt at analysere enorme datamængder i realtid, identificere mønstre og afvigelser og derpå at forudsige adfærd med høj præcision og lav usikkerhed.
Det giver en historisk skalérbarhed for masseovervågning til meget lave marginale omkostninger. Da AI samtidig evner at hyperpersonalisere sin kommunikation, har AGI ingredienserne til at bane vejen for demagogers vej til despoti.
… hvilket forskyder magten fra institutionel til teknologisk kontrol
Demokratier bygger på synlig institutionel kontrol af lovgivning, magtens tredeling og ansvarlighed, der er tilpas langsom og anfægtelig. Men AGI introducerer teknologisk kontrol, hvor magten bygger på skjult adgang til data, til compute og til modeller. Det gør den uklar, skalérbar og dermed svær at regulere og udfordre.
Samtidig er der markant asymmetri i information mellem udviklere og samfund. Det begrænser ekstern kontrol.
Der er især to mulige udviklingsspor, …
Udviklingen kan tage forskellige retninger afhængigt af hastighed og tilpasning. Forenklet kan det opsummeres i to spor:
- Gradvis tilpasning, hvor institutioner kan nå at tilpasse sig, Arbejdsmarkeder og politik justeres løbende og den demokratiske kontrol bevares
- Transformativ acceleration, hvor AI udbredes hurtigt i alle sektorer, magten koncentreres om få aktører og institutionerne kommer bagefter og således forsøger at reparere
I det sidste scenarie stiger risikoen for økonomisk og politisk ustabilitet markant. Hastigheden i udviklingen overstiger institutionernes tilpasningsevne.
… der dog begge kræver global koordination
Problemet forstærkes af geopolitik. AI er en strategisk teknologi på linje med energi, forsvar og finans, der påvirker direkte beslutningstagning og informationskontrol. Derfor kan den skabe strategisk afhængighed af andre stater eller aktører, og derfor vil stater strukturelt prioritere kontrol frem for etik. Samarbejde bliver vanskeligere og standarder fragmenteres således.
Samtidig er teknologien global, mens reguleringen er national. Det skaber et strukturelt mismatch, hvor ingen aktør kan kontrollere udviklingen alene, men alle har incitament til at accelerere.
Erik er således nødvendigt, men utilstrækkeligt, …
Etisk AI kræver derfor både nationale og internationale rammer samt aktiv statslig involvering. Virksomheder kan ikke håndhæve etik alene.
Men stater har incitament til at overskride disse rammer, når andre aktører i stedet leverer teknologien, hvis nogen siger nej. I Anthropics tilfælde ovenfor, indtrådte OpenAI med det samme, hvor Anthropic sagde fra.
Problemet kan derfor ikke løses gennem frivillighed eller enkeltstående regulering.
… for alignment er det dybeste problem, …
Det grundlæggende spørgsmål er derfor “Hvem skal AI være loyal overfor?”. Hverken etik eller lovgivning giver et klart svar på, om det skal være staten, virksomheden, brugeren eller noget helt fjerde.
Samtidig viser historien, at blind lydighed, også over for legitime autoriteter, ofte fører til alvorlige konsekvenser. En “perfekt alignment” kan i praksis være udtryk for et fravær af modstand. Det er ikke nødvendigvis ønskeligt.
… hvilket gør den egentlige risiko strukturel
Samlet er der således tre centrale risici:
- Koncentration af magt, fordi AI kan samle økonomisk og politisk kontrol hos nogle få aktører
- Erosion af autonomi, fordi AI kan påvirke beslutninger og adfærd i stor skala
- Institutionel forsinkelse, fordi governance ikke kan følge med teknologiens hastighed
Det afgørende er, at disse risici opstår gennem struktur, ikke nødvendigvis gennem intention.
Samlet mangler der desværre enkle løsninger
Samlet udfordrer AGI selve forudsætningen for demokrati. Det udfordrer økonomiens fundamentale forudsætning om, at mennesker træffer informerede og selvstændige beslutninger. Hvis overvågning bliver total, påvirkning bliver præcis og beslutninger automatiseres, risikerer demokratiet at bestå formelt, men blottet for indhold og værdi.
Den største udfordring er derfor ikke teknologien i sig selv, men hvordan den integreres i magtstrukturer. Her er konklusionen desværre, at der mangler enkle løsninger. Det centrale bliver derfor at beskytte menneskelig autonomi og institutionel legitimitet.
Demokratier er designede til aktører, der er relativt lige på de fleste parametre. AGI er os overlegne på alle parametre, og samtidig kan det forme vores beslutninger.
- Kan magten i et AI-drevet samfund forblive ansvarlig?
- Kan AI, som magtudøver, overhovedet holdes ansvarlig for sin magt?