Hvis AI kan lære os så godt at kende, at det kan hyperpersonalisere sin kommunikation, kan det så også forudsige os og derved manipulere os?
Dette er første indlæg i en trilogi om, hvordan AI kan påvirke vore virkelighedsopfattelser. Indlægget handler om, at hvis AI kan lære os så godt at kende, at det kan hyperpersonalisere sin kommunikation, kan det så også forudsige os og dermed manipulere os? Det næste indlæg fokuserer på, at AI ofte lærer fra data, som AI selv har skabt. Det sidste handler om det grundlæggende dilemma om, hvad der overhovedet er virkeligt. Har mennesker f.eks. fri vilje, eller er virkeligheden grundlæggende deterministisk?
Brugen af LLMere stiger kraftigt, …
Siden ChatGPT blev lanceret i slutningen af 2022, er brugen af LLMere steget eksponentielt. ChatGPT er f.eks. den hurtigst voksende app nogensinde og nåede bl.a. 100 millioner brugere på blot to måneder. I midten af februar 2025 passerede denne 400 millioner aktive brugere om ugen.
… men at de er bekvemme og overbevisende, gør dem ikke sandfærdige
Successen bygger især på, at LLMere gør det bekvemt, at søge svar på nettet. De kommer bl.a. med ét svar i stedet for, at brugeren f.eks. selv skal undersøge og afveje 100 links fra Google. Men successen bygger også på, at svarene er særdeles velformulerede og -strukturerede. Derfor tillægger brugerne dem en høj sandhedsværdi.
For ud over at mestre “sprogets regler”, er svarene hyperpersonaliserede, dvs. tilpasset den enkelte brugers præferencer og adfærdsmønstre i en grad, der overstiger tidligere teknologier. Det rejser spørgsmålet om, hvor let LLMere og AI i bred forstand kan benyttes som centralt værktøj med ondsindede formål.
Nyere historie viser, hvordan det kan benyttes til politisk manipulation …
Tilbage i 2018 opstillede forskere fra bl.a. Oxford, Cambridge, Future of Humanity Institute samt OpenAI en række scenarier. De fokuserede på, hvordan AI kan benyttes til ondsindede formål som f.eks. hacking eller bredere cyber-offence til politisk motiveret desinformation.
På det tidspunkt var skandalen omkring Cambridge Analytica fra 2016-18 f.eks. i frisk erindring. Hér havde AI lignende modeller på psykometriske data allerede den gang gjort det muligt at hyperpersonalisere politisk kommunikation (f.eks. “OCEAN” personlighedsprofiler). Det vil være naivt at tro, at en sådan brug af AI kun kan opstå i USA eller kun af det ene parti. Det var blot dér, at den første strukturerede brug blev afdækket.
… og potentialet siger, jo mere hyperpersonaliserende LLMere bliver
Siden 2018 er udviklingen af AIs evne til hyperpersonalisering fortsat. I juli i år offentliggjorde en række forskere fra Institute for Human-Centered AI i Nature, at de havde skabt en kognitiv “foundation model” kaldet Centaur. Centaur er trænet på Psych-101, der er et omfattende datasæt med informationer fra mere end 60.000 mennesker, der foretog millioner af valg på tværs af 160 eksperimenter.
Forskerne fandt, at modellen var i stand til at outperforme alle tidligere modeller for forudsigelse af menneskelig adfærd. Det gælder også for scenarier, der ikke har været set før. Dermed antyder projektet hvordan AI er i stand til at forudsige vores valg i hverdagen, jo dybere adgang til vores tanker og beslutninger, som vi giver det.
På den ene side giver det bedre muligheder for almen psykologisk forståelse …
Tidligere har psykologiske modeller enten været forklarende (teoretisk forståelse) eller forudsigende (maskinlæringspræcision). Centaur kombinerer begge tilgange ved at identificere beslutningsstrategier og således også vise, hvor klassiske teorier fejler. Forskerne mener, at Centaur bl.a. kan bruges i klinisk kontekst til at forstå beslutningsadfærd ved psykologiske tilstande som depression eller angst.
Forskerne opfordrede til, at bredere samfund bør engagere sig i, hvordan denne teknologi anvendes, især i pædagogik (risiko for indoktrinering), sundhed (risiko for “infodemics”), politisk kommunikation (risikoen for at demagoger kan blive til despoter) samt sociale medier (bred undergravelse af demokratiets grundlag, fakta og formidlingen heraf).
… men risikomomenterne stiger samtidig
Sideløbende med Centaur udviklingen undersøgte andre forskere i fællesskabet r/ChangeMyView fra november 2024 til marts 2025, om AI kan ændre vores synspunkter og holdninger. AI udviste meget stærk og overlegen evne til overbevisning og således også manipulation i online-debatter. Dermed kan de sprede desinformation eller påvirke valg.
Forskerne anbefalede derfor, at platformene indfører mekanismer til at opdage AI-genereret indhold, krav om transparens samt metoder til verifikation og markering af AI kommentarer.
Der er ikke nogen nem måde, at nedbringe risikoelementerne
LLMeres hyperpersonalisering er bekvem for brugerne. Derfor er der et grundlæggende pull i markedet for at fortsætte udviklingen. Samtidig åbner teknologien for enorme terapeutiske muligheder inden for psykologi, psykiatri, undervisning osv. De vil kun øge brugernes ønske om øget engagement med LLMere.
Bagsiden er, at risikomomenterne samtidig stiger markant, fordi udviklingen af LLMere er yderst kapitalintensivt og således reelt er koncentreret til to lande, USA og Kina. Det ene land insisterer på ytringsfrihed uden hensyntagen til fakta, det andet insisterer på censur.
Dermed er det op til det enkelte menneske at filtrere i det input, vi modtager fra LLMere.