“Udfordrer AI den grundlæggende tillid?” var titlen for min artikel til Finans/Invest 3/2025. Resumé teksten var:
Tillid er det bærende element for demokratier og for vores finansielle system. Tillid handler bl.a. om at handle i andres bedste interesse (fiduciaritet). Det gælder f.eks. pensionsselskabers forvaltning af opsparernes penge, eller det gælder bestyrelsers pligt over for selskabet og dets aktionærer. Men udviklingen og udrulningen af AI går så stærkt, at vi risikerer at forvitre vores virkelighedsbillede. Ultimativt kan det påvirke tilliden og dermed for eksempel finansiel stabilitet. For det er for dyrt at koble sig fra brugen af AI, der byder på overvældende store effektivitets- og innovationsfordele.
2025 bliver formodentlig året, hvor vi begynder at give AI agenter muligheden for at tage initiativer på vore vegne. Hvis disse AI medarbejdere bl.a. skal lære på baggrund af rådata, der indeholder mis- og disinformation, risikerer vi at ophøje disse til selvforstærkende sandheder. Den aktuelle politiske de-kobling til USA kan bl.a. få betydning hér, da de fleste AI modeller er amerikanske.
Artiklen var først og fremmest en opfølger til min artikel om AI for to år siden. Men dernæst udtrykker artiklen en reel bekymring for hvordan politiske motiver og forceret udvikling kan ødelægge værdien af AI.