KI sprer løgner dobbelt så ofte som i fjor – feilinformasjon florerer som aldri før

En fersk rapport fra NewsGuard viser at nye AI-verktøy sprer mer feilinformasjon enn noen gang, og utviklingen går i feil retning. 

På bare ett år har de ledende generative KI-verktøyene nesten doblet andelen feilinformasjon de serverer i svar på nyhetsspørsmål. I dag leverer de falske påstander i over en tredel av tilfellene. 

Det er ikke en fartsdump, det er en systemfeil. Og den rammer alt fra samfunnsdebatt og presse til styrerom og offentlig forvaltning. 

Rapporten fra NewsGuard er basert på en fersk gjennomgang av ti toppmodeller der de sjekket hvor ofte chatbotene plukker opp og sprer falske narrativ når vi spør dem om pågående nyhetssaker. Kortversjonen: Feilinformasjon spres som aldri før.

Les også: Gjør kunstig intelligens oss smartere eller dummere? (Slik påvirkes hjernen)

Fra «bedre svar» til dårligere sannhet

Det hele begynte med kritikken mot KI-modellene som svarte «vet ikke» når de ble utfordret på ferske nyheter og komplekse temaer. Det opplevdes som lite nyttig. Derfor skrudde leverandørene opp svarvilligheten. Resultatet? Flere svar, men ikke nødvendigvis bedre.

I dag får du oftere et klart og selvsikkert svar fra en chatbot. Problemet er at tydelighet ikke er det samme som sannhet. Utviklingen gir en illusjon av presisjon: svaret høres troverdig ut, men bygger ofte på tynt eller feilaktig faktagrunnlag.

Konsekvensen er at vi risikerer å ta beslutninger om økonomi, helse eller politikk på basis av svar som fremstår solide, men som i realiteten kan være feilinformerte eller til og med farget av propaganda. Med andre ord: trygg tone, usikker substans.

Les også: Test av AI-detektor på norsk – Hvilken avslører AI-tekst best

Når innholdsfarmer mater KI-modellene

Hvorfor går det galt? En hovedårsak – ifølge NewsGuard – er såkalt propaganda-vask (propaganda laundering). 

I praksis betyr det at nettverk av nettsteder og kontoer, mange med bånd til aktiv russisk spredning av disinformasjon, produserer enorme mengder innhold. Det spres ikke for at du og jeg skal lese det, men for at maskinene skal gjøre det.

Når desinformasjon og lavkvalitetsinnhold dominerer treffene som KI-assistenten henter i sanntid – eller allerede preger treningsdataene – oppstår en kunstlig konsensus i svaret. Modellen lærer ikke nytt der og da, men kondisjoneres av tilgjengelige kilder. 

Jo mer koordinert og utbredt løgnen er i det informasjonsrommet modellen henter fra, desto større er sjansen for at den presenteres videre som et tilsynelatende troverdig svar.

Resultatet ser vi allerede: store språkmodeller har gjentatt falske narrativer om europeiske valg, Ukraina og sentrale politikere. Og dette gjelder ikke bare én aktør. Hele bransjen står overfor et systemisk problem som truer både informasjonskvalitet og beslutningsgrunnlag.

Les også: Futurist og stolt av det – Jan Storehaug holder foredrag som gir deg et teknologisk forsprang

Perplexity: Fra toppscore til 46 prosent feil

Et av de mest slående eksemplene i år er Perplexity. I fjor lå tjenesten helt i toppen av NewsGuards tester. Nå bommer den i nær halvparten av tilfellene (46 prosent).

Hva skjedde? Når prinsippet «svar alltid» kobles med ufiltrerte nettsøk og svake rutiner for kildesikring, går det raskt galt.

For deg som leder er lærdommen enkel: To verktøy som tilsynelatende leverer like godt i dag, kan gi totalt ulike resultater i morgen. Presisjon er ikke en konstant størrelse, men noe som kan forvitre på få måneder.

Les også: Perplexity AI — Chatboten som gir din virksomhet ny tyngde (med kilder til alle svar)

Europas KI-stolthet, og akilleshæl

Franske Mistral trekkes ofte frem som Europas svar på de amerikanske gigantene. Likevel har også deres chatbot «Le Chat» blitt tatt i å spre falske påstander om Ukraina og andre aktuelle temaer.

Poenget er ikke å peke finger mot Mistral. Poenget er å vise at ingen av de store modellene klarer å stå imot propaganda-vask når nyhetsbildet er polarisert og kildene forurenset.

En av de viktigste læringene fra årets rapport er hvordan formen lurer oss. Når svarene kommer pent pakket i hele avsnitt, med lenker og fotnoter, har vi lettere for å akseptere det. Vi tror vi får kvalitet, men i realiteten bygger svaret ofte på lavkvalitetskilder, “ekkokamre” og innholdsfarmer.

For deg som beslutningstaker er dette risikabelt. En overbevisende fasade gjør det fristende å droppe kildesjekken, og nettopp da er faren størst for at feilinformasjon spres videre.

Hvorfor dette angår norske virksomheter direkte

1. Dokumenter, kundekommunikasjon og pressemeldinger. Bruker dere KI-assistenter til utkast, øker risikoen for at faktafeil sniker seg inn i tekster som går ut til kunder, investorer og media. Én feil i en fagartikkel kan koste troverdighet, og kunder.
2. Markedsinnsikt og beslutningsgrunnlag. Når analyse-notater blandes med KI-genererte «innsikter» uten kildekontroll, kan ledelsens strategier stå på sandgrunn.
3. Beredskap og omdømme. I kriser – når tempoet er høyt – er fristelsen stor til å spørre en chatbot om «hva som har skjedd». Nettopp da er risikoen størst for at feilinformasjon glipper gjennom sensuren når den henter raske svar fra uverifiserte nyhetskilder.

Les også: AI-innovasjon endrer lederrollen – Norske SMB-er henger etter

8 ledertips for å unngå spredning av feilinformasjon

1) Etabler en «KI-policy for sannhet»

Gjør det eksplisitt at alle påstander om faktiske forhold fra en KI-assistent skal kildesjekkes i uavhengige, kjente kilder før intern eller ekstern bruk. Beskriv akseptable kilder (offisielle dokumenter, primærkilder, anerkjente medier) og hva som ikke godtas (anonyme blogger, aggregatorer uten redaksjon, «speilnettsteder»). Knytt policyen til konkrete arbeidsprosesser (kommunikasjon, salg, kundeservice, analyse).

2) Skru av «autopilot» og innfør totrinns-verifisering

Del arbeidsflyten i to: 1) ideutkast/struktur fra KI, 2) menneskelig verifisering og redigering. Det høres trivielt ut, men det viser seg at faktasjekken ikke kan overlates til KI-modeller, da de ofte står bak problemet i nyhetsrelaterte spørsmål.

3) Avklar når sanntidssøk er lov, og når det er forbudt

Mye feil oppstår når modeller kombinerer «alltid svar» med ufiltrerte websøk. Definér hvilke oppgaver som ikke kan bruke websøk (for eksempel pressemeldinger, regulatoriske notater, investorinformasjon) og hvilke som kan, under stram kildepolicy (for eksempel idémyldring om kampanjer).

4) Innfør «kildevedlegg» som krav

Alt som skal videre i organisasjonen bør ha et kildevedlegg, altså en liste over primærkilder som bekrefter sentrale påstander, ikke bare linker chatboten «fant». Dette disiplinerer både mennesket og maskinen.

5) Logg og revisjon

Bevar prompt, svar og kilder for alle KI-bidrag i viktige leveranser. Gjør stikkprøver hver måned: Hvor mange feil fant vi? Hvilke mønstre ser vi? Læringssløyfen må være organisatorisk, ikke bare individuell.

6) Rollen til kommunikasjons- og sikkerhetsfunksjonen

Kommunikasjonsavdelingen bør være eier av kildestandard for KI-generert innhold. Sikkerhetsfunksjonen bør overvåke desinformasjon som treffer din bransje og varsle når propagandanarrativ dukker opp.

7) Leverandørkrav

Be om ytelsesdata, auditrapporter og forklarbarhet fra informasjonsleverandøren. Presisjon kan svinge kraftig over tid. Perplexity-fallet er en seriøs advarsel. Leverandører som ikke kan dokumentere forbedring og filtrering av kilder i nyhetsdomener, bør ikke brukes på oppgaver med omdømmerisiko.

8) Bygg din «sannhetsbase»

Knytt KI-arbeidet til et sett kuraterte, interne og eksterne kunnskapskilder: egne dokumenter, fagdatabaser og betrodde redaksjonelle kilder. Poenget er å styre input slik at modellen jobber i “rent vann”, ikke i et hav av tvilsomme informasjonskilder.

Les også: 10 AI-tips som optimaliserer din bedriftsledelse

Politikk og presse: Tre grep vi trenger nå

For myndighetene:

Sett minstekrav til åpenhet. Når KI-verktøy brukes i offentlig saksbehandling, må kildene dokumenteres. Der modeller henter fra nettet, må det fremgå hvilke domener som faktisk påvirket svaret. Slik kan feilinformasjon spores og lukkes ute.

For mediene:

Gå foran i kildepraksis for KI. Innfør åpen KI-logg i redaksjonelle prosesser der assistenter brukes til research eller utkast. Kombiner dette med sperrer mot lavkvalitetskilder, og del erfaringer på tvers av virksomheten. Presseetikken må oppdateres for en tid der overfloden av overbevisende informasjonsstrømmer lett forveksles med sannhet.

For utdanningen:

Lær kritisk KI-kompetanse, ikke bare bruk. Studenter og elever må lære hvordan KI feiler i nyhetsdomener, ikke bare «hvordan man spør». Det er nå like viktig som tradisjonell kildekritikk.

Les også: Nasjonal digitaliseringsstrategi: Store ord til liten hjelp for norske virksomheter

For ledere: Slik tester du verktøyene dine i dag

1. Velg 10 ferske nyhetspåstander fra ditt fagområde, en blanding av sikre og åpenbart falske påstander.
2. Kjør dem gjennom de KI-verktøyene dere faktisk bruker, og be alltid om at det oppgis kilder til hvert enkelt svar.
3. Noter deretter avvik og vurder kildekvaliteten: Hvor ofte støttes påstandene av solide primærkilder, og hvor ofte peker verktøyet til svake eller useriøse nettsteder?
4. Gjenta øvelsen måned for måned. Følg nøye med på hvordan «feilkurven» utvikler seg over tid. Hvis den peker oppover, bør dere umiddelbart sette bruken på pause og kreve en forklaring fra leverandøren.

Denne enkle testen vil på kort tid avsløre om dere bygger inn et problem i informasjonsflyten eller om verktøyet faktisk fungerer i deres domene. 

Avslutning: Teknologi som må temmes

Generativ KI er kommet for å bli, og kan gi stor verdi når den brukes riktig. Men årets rapport fra NewsGuard er et varsel: Når feilinformasjon dobles og over en tredel av nyhetssvarene er feil, er ikke problemet brukernes skepsis, men systemets svikt.

Ledere som tror dette «går seg til» tar feil. Desinformasjon er ikke et uhell, men en bevisst strategi som spiller på modellenes svakheter.

Oppgaven er ikke å trekke ut stikkontakten, men å skjerpe rammene. Vi må bygge en kildepraksis som holder, kreve åpenhet og sikre at KI ikke får siste ord uten kontroll. Først da får vi både tempoet og rekkevidden fra KI, samt kvaliteten fra pålitelige kilder.

Hvis vi ikke tar ansvaret nå, vet vi hva som skjer: mer polerte svar, færre «vet ikke», og stadig mindre sannhet. Det har verken norske virksomheter, offentligheten eller demokratiet råd til.

Les mer: Kunstig intelligens er i startgropa – næringslivet er på etterskudd