Tenk deg at du planlegger hyttetur med noen venner. Du spør en KI-chatbot: «Hvorfor er Granlia-hytta stengt om vinteren?» Svaret kommer på sekunder. Tre ryddige grunner, vennlig tone, helt sikkert. Bare ett problem. Hytta er ikke stengt om vinteren. Granlia finnes ikke engang. Vi har funnet den på for denne videoen. Likevel kan du få et svar som høres helt riktig ut. I denne videoen ser vi på hvorfor det kan skje, og hva du kan gjøre med det. Vi har ikke testet noen bestemt chatbot eller målt hvor ofte de tar feil. Vi forklarer mekanismene, slik utviklerne selv beskriver dem. Vi tar det i fire steg. Først: hvorfor flytende tekst ikke er det samme som fakta. Så: hva som skjer når spørsmålet bygger på noe som er feil. Deretter: grensene for fagkunnskap. Og til slutt: hva søk og kildelenker egentlig kan bevise.
En språkmodell er laget for å skrive en sannsynlig fortsettelse av teksten. Derfor blir svarene så flytende. Men flyt sier noe om språket, ikke om fakta. Hvordan modellen skriver, bit for bit, viser vi i videoen «Hva er en språkmodell?». Tenk på en turkamerat som svarer med samme rolige stemme, også når han egentlig gjetter. Tonen forteller deg ingenting om han har rett. Men her halter sammenligningen. Modellen er ingen person som bevisst gjetter. I forhåndstreningen så den bare flytende tekst, uten merkelapper for sant og usant, slik OpenAI forklarer. Granlia er et eksempel på det Google kaller kanttilfeller: uvanlige eller sjeldne situasjoner som er dårlig dekket i treningsdataene. Ifølge Google kan slike tilfeller gi svar som er for selvsikre, eller som misforstår sammenhengen. Feil kan også gå på tvers av det du selv har gitt modellen. Anthropic skriver at språkmodeller kan lage tekst som er faktisk feil, eller som ikke stemmer med konteksten de har fått. Si at du limer inn bekreftelsen fra utleieren, der det står innsjekk klokka seksten. Svaret kan likevel si femten.
Se på spørsmålet ditt igjen. «Hvorfor er hytta stengt om vinteren?» Spørsmålet tar for gitt at hytta er stengt. Det er en skjult påstand, et premiss. Og spørsmålet er en del av teksten modellen fortsetter fra. Google skriver at hvis du skriver inn unøyaktige eller feil opplysninger, kan Gemini gi dårlige eller feil svar. Et feil premiss kan altså bli med videre inn i svaret. Hva kan du gjøre? Spør åpent: «Er Granlia-hytta åpen om vinteren?» Og gi gjerne lov til å være usikker: «Si fra hvis du ikke vet.» Anthropic anbefaler nettopp å la modellen si «jeg vet ikke». Ifølge selskapet kan det redusere feil kraftig. Men Anthropic presiserer også at slike grep ikke fjerner feil helt. Et godt spørsmål fjerner bare én feilkilde.
Så kommer dere fram. På stien ved hytta finner dere sopp. Du beskriver den for chatboten, og spør om den er trygg å spise. Her møtes to ulike ting: å skrive godt om sopp, og å faktisk kunne sopp. Google skriver om Gemini i Google Cloud at modellene kan mangle dybdekunnskapen som trengs for nøyaktige svar om svært spesialiserte eller tekniske temaer. Resultatet kan bli overfladisk eller feil. Og svaret ser like sikkert ut uansett. Så jo mer som står på spill, som helse, penger eller sikkerhet, desto viktigere er det å sjekke med noen som virkelig kan faget. Her: en som kan sopp. Anthropic sier det samme: Kritisk informasjon bør alltid kontrolleres, særlig når mye står på spill.
Siste spørsmål: «Hva koster hytta per natt?» Denne gangen søker chatboten på nettet først. Google beskriver søkefunksjonen for Gemini som en kobling til oppdatert nettinnhold, og som en måte å redusere hallusinasjoner på. Men se hva som skjer etterpå. Modellen behandler søkeresultatene, setter sammen informasjonen og skriver svaret selv. Svaret er fortsatt generert tekst, ikke en kopi av en fasit. Noen systemer har egne funksjoner for kildehenvisninger. Anthropic skriver at deres funksjon garanterer gyldige pekere til dokumentene modellen har fått. Garantien gjelder hvor henvisningen peker. Den sier ikke at innholdet er riktig, eller at svaret følger av det. Uten en slik funksjon kan selve lenken være diktet opp. Google skriver at Gemini kan finne på lenker til nettsider som aldri har eksistert. Så gjør som en god kildesjekker. Åpne lenken. Finn setningen som skal støtte svaret. Og se om siden er oppdatert. Kanskje er prisen fra i fjor.
Kort oppsummert. Én: Flytende tekst er ikke bevis, særlig om sjeldne ting. To: Spørsmålet ditt kan lede svaret feil. Spør åpent, og gi lov til å si «vet ikke». Tre: Søk og kildelenker hjelper, men er ingen sannhetsgaranti. Åpne kilden, og spør en fagperson når mye står på spill. Vil du se hvordan modellen lager tekst, bit for bit, har vi en egen video om hva en språkmodell er. Og en om hva som skjer når du trykker enter i ChatGPT. Kildene finner du på kiavisa.no. Fortellerstemmen er syntetisk, laget med Gemini-stemmen Charon.