FORKLARINGSVIDEO · BAKGRUNNSSTOFF

Kan du spørre en chatbot om helsa?

Faren din har vondt i kneet, og i brevet fra legen står ordet «artrose». Fire steg: hvordan en chatbot kan hjelpe deg å forstå ord og fagbegreper, hvordan den kan hjelpe deg å forberede spørsmål til legetimen, hvor grensen går, og hva du ikke bør skrive inn om deg selv og andre. Skiller mellom hva myndighetene skriver (Helsedirektoratet, Datatilsynet, helsenorge), hva forskningen viser (Oxford-studien i Nature Medicine) og hva selskapene selv sier. Eksempelet er oppdiktet; videoen gir ingen medisinske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.

Spilles av via YouTube. Nettleseren kobles til Google først når du trykker, og Google kan da behandle IP-adresse og avspillingsdata. Om personvern.

Les tekstversjonen

Faren din har vondt i kneet, og neste uke skal du være med ham til fastlegen. I et brev fra legen står det et ord du ikke kjenner: artrose. Så du åpner en chatbot. Men kan du egentlig spørre den om helsa? Du er ikke alene om å prøve. I en undersøkelse Helsedirektoratet fikk gjort i mai og juni i år, svarte førtiseks prosent at de hadde brukt et KI-verktøy for å få helseråd det siste året. Etter denne videoen vet du hva en chatbot kan hjelpe deg med, hvor grensen går, og hva du ikke bør skrive inn. Eksempelet er oppdiktet, og videoen gir ingen medisinske råd. Vi tar det i fire steg. Først: forstå ordene. Så: forbered legetimen. Deretter: hvor grensen går. Og til slutt: hva du holder for deg selv.

Start med et generelt spørsmål: «Hva betyr artrose?» Du trenger ikke skrive hvem det gjelder. Et godt svar forteller at artrose også kalles slitasjegikt, og at det er en sykdom i leddene. Tenk på chatboten som en tolk. Den oversetter legespråk til hverdagsspråk. Og du kan be den forklare én gang til, enda enklere, uten at noen blir utålmodige. Men her halter bildet. En tolk oversetter det som faktisk er sagt. En språkmodell setter sammen tekst ved å gjette seg fram til neste ord. Svaret kan høres sikkert ut og likevel være feil. Sjekk derfor forklaringen mot helsenorge, den offentlige nettsiden med kvalitetssikret helseinformasjon. Du kan også lime inn en lang artikkel derfra og be chatboten oppsummere den. Men det er artikkelen som er fasiten, ikke sammendraget.

En legetime går fort. Be chatboten hjelpe deg å lage en liste med spørsmål. For eksempel: Hva betyr dette i hverdagen? Hva kan vi gjøre selv? Når bør vi ta kontakt igjen? Du kan også spørre hva som er lurt å notere før timen, som når plagene startet, og hva som gjør dem bedre eller verre. Selve notatene kan du skrive på et ark. De trenger ikke inn i chatten. Ta med lista til legen. Det er legen som undersøker kneet, stiller diagnosen og foreslår behandling. Chatboten hjalp deg bare med å stille gode spørsmål.

Her går grensen. En chatbot kan ikke undersøke deg, og den har ikke ansvar for rådene den gir. Diagnose, behandling og medisiner hører hjemme hos helsepersonell. Hva skriver myndighetene? Helsedirektoratet påpeker at de internasjonale KI-tjenestene ikke er under offentlig tilsyn med kvaliteten på rådene. Og at en chatbot kan gi inntrykk av profesjonell helsehjelp, fordi språket ligner det helsepersonell bruker. Hva viser forskningen? I en studie fra Oxford fikk nesten tretten hundre briter oppdiktede sykdomstilfeller. De som brukte en chatbot, valgte ikke oftere riktig handling enn de som for eksempel søkte på nettet. Forskerne så at folk ofte ga chatboten for lite informasjon. Og i ett tilfelle fikk to personer med nesten like beskrivelser helt motsatte råd. Og selskapene selv? Da OpenAI lanserte en egen helsedel i ChatGPT i januar, skrev selskapet at den ikke er ment for diagnose eller behandling. Det viktigste: Er det akutt og står om liv, ring en-en-tre. Trenger du lege når fastlegen er stengt, og det ikke kan vente, ring legevakten på en-en-seks, en-en-sju. Da skal du ikke bruke tid på en chat.

Så til det du skriver inn. Datatilsynet råder deg til å være varsom med å dele navn, fødselsnummer, adresse og helseopplysninger med en chatbot. Det gjelder også opplysninger om andre. Ifølge Datatilsynet er du selv ansvarlig for det du deler om andre, på samme måte som om du hadde publisert det. Og faren din har ikke bedt om å havne i en chat. Samtalen deles ofte med selskapet bak tjenesten, og kan brukes til å videreutvikle modellen. Små detaljer kan settes sammen og avsløre mer enn du tror. Så i stedet for å lime inn hele brevet med navn og fødselsnummer, skriver du: «Hva betyr artrose i kneet, og hva er lurt å spørre legen om?» Du får den samme hjelpen, uten å fortelle hvem det gjelder. Sjekk også innstillingene. Slå av trening på samtalene dine hvis du kan, bruk midlertidig chat, og slett samtaler du ikke trenger lenger.

Kort oppsummert. Én: En chatbot kan hjelpe deg å forstå ord og forberede spørsmål til legen. Sjekk svaret mot helsenorge. To: Den kan ta feil, og den stiller ikke diagnoser eller bestemmer behandling. Er det akutt, ringer du en-en-tre eller legevakten. Tre: Hold navn, fødselsnummer og helseopplysninger, dine egne og andres, utenfor chatten. Vil du vite mer, se videoene om personvern og om hvorfor KI kan ta feil. Kildene og hele tekstversjonen finner du på kiavisa.no. Fortellerstemmen er syntetisk.

Kildene til videoen

Dette er en forklaring basert på kildene over, ikke en uavhengig test. Vi bruker KI i manusarbeidet. Diagrammene og animasjonene er laget lokalt for KIavisa. Eksempelet er oppdiktet. Illustrasjonsfoto fra Wikimedia Commons: Jacek Halicki (CC BY-SA 4.0) og Eric Bailey (CC0). Syntetisk norsk tale: Google Gemini – Charon.

5:01 min

Flere videoer: KI og helse

Alle videoer
KI og helse

Slik brukes KI i helsetjenesten

Ingrid (70) sklir på isen og får vondt i håndleddet. Fire steg: hvordan et KI-program kan se på røntgenbildet, hvordan tale-til-utkast lager et utkast til journalnotat når hun snakker med legen, hva CE-merking av medisinsk utstyr betyr, og hvem som har ansvaret. Skiller mellom hva myndighetene skriver (Helsedirektoratet, Direktoratet for medisinske produkter, Normen, helsepersonelloven), hva forskningen undersøker (AIMS-studien), hva sykehusene har erfart og hva selskapene selv påstår. Eksempelet er oppdiktet og røntgenbildet tegnet; videoen gir ingen medisinske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.

KI og helse

Helseopplysningene dine og KI

Mona har fått en epikrise fra sykehuset og vil lime den inn i en KI-chatbot. Fire steg: hvorfor helseopplysninger er særlig beskyttet, hva som kan skje med det du skriver i en åpen chatbot (lagring og trening av modellen), innstillinger og gode vaner, og forskjellen på en åpen chatbot og verktøy helsetjenesten har vurdert. Skiller mellom hva myndighetene skriver (Datatilsynet, Helsedirektoratet, Normen, personvernforordningen og helsepersonelloven), hva forskningen viser (Stanford-studien av KI-selskapenes personvernerklæringer) og hva selskapene selv skriver (OpenAI). Eksempelet er oppdiktet og epikrisen tegnet; videoen gir ingen medisinske eller juridiske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.