FORKLARINGSVIDEO · BAKGRUNNSSTOFF

Helseopplysningene dine og KI

Mona har fått en epikrise fra sykehuset og vil lime den inn i en KI-chatbot. Fire steg: hvorfor helseopplysninger er særlig beskyttet, hva som kan skje med det du skriver i en åpen chatbot (lagring og trening av modellen), innstillinger og gode vaner, og forskjellen på en åpen chatbot og verktøy helsetjenesten har vurdert. Skiller mellom hva myndighetene skriver (Datatilsynet, Helsedirektoratet, Normen, personvernforordningen og helsepersonelloven), hva forskningen viser (Stanford-studien av KI-selskapenes personvernerklæringer) og hva selskapene selv skriver (OpenAI). Eksempelet er oppdiktet og epikrisen tegnet; videoen gir ingen medisinske eller juridiske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.

Spilles av via YouTube. Nettleseren kobles til Google først når du trykker, og Google kan da behandle IP-adresse og avspillingsdata. Om personvern.

Les tekstversjonen

Mona har nettopp kommet hjem fra sykehuset. Hun har fått en epikrise, et sammendrag av oppholdet, og språket er tungt. Så hun kopierer hele teksten inn i en KI-chatbot og skriver: «Forklar dette enkelt.» Men i teksten står navnet hennes, fødselsnummeret, diagnosen og medisinene hun bruker. Etter denne videoen vet du hvorfor slike opplysninger er særlig beskyttet, hva som kan skje med det du skriver, og hva du kan gjøre i stedet. Mona er oppdiktet, og videoen gir ingen medisinske råd. Vi tar det i fire steg. Først: hvorfor helseopplysninger er spesielle. Så: hva som skjer med teksten. Deretter: innstillinger og gode vaner. Og til slutt: forskjellen på en åpen chatbot og verktøy helsetjenesten har vurdert.

En personopplysning er alt som kan knyttes til deg. Det gjelder navnet ditt, men også opplysninger som sammen peker på deg, som postadresse eller telefonnummer. Noen opplysninger beskyttes ekstra. Personvernforordningen kaller dem særlige kategorier, og helseopplysninger er en av dem. Utgangspunktet er at slike opplysninger ikke kan behandles, med mindre det finnes et unntak. Ett unntak er at du uttrykkelig har samtykket. Hvorfor så strengt? Helsedirektoratet skriver at helsedata har høy verdi, og at de er særlig utsatt for misbruk og uautorisert spredning. I helsetjenesten har legen og sykepleieren taushetsplikt etter helsepersonelloven. Men taushetsplikten gjelder helsepersonellet. Den gjelder ikke selskapet bak en chatbot. Når Mona limer inn epikrisen, er det hun selv som deler den.

Når Mona trykker send, går teksten til selskapets servere. Det er der svaret blir laget. Tenk på det som å legge igjen en kopi av epikrisen på et kontor du ikke kjenner. Du vet ikke hvem som får lese den, eller hvor lenge den blir liggende. Her halter bildet litt: Selskapene har sikkerhet og regler, og teksten blir ikke offentlig. Men du mister oversikten. Datatilsynet skriver at samtalen ofte deles med selskapet, og at slike opplysninger ofte brukes til å trene eller forbedre modellen. Det er lite innsyn i hvordan selskapene bruker dem, og formålene kan endre seg. Forskningen peker samme vei. Forskere ved Stanford gikk gjennom personvernerklæringene til seks store amerikanske KI-selskaper. Alle så ut til å bruke samtalene til trening som standard, og noen beholdt dem uten tidsgrense. Det kunne også gjelde helseopplysninger. Studien så på amerikanske regler, og i Europa kan vilkårene være andre. Hva sier selskapene selv? OpenAI skriver på hjelpesidene sine at for personlige kontoer med Free, Plus og Pro er deling for å forbedre modellene slått på som standard. Det er selskapets egen beskrivelse, og vilkår kan endres. Datatilsynet minner også om at små opplysninger kan kombineres og avsløre mer enn du tror. Og når noe først er brukt til å trene en modell, kan det være vanskelig å få det slettet.

Så hva kan Mona gjøre? Det viktigste rådet er enkelt: Ikke lim inn hele dokumentet. Datatilsynet sier rett ut at du ikke bør laste opp dokumenter med sensitive opplysninger om deg selv eller andre. Spør heller om ordene. Mona kan skrive: «Hva betyr ordet anemi?» uten navn, fødselsnummer og resten av epikrisen. Da deler hun mye mindre. Men også et kort spørsmål kan si noe om helsa di. Sjekk innstillingene. Datatilsynet anbefaler å slå av at modellen trener på opplysningene dine, og å bruke midlertidig chat når tjenesten har det. OpenAI skriver at midlertidige samtaler ikke brukes til trening, men kan bli lagret i opptil 30 dager av sikkerhetshensyn. Slett samtaler du ikke trenger. Bruker du konto, velg et sterkt passord og slå på tofaktorautentisering. Og tenk på andre: Spør du om helsa til en forelder, er du selv ansvarlig for det du deler.

Hva med helsetjenesten selv? Helsedirektoratets KI-vettregler sier at de som jobber der, aldri skal gi fra seg sensitiv informasjon i åpne KI-verktøy. Det betyr verktøy som brukes uten innlogging, eller med en privat konto. Når et sykehus eller et legekontor tar i bruk KI, skriver Helsedirektoratet at virksomheten må sørge for at taushetsplikten og personvernreglene følges. Og Normen, helsesektorens norm for personvern og informasjonssikkerhet, sier at KI-verktøy for journalen skal være laget for helsehjelp, ikke åpne, generelle verktøy som ChatGPT. Normen anbefaler også å være åpen om KI-bruken overfor pasienten. Og pasienten kan be om at verktøyet ikke brukes. Finnes det en offentlig KI-tjeneste Mona kan bruke? Ikke ennå. Helsedirektoratet skriver at de skal etablere en, i første omgang som et prosjekt. Og Datatilsynets sandkasse fant at samtaler med en slik chatbot ikke kan regnes som anonyme, fordi folk deler sensitive ting. Personvernreglene gjelder altså fullt ut. For Mona er det enkleste ofte det beste: Spør legen som skrev epikrisen, eller fastlegen. KI erstatter ikke helsepersonell. Er du akutt syk, ring 113. Haster det, men er ikke livstruende, ring legevakten på 116 117.

Kort oppsummert. Én: Helseopplysninger er særlig beskyttet, men taushetsplikten gjelder ikke chatboten. To: Det du skriver i en åpen chatbot kan bli lagret og brukt til trening. Del minst mulig, og sjekk innstillingene. Tre: Helsetjenesten skal bruke verktøy som er laget for helsehjelp, og spørsmål om din egen helse tar du med helsepersonell. Vil du vite mer, se videoene om chatboter og helse og om personvern generelt. Kildene og hele tekstversjonen finner du på kiavisa.no. Fortellerstemmen er syntetisk.

Kildene til videoen

Dette er en forklaring basert på kildene over, ikke en uavhengig test. Vi bruker KI i manusarbeidet. Diagrammene og animasjonene er laget lokalt for KIavisa. Eksempelet er oppdiktet, og epikrisen og skjermbildene er tegnet. Illustrasjonsfoto fra Wikimedia Commons: NOIRLab/NSF/AURA/T. Slovinský (CC BY 4.0), Eric Bailey (CC0) og Jacek Halicki (CC BY-SA 4.0). Syntetisk norsk tale: Google Gemini – Charon.

6:16 min

Flere videoer: KI og helse

Alle videoer
KI og helse

Kan du spørre en chatbot om helsa?

Faren din har vondt i kneet, og i brevet fra legen står ordet «artrose». Fire steg: hvordan en chatbot kan hjelpe deg å forstå ord og fagbegreper, hvordan den kan hjelpe deg å forberede spørsmål til legetimen, hvor grensen går, og hva du ikke bør skrive inn om deg selv og andre. Skiller mellom hva myndighetene skriver (Helsedirektoratet, Datatilsynet, helsenorge), hva forskningen viser (Oxford-studien i Nature Medicine) og hva selskapene selv sier. Eksempelet er oppdiktet; videoen gir ingen medisinske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.

KI og helse

Slik brukes KI i helsetjenesten

Ingrid (70) sklir på isen og får vondt i håndleddet. Fire steg: hvordan et KI-program kan se på røntgenbildet, hvordan tale-til-utkast lager et utkast til journalnotat når hun snakker med legen, hva CE-merking av medisinsk utstyr betyr, og hvem som har ansvaret. Skiller mellom hva myndighetene skriver (Helsedirektoratet, Direktoratet for medisinske produkter, Normen, helsepersonelloven), hva forskningen undersøker (AIMS-studien), hva sykehusene har erfart og hva selskapene selv påstår. Eksempelet er oppdiktet og røntgenbildet tegnet; videoen gir ingen medisinske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.