FORKLARINGSVIDEO · BAKGRUNNSSTOFF

Slik brukes KI i helsetjenesten

Ingrid (70) sklir på isen og får vondt i håndleddet. Fire steg: hvordan et KI-program kan se på røntgenbildet, hvordan tale-til-utkast lager et utkast til journalnotat når hun snakker med legen, hva CE-merking av medisinsk utstyr betyr, og hvem som har ansvaret. Skiller mellom hva myndighetene skriver (Helsedirektoratet, Direktoratet for medisinske produkter, Normen, helsepersonelloven), hva forskningen undersøker (AIMS-studien), hva sykehusene har erfart og hva selskapene selv påstår. Eksempelet er oppdiktet og røntgenbildet tegnet; videoen gir ingen medisinske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.

Spilles av via YouTube. Nettleseren kobles til Google først når du trykker, og Google kan da behandle IP-adresse og avspillingsdata. Om personvern.

Les tekstversjonen

Det er glatt ute. Ingrid er 70 år. Hun sklir på isen og tar seg for med hånda. Nå har hun vondt i håndleddet, og på legevakten blir det tatt et røntgenbilde. Det hun kanskje ikke vet, er at et dataprogram også kan se på det bildet. Norske sykehus bruker nemlig allerede kunstig intelligens. I en kartlegging fra august telte Helsedirektoratet og helseregionene 68 ulike KI-løsninger som er i bruk eller på vei inn. Flest handler om bildeanalyse og diagnostikk. Etter denne videoen vet du hvor KI faktisk brukes, hva et CE-merke betyr, og hvem som har ansvaret. Ingrid er oppdiktet, og videoen gir ingen medisinske råd. Vi følger Ingrid i fire steg. Først: røntgenbildet. Så: samtalen med legen. Deretter: hva CE-merket betyr. Og til slutt: hvem som har ansvaret.

Mange sykehus bruker et program som heter BoneView. Det leter etter tegn på brudd i røntgenbilder, og gir et forslag til radiologen, legen som tolker bildet. Vestre Viken var først ute i stor skala, i august 2023. I dag er programmet i bruk i tre av fire helseregioner, og det prøves ut i den fjerde. Tenk på programmet som en gul lapp på bildet: «Se her.» Radiologen ser likevel på hele bildet og bestemmer hva som står i svaret. Men lappen kan ta feil begge veier. Den kan slå falsk alarm, og den kan overse noe. Produsenten Gleamer skriver på nettsiden sin at legene overser 30 prosent færre brudd med programmet, og viser til en studie. Det er selskapets egen framstilling av resultatene. Uavhengig forskning pågår også, på et annet område. I AIMS-studien, ledet av Kreftregisteret, skal over 100 000 kvinner få mammografibildene sine vurdert med eller uten et KI-program. Målet er å finne ut om KI og én eller to leger er minst like gode som to leger alene. Svaret er ikke klart ennå.

Så skal Ingrid snakke med legen. Legen forteller at samtalen tas opp med et KI-verktøy, og at hun kan si nei. Dette kalles tale-til-utkast. Verktøyet gjør lyden om til tekst og lager et utkast til journalnotat. Legen leser gjennom, retter og godkjenner. Først da havner teksten i journalen. Opptaket og utkastet skal slettes senest når notatet godkjennes. Kontrollen er viktig. KI får bare med seg det som sies høyt. Den ser ikke at Ingrid grimaserer når hun beveger hånda. Og små ord kan bli feil: «ikke» og «ingen», medisiner og doser, allergier. Helse Sør-Øst inngikk i mai avtaler med fire leverandører av slike verktøy, og de første klinikerne tar dem i bruk i år. Sykehusene håper å spare tid. Men gevinsten er ikke godt dokumentert ennå. Sykehuspartner skriver at erfaringene så langt viser varierende resultater for hvor mye tid som faktisk spares. Og i kartleggingen hadde bare 17 av 36 KI-systemer i drift rapportert om gevinster.

Hva betyr så CE-merket? Programvare, med eller uten KI, er medisinsk utstyr når den har et medisinsk formål, for eksempel å finne brudd. Da må den oppfylle regelverket for medisinsk utstyr, og som hovedregel være CE-merket. Det er produsenten som vurderer hvilken risikoklasse programmet hører til. Risikoklassen avgjør om et uavhengig kontrollorgan, et såkalt meldt organ, må være med og sjekke. Tenk på CE-merket som et førerkort. Det viser at kravene er sjekket før programmet slippes ut. Men et førerkort betyr ikke at sjåføren aldri gjør feil. Også et CE-merket program kan overse noe eller slå falsk alarm. Og ikke alt er avklart. Om de enkleste tale-til-utkast-verktøyene er medisinsk utstyr, er ennå ikke fastslått i EU. Men foreslår et verktøy diagnoser eller behandling, er det medisinsk utstyr, skriver kartleggingen. Vanlige chatboter som ChatGPT skal ikke brukes til pasientopplysninger. Det står i et faktaark fra Normen, helsesektorens egen norm for informasjonssikkerhet og personvern.

Tilbake til Ingrid. Hvem har ansvaret hvis noe blir feil? Helsepersonellet. Loven krever at de jobber faglig forsvarlig, og det gjelder også når de bruker KI. For journalen er det helt tydelig: Helsepersonellet har alltid ansvaret for innholdet, og KI endrer ikke det. Legevakten eller sykehuset har ansvar for å velge egnede verktøy og gi opplæring. Helsedirektoratets KI-vettregler sier det samme kort: Vær kritisk til svarene. Og husk at du har et ansvar når du sender fra deg KI-generert innhold. KI erstatter altså ikke helsepersonell. Det er et verktøy i hendene deres. Blir du selv akutt syk, ring 113. Haster det, men er ikke livstruende, ring legevakten på 116 117.

Kort oppsummert. Én: Norske sykehus bruker KI mest til å analysere bilder, og stadig mer til tale-til-utkast i journalen. To: CE-merket betyr at et medisinsk verktøy oppfyller regelverket, ikke at det aldri tar feil. Tre: Helsepersonellet har ansvaret. KI er et hjelpemiddel, ikke en erstatning. Vil du vite mer, se videoene om personvern og om hvorfor KI kan ta feil. Kildene og hele tekstversjonen finner du på kiavisa.no. Fortellerstemmen er syntetisk.

Kildene til videoen

Dette er en forklaring basert på kildene over, ikke en uavhengig test. Vi bruker KI i manusarbeidet. Diagrammene og animasjonene er laget lokalt for KIavisa. Eksempelet er oppdiktet, og røntgenbildet er tegnet. Illustrasjonsfoto fra Wikimedia Commons: Daniel Novta (CC BY 2.0) og Tomasz Sienicki (offentlig eiendom). Syntetisk norsk tale: Google Gemini – Charon.

5:36 min

Flere videoer: KI og helse

Alle videoer
KI og helse

Kan du spørre en chatbot om helsa?

Faren din har vondt i kneet, og i brevet fra legen står ordet «artrose». Fire steg: hvordan en chatbot kan hjelpe deg å forstå ord og fagbegreper, hvordan den kan hjelpe deg å forberede spørsmål til legetimen, hvor grensen går, og hva du ikke bør skrive inn om deg selv og andre. Skiller mellom hva myndighetene skriver (Helsedirektoratet, Datatilsynet, helsenorge), hva forskningen viser (Oxford-studien i Nature Medicine) og hva selskapene selv sier. Eksempelet er oppdiktet; videoen gir ingen medisinske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.

KI og helse

Helseopplysningene dine og KI

Mona har fått en epikrise fra sykehuset og vil lime den inn i en KI-chatbot. Fire steg: hvorfor helseopplysninger er særlig beskyttet, hva som kan skje med det du skriver i en åpen chatbot (lagring og trening av modellen), innstillinger og gode vaner, og forskjellen på en åpen chatbot og verktøy helsetjenesten har vurdert. Skiller mellom hva myndighetene skriver (Datatilsynet, Helsedirektoratet, Normen, personvernforordningen og helsepersonelloven), hva forskningen viser (Stanford-studien av KI-selskapenes personvernerklæringer) og hva selskapene selv skriver (OpenAI). Eksempelet er oppdiktet og epikrisen tegnet; videoen gir ingen medisinske eller juridiske råd. Akutt og står om liv: ring 113. Legevakt: 116 117.