Det er glatt ute. Ingrid er 70 år. Hun sklir på isen og tar seg for med hånda. Nå har hun vondt i håndleddet, og på legevakten blir det tatt et røntgenbilde. Det hun kanskje ikke vet, er at et dataprogram også kan se på det bildet. Norske sykehus bruker nemlig allerede kunstig intelligens. I en kartlegging fra august telte Helsedirektoratet og helseregionene 68 ulike KI-løsninger som er i bruk eller på vei inn. Flest handler om bildeanalyse og diagnostikk. Etter denne videoen vet du hvor KI faktisk brukes, hva et CE-merke betyr, og hvem som har ansvaret. Ingrid er oppdiktet, og videoen gir ingen medisinske råd. Vi følger Ingrid i fire steg. Først: røntgenbildet. Så: samtalen med legen. Deretter: hva CE-merket betyr. Og til slutt: hvem som har ansvaret.
Mange sykehus bruker et program som heter BoneView. Det leter etter tegn på brudd i røntgenbilder, og gir et forslag til radiologen, legen som tolker bildet. Vestre Viken var først ute i stor skala, i august 2023. I dag er programmet i bruk i tre av fire helseregioner, og det prøves ut i den fjerde. Tenk på programmet som en gul lapp på bildet: «Se her.» Radiologen ser likevel på hele bildet og bestemmer hva som står i svaret. Men lappen kan ta feil begge veier. Den kan slå falsk alarm, og den kan overse noe. Produsenten Gleamer skriver på nettsiden sin at legene overser 30 prosent færre brudd med programmet, og viser til en studie. Det er selskapets egen framstilling av resultatene. Uavhengig forskning pågår også, på et annet område. I AIMS-studien, ledet av Kreftregisteret, skal over 100 000 kvinner få mammografibildene sine vurdert med eller uten et KI-program. Målet er å finne ut om KI og én eller to leger er minst like gode som to leger alene. Svaret er ikke klart ennå.
Så skal Ingrid snakke med legen. Legen forteller at samtalen tas opp med et KI-verktøy, og at hun kan si nei. Dette kalles tale-til-utkast. Verktøyet gjør lyden om til tekst og lager et utkast til journalnotat. Legen leser gjennom, retter og godkjenner. Først da havner teksten i journalen. Opptaket og utkastet skal slettes senest når notatet godkjennes. Kontrollen er viktig. KI får bare med seg det som sies høyt. Den ser ikke at Ingrid grimaserer når hun beveger hånda. Og små ord kan bli feil: «ikke» og «ingen», medisiner og doser, allergier. Helse Sør-Øst inngikk i mai avtaler med fire leverandører av slike verktøy, og de første klinikerne tar dem i bruk i år. Sykehusene håper å spare tid. Men gevinsten er ikke godt dokumentert ennå. Sykehuspartner skriver at erfaringene så langt viser varierende resultater for hvor mye tid som faktisk spares. Og i kartleggingen hadde bare 17 av 36 KI-systemer i drift rapportert om gevinster.
Hva betyr så CE-merket? Programvare, med eller uten KI, er medisinsk utstyr når den har et medisinsk formål, for eksempel å finne brudd. Da må den oppfylle regelverket for medisinsk utstyr, og som hovedregel være CE-merket. Det er produsenten som vurderer hvilken risikoklasse programmet hører til. Risikoklassen avgjør om et uavhengig kontrollorgan, et såkalt meldt organ, må være med og sjekke. Tenk på CE-merket som et førerkort. Det viser at kravene er sjekket før programmet slippes ut. Men et førerkort betyr ikke at sjåføren aldri gjør feil. Også et CE-merket program kan overse noe eller slå falsk alarm. Og ikke alt er avklart. Om de enkleste tale-til-utkast-verktøyene er medisinsk utstyr, er ennå ikke fastslått i EU. Men foreslår et verktøy diagnoser eller behandling, er det medisinsk utstyr, skriver kartleggingen. Vanlige chatboter som ChatGPT skal ikke brukes til pasientopplysninger. Det står i et faktaark fra Normen, helsesektorens egen norm for informasjonssikkerhet og personvern.
Tilbake til Ingrid. Hvem har ansvaret hvis noe blir feil? Helsepersonellet. Loven krever at de jobber faglig forsvarlig, og det gjelder også når de bruker KI. For journalen er det helt tydelig: Helsepersonellet har alltid ansvaret for innholdet, og KI endrer ikke det. Legevakten eller sykehuset har ansvar for å velge egnede verktøy og gi opplæring. Helsedirektoratets KI-vettregler sier det samme kort: Vær kritisk til svarene. Og husk at du har et ansvar når du sender fra deg KI-generert innhold. KI erstatter altså ikke helsepersonell. Det er et verktøy i hendene deres. Blir du selv akutt syk, ring 113. Haster det, men er ikke livstruende, ring legevakten på 116 117.
Kort oppsummert. Én: Norske sykehus bruker KI mest til å analysere bilder, og stadig mer til tale-til-utkast i journalen. To: CE-merket betyr at et medisinsk verktøy oppfyller regelverket, ikke at det aldri tar feil. Tre: Helsepersonellet har ansvaret. KI er et hjelpemiddel, ikke en erstatning. Vil du vite mer, se videoene om personvern og om hvorfor KI kan ta feil. Kildene og hele tekstversjonen finner du på kiavisa.no. Fortellerstemmen er syntetisk.