Et verktøy som svarer på doseringsspørsmål, et som leser EKG-et ditt, og et som skriver ned det som ble sagt. Alle tre kalles KI. Bare ett av dem er det du bruker når du dokumenterer.

Du har sikkert lagt merke til det selv: «KI i helsevesenet» har blitt en sekkebetegnelse. På samme uke kan du lese om et verktøy som foreslår behandling, et som oppdager sykdom på et bilde, og et som skriver utkast til journalnotat – og alt sammen presenteres som den samme teknologien, med de samme mulighetene og de samme risikoene.

Det er et problem. Ikke fordi det er unøyaktig språkbruk, men fordi det gjør det vanskeligere for deg å vurdere hva du faktisk har med å gjøre når et nytt verktøy dukker opp på klinikken. Kravene er forskjellige. Ansvaret er forskjellig. Og risikoen er ganske ulikt fordelt.

Advarselen som gjorde forskjellen tydelig

Administrerende direktør i Felleskatalogen, Bente Cecilie By Jansen, skrev tidligere i år et innlegg i Dagens Medisin som er verdt å lese for alle som jobber klinisk. Temaet er medisinske «kunnskapschatter» – KI-løsninger som ligner ChatGPT, men som er avgrenset til medisinske spørsmål og bygger på utvalgte fagkilder.

Poenget hennes er kontraintuitivt: selv når modellen får tilgang til pålitelige fagkilder, kan svarene bli dårligere. Årsaken de peker på er at strukturen i kildene forsvinner underveis. Felleskatalogtekstene er bygget opp med tabeller, overskrifter og seksjoner som gir innholdet presis mening – hvilken dose som gjelder hvilken indikasjon, hvilken pasientgruppe, hvilken alder. Når teksten splittes opp i mindre biter før den sendes til språkmodellen, mister modellen den oversikten.

Resultatet de beskriver fra egen testing er alvorlig: doseringer som blandes sammen på tvers av indikasjoner, og doseanbefalinger gitt for feil pasientgruppe. De har også sett at slike verktøy utfører doseberegninger – og dermed i praksis fungerer som medisinske kalkulatorer, uten å være regulert eller godkjent for det formålet.

Bekymringen hennes er ikke først og fremst at modellen tar feil. Det er at henvisningen til troverdige kilder skaper falsk trygghet, slik at man antar at svaret er riktig fordi det står en anerkjent kilde nederst.

Tre kategorier som blandes sammen

Innlegget gjør noe nyttig: det viser hvor forskjellige ting vi snakker om når vi sier KI. Grovt sagt finnes det tre kategorier i klinisk hverdag.

Kunnskapschat. Du stiller et faglig spørsmål og får et svar. Verktøyet henter fra fagkilder og formulerer et resonnement. Dette er kategorien Felleskatalogen advarer mot i sin nåværende form – ikke fordi teknologien er verdiløs, men fordi feilene er vanskelige å oppdage og konsekvensene kan bli store.

Klinisk beslutningsstøtte. Verktøyet analyserer kliniske data og peker på noe: et funn på et bilde, et mønster i et EKG, en risiko i et sett prøvesvar. På Akershus universitetssykehus har en doktorgradsstudent utviklet og testet en modell på data fra over 200 000 pasienter, som leser vanlige EKG-er for å fange opp hjertesvikt tidligere. Dette er ekte klinisk KI, og den er – med rette – strengt regulert.

Dokumentasjonsstøtte. Verktøyet gjør om det som faktisk ble sagt i konsultasjonen til et utkast til journalnotat. Det vurderer ingenting klinisk. Det foreslår ingen behandling, beregner ingen doser og stiller ingen diagnoser. Det ordner det som allerede finnes, slik at du slipper å skrive det ned to ganger.

Forskjellen mellom den første og den tredje kategorien er ikke gradsforskjell. Det er artsforskjell. En kunnskapschat påstår noe om medisin. Et dokumentasjonsverktøy gjengir noe som ble sagt. Når det siste tar feil, ser du det umiddelbart i utkastet du leser gjennom, fordi du var til stede i samtalen. Når det første tar feil, har du ingen slik referanse.

Hva regelverket faktisk krever

Her er det verdt å være presis, for de tre kategoriene møter ulike krav.

Et KI-verktøy can være medisinsk utstyr. Helsedirektoratets tverretatlige veiledningstjeneste er tydelig på at dette må vurderes konkret av produsenten for hvert enkelt verktøy, og at avgjørende er om verktøyet brukes på mennesker for et medisinsk formål. Er svaret ja, kreves CE-merking før verktøyet tas i bruk, og Direktoratet for medisinske produkter har egne veiledere for programvare som medisinsk utstyr. Et verktøy som beregner doser eller foreslår diagnoser er åpenbart i denne kategorien. Et verktøy som skriver ned det som ble sagt, er det i utgangspunktet ikke – men vurderingen skal likevel gjøres, ikke antas.

For dokumentasjonsstøtte spesielt har Normen, helsesektorens egen bransjenorm for informasjonssikkerhet og personvern, publisert et faktaark om trygg bruk av KI i dokumentasjon av helsehjelp. Rådene er konkrete: bruk verktøy som er laget for dokumentasjon av helsehjelp, ikke åpne generelle KI-tjenester. Vi har skrevet mer utfyllende om faktaarket her.

Veiledningstjenesten har også avklart to spørsmål mange lurer på. Det rettslige grunnlaget for å behandle opplysningene er dokumentasjonsplikten etter helsepersonelloven §§ 39 og 40 – ikke samtykke. Og lydopptaket og råtranskripsjonen må slettes når journalnotatet er kvalitetssikret og ferdigstilt; de kan ikke brukes til å trene modellen videre uten et eget behandlingsgrunnlag. Det siste er en grunn til å spørre enhver leverandør konkret hva som skjer med lyden etterpå. Vi har forklart hvordan pseudonymisering fungerer i praksis i en egen artikkel.

Der Medivox hører hjemme

La oss være helt tydelige, siden temaet inviterer til det: Medivox er dokumentasjonsstøtte.

Medivox transkriberer det som blir sagt i konsultasjonen og lager et utkast til journalnotat i den malen du selv har bygget. Verktøyet gir ikke kliniske råd, beregner ikke doser, foreslår ikke behandling og har ingen beslutningsstøtte. Det er ikke en beskjedenhetserklæring – det er en beskrivelse av hva produktet er laget for å gjøre, og av hvor grensen går.

Ansvarslinjen følger av det. Helsedirektør Cathrine M. Lofthus formulerte det slik da faktaarket ble lansert: helsepersonell har ansvaret for innholdet i journalen og må sikre at KI-generert tekst er korrekt før den lagres. Det er ikke en ansvarsfraskrivelse fra vår side. Det er hele måten verktøyet er ment å virke på: du leser utkastet, retter det som må rettes, og godkjenner. Utkastet er et utkast helt til du har sett på det.

Og nettopp derfor er risikobildet et annet enn for kunnskapschatten. Du satt i rommet. Du vet hva som ble sagt. Kontrollen din er reell, ikke teoretisk.

Spørsmålet du bør stille

Neste gang noen presenterer et KI-verktøy for klinikken din, er det ett spørsmål som skiller kategoriene fra hverandre raskere enn noe annet:

Påstår dette verktøyet noe om medisin – eller gjengir det noe som allerede finnes?

Svarer leverandøren på det første, skal du be om CE-merking, dokumentert validering og en beskrivelse av hva verktøyet ikke skal brukes til. Svarer de på det andre, skal du fortsatt spørre om hvor dataene behandles, hva som står i databehandleravtalen, og hva som skjer med lydfilen – men du står overfor en annen slags risiko, og du kan vurdere den selv, hver eneste gang du leser gjennom et utkast.

Det er en enklere samtale enn den debatten om «KI i helsevesenet» ofte blir. Og den er langt mer nyttig.

Frequently Asked Questions

Er KI-verktøy for journalføring lov å bruke i Norge?
Ja. Helsedirektoratet har avklart at det rettslige grunnlaget er dokumentasjonsplikten etter helsepersonelloven §§ 39 og 40. Kravene til personvern, informasjonssikkerhet og kvalitetssikring gjelder som ellers, og Normens faktaark om tale-til-utkast beskriver hva som forventes.

Må jeg innhente samtykke fra pasienten for å bruke tale-til-utkast?
Helsedirektoratets vurdering er at samtykket til helsehjelp også omfatter bruk av KI-verktøy, på samme måte som annen teknologi, slik at det ikke kreves et særskilt samtykke. De anbefaler likevel å informere pasientene, for eksempel med oppslag på venterommet – særlig i en innføringsfase.

Er Medivox klinisk beslutningsstøtte?
Nei. Medivox dokumenterer det som blir sagt i konsultasjonen og lager et utkast til journalnotat. Verktøyet gir ingen kliniske vurderinger, foreslår ingen behandling og beregner ingen doser.

Hvordan vet jeg om et KI-verktøy er medisinsk utstyr?
Det må vurderes konkret av produsenten, ut fra om verktøyet brukes på mennesker for et medisinsk formål. Er det medisinsk utstyr, skal det være CE-merket før det tas i bruk. Direktoratet for medisinske produkter har veiledere for programvare som medisinsk utstyr.

Fungerer dette for andre faggrupper enn leger?
Ja. Skillet mellom dokumentasjonsstøtte og beslutningsstøtte er det samme uansett profesjon, og dokumentasjonsplikten gjelder alt helsepersonell – fra tannpleiere og fysioterapeuter til psykologer og sykepleiere.

Use Medivox for free – Get started completely free

Lurer du på hvilken kategori et verktøy du vurderer hører hjemme i? Contact us – vi svarer gjerne på hva Medivox gjør, og like gjerne på hva det ikke gjør.

Sources: