Ny plan for trygg og effektiv bruk av KI i helse- og omsorgssektoren
– Helsefaglig forsvarlig, etisk og trygg bruk av kunstig intelligens (KI) i helse- og omsorgstjenesten er avgjørende for å sikre tillit til disse løsningene.
Det sa Mariann Hornnes, assisterende helsedirektør i Helsedirektoratet da hun tirsdag 13. august lanserte en felles plan for helse- og omsorgstjeneste for trygg og effektiv innføring av KI. Planen er laget i samarbeid med en rekke aktører, på oppdrag fra Helse- og omsorgsdepartementet (liste over alle involverte lenger nede i saken).
Mariann Hornnes, assisterende helsedirektør lanserte KI-planen i Arendalsuka. Foto: Ingar Sørensen
– Både de som jobber i helse- og omsorgstjenesten, pasienter og pårørende skal være trygge på at løsningene som innføres holder like god som eller bedre kvalitet som de tradisjonelle tjenestene, sier Hornnes.
KI bidrar allerede både i forenkling av administrative oppgaver, for å frigjøre tid for helsepersonell og pasienter og med beslutningsstøtte. Til sammen skal aktivitetene i den felles KI-plan for helse- og omsorgstjenesten bidra til å øke bruken av KI-løsninger som er trygge og bærekraftige.
– Vår rolle som myndigheter er å etablere trygge rammer, som vil hjelpe tjenesten til å levere tjenester på nye måter, understreker Hornnes.
Veiledning og samarbeid viktig for å lykkes
Bruk og utvikling av KI-baserte tjenester skjer svært raskt.
– Når vi har jobbet med en plan for dette, har det vært viktig for oss å velge et format på planen som gir tilstrekkelig fleksibilitet og aktualitet, sier Hornnes.
Noen tiltak er allerede satt i gang og anbefales videreført, andre tiltak bør prioriteres gjennomført fremover.
– Helsedirektoratet har lagt opp en veldig god og involverende prosess, og fått til et godt produkt, mener Rune Simensen, direktør for teknologi og e-helse i Helse Sør Øst RHF. Han deltok i en panelsamtale under lanseringen i Arendal.
Et panel bestående av fra venstre Tristan Rolstad fra KS, Lars-Erik Christophersen fra Mental Helse Ungdom, Rune Simensen fra Helse Sør Øst, Tobias Iveland fra Legeforeningen og Lucie Aunan fra Helsedirektoratet, diskuterte den nye planen for KI i helse- og omsorgssektoren under Arendalsuka. Christophersen ønsker mer involvering fra brukerne, mens de andre gir tommelen opp for at planen vil bidra til trygg og effektiv bruk.
Planen anbefaler også at sektorsamarbeidet om KI fortsetter. Det er etablert et KI-råd som skal gi strategiske råd om innføring av KI. Rådet ledes av Lucie Aunan, divisjonsdirektør for digital transformasjon i Helsedirektoratet.
Det er allerede etablert en tverretatlig informasjonsside om KI med veiledningsmateriale og kunnskapsoppsummeringer. Denne skal opprettholdes og videreutvikles.
Veiledningstjenesten som sektoren kan benytte seg av om regelverk knyttet til utvikling og bruk av KI videreføres. Dette er et tiltak som adresserer en av de store utfordringene i innføringen av KI i den kommunale helse- og omsorgstjenesten, ifølge Tristan Rolstad, fagsjef for digitalisering i KS.
– Det er en stor regelverksusikkerhet der ute, sier Rolstad. Både han og Simensen ønsker seg hjelp til å forstå hva de nye EU-forordningene som er på trappene vil bety.
– Som myndighet følger vi tett med på utviklingen som skjer i EU på reguleringsområdet, sier Hornnes og lover at veiledningstjenesten skal være med å forberede sektoren på den kommende KI-forordningen og European Health Data Space (EHDS).
Tilpasse norske forhold og få på plass valideringsløsninger
– Det er viktig at vi får på plass gode språkmodeller, som er tilpasset norsk språk, fagterminologi, kultur og etikk, og som bygger på normer og praksiser i den norske helse- og omsorgstjenesten, påpeker Hornnes.
Helsedirektoratet har allerede publisert et kunnskapsgrunnlag om store språkmodeller i helse- og omsorgstjenesten. Den felles KI-planen anbefaler at Helsedirektoratet jobber videre med risikovurderinger, og med å tilrettelegge for at bruken av språkmodellene passer til norske forhold.
Før KI kan tas i bruk må teknologien kvalitetssikres, testes og i mange tilfeller godkjennes. Det pågår arbeid med en rapport om hvordan innføring av KI i sektoren bør kvalitetssikres. Ikke minst er det viktig å sjekke ut at KI-systemet virker godt på den norske befolkningen.
Rune Simensen i Helse Sør Øst trekker frem dette som et av de viktigste tiltakene i planen for å få fart på innføringen av KI-løsninger.
– Vi må ha tillit til hverandre i helsetjenesten, og stole på at hvis et helseforetak har testet og validert en KI-løsning, så kan det være godt nok for flere, sier han i panelsamtalen om planen.
For å komme raskt i gang, anbefales det i planen samarbeid med markedet og bruk av kommersielle løsninger. Rune Simensen forteller at det å ta i bruk løsninger utviklet i markedet er Helse Sør Øst strategi for å komme raskt i gang med KI.
Kompetansen om KI må utvikles hos både ledere, helsepersonell, innbyggere og pasienter, ifølge planen.
KI-planen er del av veikartet for nasjonal e-helstrategi. Se alle tiltakene i planen i veikartet.
Brukerinvolvering viktig for tillit
Da KI-planen ble lansert belyste Lars Erik Christophersen fra Mental Helse Ungdom nødvendigheten av å yte helsehjelp på nye måter. Han viser til et økende behov for psykisk helsehjelp blant unge, og trakk frem alarmerende funn fra deres egen rapport «Status Ung 2024».
–Når vi ivrer etter KI, så er det fordi vi ivrer etter at helsesektoren skal få flere ressurser. Selvsagt ønsker vi at det utdannes flere mennesker som kan hjelpe, men også flere verktøy. KI skal være et verktøy bistå i denne utfordringen, sier Christophersen.
Han mener at én måte å løse utfordringene på er med forebygging, og ved å skape lavterskeltilbud.
– Vi vet at KI kan fungere som et godt lavterskeltilbud til folk som sliter, påpeker han.
Christopersen kom også med en klar utfordring til de som utvikler KI-løsninger om å ta brukerne med i utviklingen.
– Unge er åpne for denne type teknologi, men det er viktig utviklinger skjer på unges premisser, sier Christophersen. Han mener det vil bidra til at brukerne har nødvendig tillit til KI-løsningen.
Også Tobias Iveland lege og medlem av sentralstyret og IT-utvalget i Legeforeningen, er opptatt av brukerinvolvering og at KI-løsningene må utvikles i tett samarbeid helsepersonellet, for å bygge tillit.
– Vi må forsikre oss om at systemene som utvikles løser reelle problemer og at de er brukervennlige, sier han og gir den nye KI-planen tommelen opp på spørsmål om den vil bidra til trygg og effektiv innføring av KI. Han er også opptatt av at mye plunder og heft for leger kan løses med enklere teknologi enn KI.
Les planen for trygg og effektiv bruk av KI i helse- og omsorgssektoren
Se opptak av lanseringen og panelsamtalen
Disse har samarbeidet om planen:
Helsedirektoratet
Direktoratet for medisinske produkter
Helsetilsynet
Folkehelseinstituttet
Direktoratet for strålevern og atomberedskap
De regionale helseforetakene
KS
Nettverket for kunstig intelligens i norsk helsetjeneste (KIN)