AI i Medisin: Regulatoriske utfordringer truer innovasjon i pasientbehandling

Kunstig intelligens (KI) viser et enormt potensial for å transformere klinisk praksis ved å integreres i elektroniske pasientjournaler. Imidlertid møter denne utviklingen betydelige regulatoriske hindringer, da amerikanske myndigheter vurderer å klassifisere KI-verktøy som medisinske enheter.

Utvidelsen av kunstig intelligens (KI) i medisinen lover å revolusjonere klinisk praksis, spesielt gjennom integrasjon i elektroniske pasientjournaler (EPJ). KI-verktøy kan samle og tolke informasjon fra ulike datakilder, som kliniske notater, radiologirapporter og laboratorieresultater, for å gi leger veiledning om diagnoser, differensialdiagnoser og behandlingsanbefalinger. Målet er å assistere legen, som fortsatt vil ha det endelige beslutningsansvaret, og dermed forbedre pasientresultatene.

Imidlertid står denne lovende utviklingen overfor betydelige regulatoriske utfordringer. Den amerikanske mat- og legemiddeladministrasjonen (FDA) har nylig signalert en endring i sin tilnærming. Ifølge tidligere FDA-kommissær Dr. Scott Gottlieb, har FDA i 2022 utstedt ny veiledning som i stor grad omgjør tidligere tolkninger. Denne nye veiledningen stipulerer at KI-verktøy som er integrert i EPJ-systemer, og som samler informasjon fra ulike datastrømmer for å gi tidsriktig eller så omfattende informasjon at legen sannsynligvis vil ta resultatene for god fisk, vil bli klassifisert som medisinske enheter.

Dette står i strid med «21st Century Cures Act» fra 2016, en lov som skapte en kategori for programvare for klinisk beslutningsstøtte. Denne programvaren var ment å gi tolkninger og anbefalinger der legen fortsatt var involvert. Dr. Gottlieb uttrykker bekymring for at FDAs nye veiledning kan kvele innovasjon og hindre den mest verdifulle bruken av KI i medisinen.

En viktig forskjell trekkes mellom KI-verktøy designet for å bistå klinikere og de som brukes av for eksempel forsikringsselskaper for automatiserte beslutninger om avslag på krav. Mens sistnevnte kan ha insentiver som ikke nødvendigvis prioriterer pasientens beste, er KI i EPJ-systemer ment å forbedre klinisk beslutningstaking. Dr. Gottlieb fremhever at selv enkle KI-modeller, som de som ligner ChatGPT, kan generere mer omfattende differensialdiagnoser enn det mange leger ville tenkt på alene.

Forskning støtter behovet for integrasjon. En studie publisert i New England Journal of Medicine for rundt seks uker siden viste at selv om KI-verktøy hadde høy kompetanse, ble de ikke effektivt brukt av leger når de satt utenfor EPJ-systemet. Dette skyldes ineffektivitet, og understreker viktigheten av å integrere KI direkte i de elektroniske pasientjournalene for å maksimere funksjonaliteten.

Per i dag er bruken av KI i legekontorer begrenset. Mange KI-verktøy er ikke HIPAA-kompatible, og leger vegrer seg for å krysse grensen til å inkorporere KI i klinisk beslutningstaking av frykt for at det vil bli regulert som en medisinsk enhet. Dette skaper et dilemma mellom innovasjonens potensial og de regulatoriske rammene som skal sikre pasientsikkerhet.