– Bedre behandlere

Ifølge forskeren fører kunstig intelligens i medisin til at legene blant annet kan bli enda flinkere til å diagnostisere ulike sykdommer.

– Det kunstig intelligens kan gjøre for oss blant annet i hudfaget, er rett og slett å gjenkjenne mønstre bedre på bilder av føflekker eller hudutslett. Den presisjonen vil bli stadig bedre. I dag har vi verktøy både til å ta bilder av utslett, og man kan skanne bilder og bruke KI-algoritmer for å se hva det kan være på samme måte som når man googler. På vanlige utslett er disse verktøyene blitt veldig trent på å stille en diagnose, sier hun.

Men noen ganger kan konsekvenser av å bruke KI bli litt uheldige, noe selv Barua opplevde.

– Vi var en gruppe fra det norske kunstig intelligens-nettverket i helse som reiste til Nederland for å lære av sykehus og startups. En startup vi besøkte, hadde et verktøy som de hadde laget for å skanne for øyesykdommer. Den sjekket for tre typer aldersbetingede sykdommer. Siden jeg var yngst i rommet, tenkte jeg at jeg kunne melde meg frivillig til å prøve verktøyet. Og da viste den utfall på en av sykdommene, nemlig grønn stær. I verste konsekvens kan du bli blind av grønn stær, fordi det fører til et høyt trykk og dermed skade over tid på synsnerven. «Hæ, er jeg i ferd med å bli blind?», tenkte jeg.

Ingen av de som sto bak KI-verktøyet var helsepersonell, så de kunne ikke gi henne noe mer informasjon eller en forklaring.

– De kunne bare si at jeg hadde sykdommen, og det var omtrent det de sa. De kunne ikke gi noe forklaring, og de delte diagnosen med alle som var i rommet. De hadde null forhold til hvordan man håndterer sånne sensitive opplysninger. Jeg hadde jo bare sagt at jeg kunne ta undersøkelsen, ikke at resultatet skulle deles fritt etterpå. Og de klarte heller ikke å forklare meg betydningen av funnet heller, så jeg ble engstelig.

Maskinen misforsto

Barua endte opp med å gå til øyelege, da hun kom hjem til Norge.

– Øyelegen mente at øynene mine var helt fine, men hun så en normaltilstand på det ene øyet mitt, som var en liten hvit avklaring på synsnerven. Det var antagelig den som førte til feilvurderingen av KI-verktøyet. Den så noe som liknet, men som ikke var det samme.

Maskinen hadde med andre ord misforstått og ga Barua en diagnose, men diagnosen var falsk positiv.

– Du tror at du er syk, altså positiv, men det er falsk positiv. Du er ikke syk, men du blir diagnostisert som syk. Jeg spurte øyelegen hvor vanlig normaltilstanden jeg hadde var, og hun sa den var under én prosent. Det er ikke noe rart at KI-verktøyet ikke har fått trent på bilder som viser denne normaltilstanden, når under én prosent av verdensbefolkningen har akkurat dette.

– Kunstig intelligens-verktøyet skulle hatt mer trening?

– Den var trent på en majoritetsbefolkning, så jeg har faktisk opplevd å bli diskriminert av dette verktøyet, fordi den sa at jeg var syk. Jeg var ikke syk, men den tolket min normaltilstand som sykdom, fordi den ikke var trent på akkurat den normaltilstanden. Problemet med falsk positiv er at det gir deg egentlig ganske mye ekte bekymring, og det skal man ikke kimse av. Tenk hvis du hadde fått det med en kreftdiagnose. Du tror at du har kreft, og så er det ikke det. Hvis du bytter ut diagnosen med noe annet mer alvorlig, så skjønner man hvorfor det er viktig å redusere faren for falsk negativ og falsk positiv.

Aksept for risiko

Samtidig understreker KI-forskeren at vi aksepterer risiko i medisin, og det må vi også gjøre med KI-medisin.

– Hvor mye godtar du at legene gjør feil versus hvor mye feil KI-vektøyet gjør? Kunstig intelligens gjør stadig mindre feil innenfor de fleste retninger. Vi aksepterer at menneskeleger gjør feil, fordi det er menneskelig å feile. Mens når AI-verktøyet gjør det, så har vi nulltoleranse.

– Betyr det at vi egentlig aldri kan være helt sikre når vi bruker KI-verktøy?

– Vi har god trening i helsevesenet med å håndtere risiko. Nå må vi bruke det skjønnet også med KI-verktøy. Vi kan bruke dette verktøyet, som tross alt er ganske godt, men det vil ikke bli feilfritt, og det er ikke ment å erstatte oss leger. Det skal være et støtteverktøy, og det er fortsatt vi leger som skal ha kontrollen og er ansvarlige for at riktig diagnose stilles og riktig behandling gis.

– Hudsykdommer kan ses forskjellig ut på hvit og mørk hud. Kan vi risikere at KI ikke får like god trening på hudsykdommer i ulik hudtype og derfor gjør feil?

– Under koronapandemien var det slik at oksygenmålere, såkalte pulsoksymetere, som du tar på for å se hvor mye oksygenmetningen er hos lungepasienter, ikke fungerte godt på fargede mennesker. Den kan rett og slett feil­aktig vise for høyt oksygennivå hos personer med mørkere hudfarge, og resultere i at disse pasientene ikke får livsnødvendig oksygentilskudd. Se for deg da utslett som primært minoriteter har, som er spesifikke for dem eller som ser annerledes ut på mørkere hud. Hva skjer hvis du trener på for dårlige data, at du trener KI-modellen mest på en majoritetsbefolkning som i Norge er folk med hvit hud? Hvordan skal du da oppnå høy treffsikkerhet på minoritetene? Det samme ser vi ved brystkreft, der tettheten i brystvevet er annerledes hos enkelte minoriteter. Vi må ta hensyn til dette, sier Barua.

Usikkert om treffsikkerhet

Løsningen er ifølge forskeren at modellene trenes på godt nok datagrunnlag for at de skal kunne være like treffsikre på alle deler av befolkningen. Men det kan være vanskelig å få til.

– Du kan godt si at vi skal ha en god nok representasjon i treningsgrunnlaget vårt. Men virkeligheten er en annen. I forskning generelt sliter vi med å rekruttere minoriteter og enkelte grupper. Men selv når du har klart å få det til, er det ikke sikkert at det blir treffsikkert nok. Vi klarte å bomme på disse oksygenmålerne, hvordan går det da med utslett som er mer sjeldne?

Barua forteller at selv i dag er KI først og fremst trent på ansiktsgjenkjenning av hvite menn.

– Kvinner og mennesker med mørk hud stiller allerede dårlig. Systemet er slik at vi hvis jeg ber om et bilde av en lege på chat-GPT, så får jeg som oftest et bilde av en hvit mann. Den gjengir det den er trent mest på, så der har vi en jobb å gjøre. Jeg tror hudfaget må være veldig fremoverlent i utviklingen av disse modellene, for jeg tror at det kan være store forskjeller der.

Samtidig mener forskeren at KI kan hjelpe oss til å bli mindre fordomsfulle og forutinntatte.

– Det blir mye større transparens på hva vi bygger en beslutning på eller hva du baserer behandlingsvalg og diagnosekriterier på. Klinikere og leger kan være ubevisst fordomsfulle, og det er helt menneskelig. Vi har lært at vi ikke skal agere på fordommer, men ubevisste fordommer er det per definisjon vanskelig å være klar over. Med KI-verktøyet kan vi gå tilbake til treningsgrunnlaget og kartlegge hvordan en beslutning treffes. Da kan vi for eksempel se at disse minoritetene ikke var med i treningsgrunnlaget og at anbefalingen baserte seg på en majoritetsbefolkning. Så vi kan på sikt bruke det til å avsløre, hvor vi i dag har for lite kunnskap og hvor vi i dag baserer vår terapi på skjeve datagrunnlag. Vi tror at vi har blitt opplært til ikke å være fordomsfulle, men egentlig viser det seg at det statistisk ikke stemmer.

«Hvor mye godtar du at legene gjør feil versus hvor mye feil KI-vektøyet gjør? Kunstig intelligens gjør stadig mindre feil innenfor de fleste retninger»

– Utjevnende effekt

– Innenfor dermatologien hevdes det fra flere hold at vi er i ferd med å få et todelt helsevesen for pasienter med hudsykdommer i Norge. Kan KI hjelpe til å demme opp for denne utviklingen?

– Jeg tror det kan gå i begge retninger. I starten er det kanskje bare de som har råd til private hudleger, som får glede av KI-verktøy. Men på sikt håper jeg at det har en utjevnende effekt, at det rett og slett gjør at forskjellene mellom ulike aktører blir mindre og at det kan hjelpe områder hvor legedekningen er dårligere, der man ikke like raskt får tilgang til hudlege. Kan KI brukes som et verktøy for å redusere noen av disse forskjellene? Kan det være at helsevesenet i Nord-Norge kan ta i bruk verktøy som gjør at de kan kompensere for noen av forskjellene, uten at det går på bekostning av det medisinske?

Pasientens rolle

– Hvilken rolle kan pasienten ha i utviklingen av kunstig intelligens?

– Det er tross alt data hentet med samtykke fra pasienter som er utgangspunktet for forskning og utvikling av KI-modeller. Så pasientene sitter på råvaren til utvikling av KI-modeller. Det betyr at de faktisk har en nøkkelrolle.

– Tenker du at KI også kan være en hjelp til bedre brukermedvirkning?

– Helt klart. Jeg tror at bedre bruker- eller pasientmedvirkning krever at pasienter forstår mer om sin egen helse. Ta for eksempel det som står i legejournaler. De er ofte skrevet på et språk som kan være utilgjengelig fordi de har en vanskelig medisinsk sjargong. Med språkmodeller som ChatGPT kan pasienter få hjelp til å forstå mer av det som står i de medisinske dokumentene. Dette kan igjen lede til at pasienter blir mer informerte om egen helse og mer involverte i beslutningsprosesser som angår sin helse. Slik kan KI bidra til å styrke pasientenes rolle i egen behandling.

– Og hva med kronikere?

– Jeg tror KI-verktøy når de er integrert med smartklokker og helseapper, kan gi kronikere verdifull innsikt i egen helse og muligheten til å få en mer persontilpasset oppfølging. Disse verktøyene kan for eksempel fange opp avvik som indikerer en forverring eller forbedring av tilstanden, og dermed gi helsepersonell muligheten til å gjøre tilpasninger i behandlingen raskere og mer målrettet. Det åpner rett og slett opp for muligheter for tettere samarbeid mellom pasienten og helsepersonell.

 – Demokratiserende effekt

Ifølge Barua kan KI virkelig utgjøre en forskjell i fremtiden.

– I fremtiden kommer det til å være enda større press på helsevesenet vårt. Vi blir enda flere pasienter, og sykdommene våre blir kanskje enda mer komplekse. Hvordan kan vi da møte de utfordringene gitt at vi ikke får flere inn i disse yrkene, fordi det ikke er nok av folk å ta av? Da tror jeg vi må forsøke noe annet og gjøre noen endringer i vår tilnærming til problemet. Ta for eksempel journalskriving, som tar opp mye av vår tid som helsepersonell. Vi må finne en måte der vi kan utnytte KI-verktøy til å lette dette arbeidet, slik at helsepersonell kan bruke sin verdifulle kompetanse og tid på langt viktigere oppgaver.

– Vi må bare finne ut hvordan vi kan bruke KI-verktøy på en god og tygg måte som ikke skader. Jeg pleier ofte å si at i en perfekt verden hadde ikke KI fått innpass i helsevesenet fordi da hadde alt være løst og alle var fornøyde og det var ingen helsekøer. Timingen på KI-verktøyenes fremvekst er god – vi trenger sårt løsninger som hjelper oss med å håndtere ressurs- og kapasitetsproblemene i helse, sier lege, forfatter og KI-forsker Ishita Barua.