Symbiotisk intelligens i helsevesenet

    ()

    sporsmal_grey_rgb
    Artikkel

    Menneske og kunstig intelligens blir ikke automatisk bedre enn summen av delene.

    I en tid der kunstig intelligens (KI) revolusjonerer stadig flere felt, er det en forventning om at kombinasjonen av menneskelig ekspertise og maskinell presisjon automatisk vil føre til bedre resultater. Innen medisin, der både etiske og juridiske hensyn krever at menneskelige leger forblir i sentrum, er idéen om symbiotisk intelligens svært tiltalende. Intuitivt forventer vi at menneske og maskin skal gi bedre diagnostikk, færre feil og høyere pasientsikkerhet enn hver for seg. Men forskningen viser at dette ikke skjer av seg selv. Uten riktig design og implementering kan KI-støtte til og med svekke ytelsen, sammenlignet med enten lege eller KI alene.

    Flere grunner

    Flere grunner

    I en nylig metaanalyse ble det undersøkt når kombinasjoner av mennesker og KI er nyttige (1). Etter en systematisk gjennomgang av 106 eksperimentelle studier ble konklusjonen at menneske–KI-systemer i gjennomsnitt yter dårligere enn menneske eller KI alene. Dette gjelder spesielt for oppgaver der KI alene presterer bedre enn mennesker. I de tilfeller hvor mennesker i utgangspunktet presterer bedre enn maskiner, var det derimot mulig å finne synergieffekter.

    Det kan være flere grunner til at kombinasjonen av menneske og KI ikke alltid gir bedre resultater. Leger kan enten stole for mye på KI og overse åpenbare feil, eller stole for lite og dermed ignorere nyttige forslag. KI-verktøy som ikke er naturlig integrert i klinisk praksis, kan skape mer friksjon og distraksjon enn støtte. KI er ofte er bedre enn mennesker på rutinepregede og strukturerte oppgaver, som bildegjenkjenning og systematisk kategorisering, mens mennesker er bedre på kontekstuell vurdering og kommunikasjon. Når menneske og maskin prøver å overgå hverandre, kan det oppstå konflikt i stedet for samarbeid. Da blir resultatet at de sammen presterer dårligere enn for eksempel KI alene.

    Leger kan enten stole for mye på KI og overse åpenbare feil, eller stole for lite og dermed ignorere nyttige forslag

    Synergier er ikke en selvfølge (1). Det krever at KI og mennesker får tydelige, komplementære roller og at verktøyene er tilpasset den kliniske hverdagen.

    En annen studie viser at synergi er mulig (2). Et nettverk av klinikker i primærhelsetjenesten i Nairobi brukte et beslutningsstøtteverktøy som fungerte som et «sikkerhetsnett» for legene. Verktøyet identifiserer mulige dokumentasjonsfeil og kliniske beslutningsfeil, men aktiveres kun når det er nødvendig. Det skal derfor ikke hindre legen i å bruke sin erfaring.

    Resultatene er lovende. Det var 16 % færre diagnostiske feil og 13 % færre behandlingsfeil hos legene som brukte verktøyet, sammenlignet med de som ikke hadde tilgang. I absolutte tall kunne verktøyet ha forhindret diagnostiske feil i 22 000 konsultasjoner og behandlingsfeil i 29 000 konsultasjoner årlig, bare i disse klinikkene. Alle legene rapporterte at verktøyet forbedret kvaliteten på omsorgen, og 75 % beskrev effekten som «betydelig».

    Denne studien var annerledes fordi man vurderte KI under ekte, dynamiske og kliniske forhold. I tillegg var ikke verktøyet et «ekstra lag», men en naturlig del av den elektroniske pasientjournalen. Verktøyet kom med forslag til legen, som alltid hadde det endelige ansvaret. Dårlig brukeropplevelse ble også løpende korrigert av programmererne.

    Hva kreves for å lykkes?

    Hva kreves for å lykkes?

    For å lykkes må man sørge for riktig oppgavedeling, der KI og leger brukes til det de er best på. For KI er dette rutineanalyser, mønstergjenkjenning og datainnsamling, og for leger er det kontekstuell vurdering, pasientkommunikasjon og etiske avveininger. For eksempel kan KI analysere histologibilder i kreftutredning og foreslå differensialdiagnoser, mens legen best vurderer pasientens historie, symptomer og preferanser.

    Programvaren må være naturlig integrert i arbeidsflyten. KI-verktøy må være usynlige når de ikke trengs, og tilgjengelige når det er behov for det. De bør ikke avbryte legen med advarsler, med mindre disse har direkte relevans for det vedkommende holder på med i øyeblikket.

    KI-verktøy må være usynlige når de ikke trengs, og tilgjengelige når det er behov for det

    I forbindelse med oppgaver som best ivaretas av mennesker, bør deres autonomi bevares. KI bør støtte den kliniske dømmekraften, og leger må kunne overstyre forslag fra KI. Det er også viktig at legen har en forståelse for hvordan systemet fungerer og hvorfor det gir et bestemt forslag. Det kan bidra til å redusere automatiseringsbias.

    KI-systemene må lære av legenes tilbakemeldinger og tilpasse seg lokale forhold. Det må være en løpende vurdering både av hvordan teknologien brukes og hvilken effekt den har. Man kan til og med argumentere for at vi trenger kliniske informatikere, på lik linje med dagens kliniske farmakologer (3).

    Leger trenger løpende opplæring i kritisk bruk av KI. I Nairobi løste de dette ved å ha eksperter med god kompetanse på KI-verktøyet som lærte opp egne kolleger (2).

    Tidseffektivisering brukes ofte som argument for implementering av KI-støtte. I Kenya brukte KI-gruppen lenger tid på sine konsultasjoner (2), men gjorde samtidig færre feil. Fokuset bør ikke være på å gjøre konsultasjoner raskere, men sikrere og mer presise. Da kan man kanskje spare ressurser senere i pasientforløpet.

    Suksess avhenger av mer enn teknologi. Vi trenger dedikerte roller (for eksempel KI-koordinatorer) som kan vurdere hvilke verktøy som passer til hvilke oppgaver, og hvordan de bør implementeres. Det har hittil også vært for få kvantitative studier som vurderer praktisk implementering av KI i ulike helsesystemer.

    Symbiotisk intelligens er mulig

    Symbiotisk intelligens er mulig

    Symbiotisk intelligens i helsevesenet krever bevisst design, god integrasjon og kontinuerlig evaluering. KI alene vil ikke revolusjonere medisin, og leger alene kan ikke utnytte KIs fulle potensial. Vi må investere i undervisning av fremtidens leger og invitere til refleksjon rundt den symbiotiske fremtiden. Alle leger må lære å vurdere når og hvordan KI kan brukes, og når de bør stole på sin egen dømmekraft.

    Kommentarer  ( 2 )
    PDF
    Skriv ut
    Kommenter artikkel

    Anbefalte artikler