Refleksjoner om KI, faglighet og profesjonsansvar

Skrevet av Mette Borgen, pasient, skribent og seniorrådgiver i Arbeidstilsynet. Ingen interessekonflikter oppgitt. 

I sitt innlegg «Er me gode nok?» løfter fysioterapeut Sondre Solberg et nødvendig – og ubehagelig – spørsmål: Om profesjonen i tilstrekkelig grad ivaretar faglig kvalitet, refleksjon og ansvar i møte med pasienter.

Jeg vil bygge videre på denne refleksjonen. Denne gangen fra et pasientperspektiv – men med blikk for både helseprofesjon og systemansvar.

De siste årene har kunstig intelligens (KI) blitt tilgjengelig i mange former: som skrivehjelp, beslutningsstøtte, journalassistent og språklig støtte i klinisk arbeid. Utviklingen går raskt, og mange opplever både effektivisering og avlastning.

Samtidig reiser dette spørsmål som ikke først og fremst er tekniske – men profesjonelle.

Hva skjer når verktøyet får for stor plass i vurderinger, språk og dokumentasjon?

Kunstig intelligens tenker ikke

Den har ingen forståelse, ingen intensjon og ingen etisk dømmekraft. Den produserer språk basert på mønstre i eksisterende data. Det kan være nyttig – men også misvisende, særlig når teksten fremstår presis, helhetlig og faglig korrekt ved første øyekast.

Jeg ba nylig om innsyn i egne journaler fra flere behandlere jeg har vært innom de seneste årene. Det overrasket meg ikke at kvaliteten enkelte steder var komisk lav, mangelfull eller inneholdt pussige formuleringer som fikk meg til å trekke litt på smilebåndet.

Det som derimot overrasket meg, var å lese en journal som inneholdt helseopplysninger som ikke var mine. Der behandler hadde delt helseopplysninger om seg selv i en konsultasjon.

Feilen har oppstått som følge av bruk av KI-verktøy i journalføringen. Verktøy som ikke skiller mellom hvem som sier hva i en samtale – og der output ikke i tilstrekkelig grad er kvalitetssikret før den blir stående som journalførte fakta.

Det er skremmende å oppleve. Journalen er ikke et internt notat. Den er et juridisk dokument.

Når pasientens og behandlerens ytringer sauses sammen i journalen, er det ikke teknologien som svikter. Det er rolleforståelsen – og ansvaret knyttet til bruken av teknologien. 

Det tok ett år å få det bra

Jeg har snakket med andre dyktige behandlere som beskriver hvor krevende det faktisk er å bruke KI forsvarlig. Én forteller at det tok minst seks måneder å bli kjent med hvordan verktøyet fungerte i praksis, og at det i starten tok mer tid enn å skrive selv. Først etter rundt ett år, og med flere sider egendefinerte prompts tilpasset egen stil og faglige profil, opplevdes verktøyet som en reell støtte i klinisk arbeid. Jeg har lignende erfaringer med å bruke språkmodeller til språk i mitt eget arbeid med formidling.

Et viktig poeng gjennom disse samtalene er dette: Den faglige kompetansen på hva som er et godt sluttprodukt var der allerede før KI ble tatt i bruk.

I boken Maskiner som tenker beskriver Inga Strümke kunstig intelligens for det den er: et verktøy uten verdier, uten forståelse og uten langsiktige mål.

Når slike systemer tas i bruk i helseprofesjoner uten tydelige rammer for kontroll, korrigering og ansvar, er det ikke vanskelig å se hvordan kvalitet kan svekkes snarere enn styrkes.

Spørsmålet er derfor ikke om KI skal brukes i fysioterapifaget. Det er vi langt forbi. Det spørsmålet er besvart i praksis.

Spørsmålene er:

• Hvordan brukes det?
• Hvem har ansvaret for kvalitetssikring?
• Og hvordan ivaretas pasientens rettigheter når dokumentasjon automatiseres?

Solberg spør om «vi er gode nok». Jeg vil også spørre «Hvor høy er bevisstheten?» Teknologien vil fortsette å utvikle seg. Og effektivisering er når det gjøres riktig. Men profesjonsansvaret? Det kan ikke outsources til en språkmodell.