WHOs veiledning om kunstig intelligens for å forbedre helsetjenester, reduserer risikoen over hele verden – globale problemer

“Som all ny teknologi, kan kunstig intelligens … også misbrukes og forårsake skade”, varmet opp Tedros Adhanom Ghebreyesus, generaldirektør for Verdens helseorganisasjon (WHO).

For å regulere og styre AI publiserte WHO ny veiledning som gir seks prinsipper for å begrense risikoen og maksimere mulighetene som er innebygd for AI for helse.

Styrende AI

HVEMEtikk og styring av kunstig intelligens for helse rapporten påpeker at AI kan være, og i noen velstående land allerede blir brukt, for å forbedre hastigheten og nøyaktigheten av diagnose og screening for sykdommer; bistå med klinisk behandling; styrke helseforskning og medisinutvikling; og støtte ulike folkehelseintervensjoner, inkludert utbruddsrespons og helsesystemadministrasjon.

AI kan også gi pasienter muligheten til å ta større kontroll over sin egen helsevesen og gjøre det mulig for ressurssvakere land å bygge bro over helsetjenester.

Rapporten advarer imidlertid mot å overvurdere fordelene for helsen, spesielt på bekostning av kjerneinvesteringer og strategier som kreves for å oppnå universell helsedekning.

Utfordringene holder seg

WHOs nye rapport peker på at muligheter og risikoer er knyttet sammen og advarer om uetisk innsamling og bruk av helsedata, skjevheter kodet i algoritmer og risiko for pasientsikkerhet, cybersikkerhet og miljø.

Videre advarer den om at systemer som primært trent på data samlet inn fra enkeltpersoner i høyinntektsland, ikke kan fungere bra for enkeltpersoner i lav- og mellominntektsinnstillinger.

På denne bakgrunn fastholder WHO at AI-systemer må utformes nøye for å gjenspeile mangfoldet av sosioøkonomiske miljøer og helsevesen, og ledsages av opplæring i digitale ferdigheter og engasjement i samfunnet.

Dette er spesielt viktig for helsepersonell som trenger digital kompetanse eller omskolering for å kjempe med maskiner som kan utfordre beslutningstakere og autonomi hos leverandører og pasienter.

Veiledende prinsipper

Fordi folk må beholde kontrollen over helsevesenet og medisinske beslutninger, er det første veiledende prinsippet å beskytte menneskets autonomi.

For det andre bør AI-designere beskytte personvern og konfidensialitet ved å gi pasienter gyldig informert samtykke gjennom passende juridiske rammer.

For å fremme menneskelig velvære og offentlig interesse krever det tredje prinsippet at AI-designere skal sikre myndighetskrav til sikkerhet, nøyaktighet og effektivitet, inkludert tiltak for kvalitetskontroll.

Som en del av gjennomsiktighet og forståelse krever det fjerde prinsippet at informasjon skal publiseres eller dokumenteres før AI-teknologien utformes eller distribueres.

Selv om AI-teknologier utfører spesifikke oppgaver, må de brukes på en ansvarlig måte, under passende forhold av passende opplærte mennesker, som er det fjerde prinsippet.

Den femte er å sikre inkludering og rettferdighet slik at AI for helse er tilgjengelig for flest mulig mennesker, uavhengig av alder, kjønn, etnisitet eller andre egenskaper som er beskyttet under menneskerettighetskoder.

Det endelige prinsippet oppfordrer designere, utviklere og brukere til å vurdere applikasjoner på en gjennomsiktig måte under faktisk bruk for å avgjøre om AI reagerer tilstrekkelig og hensiktsmessig på forventninger og krav.