Etiske vurderinger

Etiske vurderinger ved forskning 

Ved planlegging og gjennomføring av forskningsprosjekter skal det gjøres grundige vurderinger av etiske spørsmål, herunder vurderinger av om nytteverdien av forskningen er større enn ulempene for deltakere.  

Regionale komiteer for medisinsk og helsefaglig forskningsetikk vurderer søknader hjemlet i forskningsetikkloven og helseforskningsloven. Prosjekter som er i kategorien medisinsk og helsefaglig forskning skal sende søknad til Regional etisk komité (REK) om forhåndsgodkjenning av forskning på mennesker, humant biologisk materiale eller helseopplysninger. 

Etiske prinsipper for kunstig intelligens 

På området for kunstig intelligens er det fra flere hold (særlig EU, Verdens helseorganisasjon og i Norges nasjonale KI-strategi) utviklet et sett med etiske prinsipper som det skal tas hensyn til ved utvikling og implementering. Basert på disse er det utformet etiske prinsipper som er anbefalt gjeldende for KI-prosjekter i Helse Nord. Disse er redegjort for i Helse Nords strategi for kunstig intelligens 2022-2025. 

Mange av prinsippene ligger til grunn for EUs kommende lovgivning for KI, slik at prinsippene i stor grad kan bli rettslig bindende i fremtiden. Under følger en oppsummering av de etiske prinsippene slik de er omtalt i Helse Nords KI-strategi:  

Utvikling og bruk av KI skal organiseres på en måte som sikrer tydelige ansvarsforhold. Det skal legges til rette for internkontroll og eksternt tilsyn i alle faser av utviklingen. Dette innebærer at innsyn i algoritmer, datagrunnlag og design/utviklingsprosedyrer må ivaretas i hele utviklings- og livssyklusen til et KI-system. Alle prosjekter skal være fundert på forholdsmessige risiko- og konsekvensanalyser. Slike analyser omfatter forhold som pasientsikkerhet, etikk, informasjonssikkerhet og personvern. 

Bruk av KI i klinisk virksomhet skal være i tråd med faglig forsvarlighet. Arbeidsprosesser som involverer KI skal dokumenteres. Virksomheter som tar i bruk KI må sørge for at de ansatte kan bruke systemene på forsvarlig måte. Dette omfatter blant annet ansvar for opplæring, etablering av rutiner for forsvarlig bruk og løpende overvåkning og kvalitetssikring av bruken av KI. I tillegg må det enkelte helsepersonell være bevisst sitt selvstendige ansvar for forsvarlig yrkesutøvelse, jf. helsepersonelloven § 4. Forsvarlighetsplikten kan tilsi varsomhet med vektlegging av anbefalinger fra KIsystemer, særlig i en tidlig implementeringsfase. 

 

KI-systemer skal leve opp til høye standarder for nøyaktighet og stabilitet over tid. Dette er avgjørende for å unngå at systemene fører til utilsiktede feil og ulemper for pasienter og helsepersonell. Pålitelighet innebærer også at arbeidsprosesser der KI tas i bruk må tilpasses slik at konsekvensene av nedetid eller feil på systemene minimeres. Innføring av KI skal ha som mål å øke kvaliteten på tjenestene til det beste for pasientene. 

 

Utvikling og bruk av KI skal skje på en åpen og gjennomsiktig måte. Gjennomsiktighet innebærer blant annet åpenhet om innholdet i treningsdata og hvor datagrunnlaget kommer fra, åpenhet om systemets logikk, og åpenhet om at KI benyttes og til hvilke formål. Ved utvikling av KI skal tolkbare algoritmer og systemer etterstrebes så langt det er gjennomførbart ut fra teknologiens og vitenskapens stand til enhver tid («state of the art»). Tolkbarhet innebærer at det så langt som mulig bør gis en begrunnelse for systemets konklusjoner og anbefalinger. Som et minimum må begrunnelsen være forståelig for helsepersonell og andre som skal bruke systemet. 

 

Innføring av KI i klinisk virksomhet skal ikke gå på bekostning av pasienters rett til selvbestemmelse og medvirkning. KI skal heller ikke gå ut over helsepersonells profesjonelle autonomi. Pasienten har rett til meningsfull informasjon om egen helsetilstand og helsehjelpens innhold. 

Arbeidsprosesser som involverer bruk av KI skal legge til rette for menneskelig kontroll. Informasjon eller anbefalinger fra KI-systemer som gir støtte til beslutninger skal normalt være gjenstand for en reell faglig vurdering fra kvalifisert helsepersonell før beslutninger treffes. Systemene må utformes med brukergrensesnitt som gjør det mulig for brukere å føre kontroll med systemene når de er i bruk. KI-systemer må kunne overstyres av brukere ved behov. 

 

Ved utvikling og bruk av KI skal det legges vekt på å motvirke marginalisering av sårbare grupper i samfunnet, herunder ulike minoritetsgrupper. Risiko for at kvaliteten på helsehjelp ved bruk av KI kan variere ut fra gruppetilhørighet, bør vurderes. Vurderingen bør dokumenteres og følges opp med forebyggende tiltak. 

Ved bruk av maskinlæring til trening av algoritmer, bør et mangfoldig datagrunnlag etterstrebes. Det må tas hensyn til befolkningssammensetningen i områder der et KI-system skal tas i bruk. Samtidig må det tas hensyn til at et datasett som samsvarer med representasjonen av ulike grupper i en befolkning ikke alltid er tilstrekkelig for å oppnå KI-systemer som fungerer godt for de ulike gruppene. Minoriteter i en befolkning vil som regel være minoriteter i datasett som brukes til trening av algoritmer. Derfor bør det vurderes tiltak for å sikre kvaliteten på KI-baserte tjenester til minoritetsgrupper. Dersom KI-systemer har ulik nøyaktighet for ulike grupper, bør dette dokumenteres og opplyses om i dokumentasjonen som medfølger systemet, samt i brukermanualen. 

Helse Nord har et særlig ansvar for den samiske befolkningen i Nord-Norge. Utvikling og bruk av KI i Helse Nord skal ta hensyn til særlige forhold som gjør seg gjeldende for den samiske befolkningen. 

 

Oppbevaring og bruk av store datamengder, og trening av algoritmer, innebærer til dels betydelig energiforbruk som kan ha innvirkning på klimaet på planeten og fremtidige generasjoners velferd. Konsekvensene for klimaet og fremtidige generasjoner skal tillegges vekt ved avgjørelser om prioritering av KI-prosjekter i Helse Nord og ved gjennomføringen av prosjektene. Dette innebærer for eksempel at utslippsnøytrale energikilder og andre klimavennlige løsninger bør velges der slike løsninger er tilgjengelig. 

 

​ 


Sist oppdatert 09.05.2023