Kunstig intelligens i sundhedssektoren

Transformering af fremtidens medicin

For bare et par år siden talte vi om potentialet i kunstig intelligens (AI). I dag er det blevet en håndgribelig realitet. I forbindelse med håndteringen af de komplekse globale udfordringer på sundhedsområdet er kunstig intelligens ikke bare et værktøj, men en transformativ kraft, der omformer leveringen af sundhedsydelser.

Fremskridtene inden for AI-teknologi giver hidtil usete muligheder for at revolutionere sundhedsplejen, gøre den mere effektiv, tilgængelig og økonomisk bæredygtig. Ved at fremme integrationen af AI gennem passende politikker kan vi øge ligheden, forbedre plejen og sikre, at nye teknologier, behandlinger og lægemidler gavner samfundet som helhed:

AI kan fremme en effektiv allokering af sundhedsressourcer. Prædiktiv modellering kan forudsige patientindlæggelser og optimere brugen af hospitalssenge, personale og udstyr. Dette sikrer, at der er ressourcer til rådighed, hvor og når der er mest brug for dem, hvilket reducerer spild og forbedrer behandlingskvaliteten.
AI har også potentiale til at tackle nogle af de mest presserende udfordringer inden for sundhedspleje såsom stigende omkostninger, ineffektivitet og efterspørgslen efter sundhedspleje af højere kvalitet.
AI kan reducere omkostningerne og strømline administrative opgaver som planlægning af patientforløb, fakturering og håndtering af elektroniske patientjournaler ved at automatisere og optimere driften. Dette kan frigøre sundhedspersonale til at fokusere mere på patientpleje.
Inden for diagnostik forbedrer AI nøjagtigheden og muliggør tidligere påvisning, hvilket ofte fører til mindre indgribende og mere omkostningseffektive behandlingsmuligheder.
AI-drevne personlige behandlingsplaner kan supplere traditionelle tilgange ved at tilbyde mere målrettet og effektiv pleje, forbedre patientresultaterne og samtidig bidrage til at mindske den økonomiske byrde for sundhedssystemerne.

Praktiske anvendelser af AI i klinisk praksis omfatter:

tidlig påvisning af sepsis: AI-systemer, der anvendes på intensivafdelinger, kan forudsige udbrud af sepsis – en livstruende tilstand – flere timer før de kliniske symptomer viser sig, så der kan gribes ind i tide
AI-drevet påvisning af brystkræft: AI-systemer, der bruges til mammografiscreening, kan identificere tidlige tegn på brystkræft med bemærkelsesværdig nøjagtighed og overgår ofte menneskelige radiologers evner.

AI transformerer lægemiddelsektoren på tværs af hele livscyklussen for lægemidler, fra opdagelse og udvikling af lægemidler til farmakokinetik, evaluering, fremstilling, markedsføring, godkendelse og lægemiddelovervågning.

I forbindelse med opdagelse af lægemidler fremskynder AI processen ved at identificere mål og optimere designet af lægemidler. Under udviklingen forbedrer AI lægemiddelformuleringerne og gør det lettere at udvikle personaliserede lægemidler. Inden for farmakokinetik hjælper AI-drevne forudsigelser med at fastlægge optimal dosering, mens AI i kliniske forsøg hjælper med patientstratificering, digitale tvillinger og forsøgssimuleringer. Produktionen drager fordel af AI gennem automatisering og forbedret kvalitetskontrol.

Desuden strømliner AI lægemiddelgodkendelse og -overvågning ved at muliggøre digitale indsendelser og analysere data fra den virkelige verden for på et tidligt stadie at opdage signaler vedrørende sikkerhed. Disse fremskridt reducerer tid og omkostninger betydeligt ved at strømline forskning, optimere processer og minimere fejl i kliniske forsøg og dermed fremskynde tilvejebringelsen af sikre og effektive lægemidler.

Reformen af EU's lægemiddellovgivning er en vigtig katalysator:

Den lægger op til elektronisk indgivelse af ansøgninger.
Den anvender evidens fra den virkelige verden og sundhedsdata til reguleringsmæssige formål.
Den præciserer sammenhængen mellem medicinsk udstyr og andre produkter.
Den introducerer begrebet om tilpassede rammer og reguleringsmæssige sandkasser.

Disse fremskridt skaber et regulatorisk miljø, der støtter AI-drevne innovationer inden for lægemidler, hvilket muliggør større innovation, effektiv dataintegration, informeret reguleringsmæssig beslutningstagning og effektiv styring af produkters livscyklus. Ud over klinisk praksis er AI drivkraften bag innovationer inden for folkesundhed.

Prædiktive analyser kan identificere mønstre og tendenser, der muliggør tidlige indgreb og forebyggelsesstrategier. AI kan f.eks. forudsige sygdomsudbrud ved at analysere forskellige datasæt og muliggøre rettidige og målrettede folkesundhedsreaktioner, der afbøder spredningen af sygdomme og mindsker deres økonomiske konsekvenser.

I takt med at vi integrerer AI i sundhedssektoren, skal vi holde fokus på det overordnede mål: at udnytte denne transformative teknologi til at levere retfærdig pleje af høj kvalitet til alle. Med de rette politikker og innovationer har AI potentiale til at skabe en sundere og mere bæredygtig fremtid for alle.

Udfordringer ved at integrere AI i sundhedssektoren

Integrationen af AI i sundhedssektoren kommer med sine egne udfordringer. Opnåelse af en vellykket digital omstilling, navnlig med hensyn til at fremme AI, kræver flere kritiske komponenter. Opbygning af tillid til og accept af AI i forbindelse med levering af sundhedsydelser samt håndtering af udfordringer i forbindelse med dens udbredelse i klinisk praksis er også afgørende for at realisere dens fulde potentiale. Disse udfordringer omfatter adgang til sundhedsdata af høj kvalitet, foranstaltninger til fremme af AI-innovation samt sikring af, at AI-systemer, der anvendes inden for medicin, er både sikre og pålidelige.

Desuden er det afgørende for indførelsen af AI at sikre bæredygtig finansiering, navnlig på offentlige hospitaler, og det samme gælder integrationen af AI i kliniske arbejdsgange – ikke blot som et ekstra værktøj, men som led i en omdefineret og mere effektiv plejeproces. Lige så vigtigt er det at etablere en robust ramme, der gør det muligt for ofre effektivt at søge erstatning fra fabrikanter i tilfælde af skader forårsaget af defekte produkter, herunder AI-systemer.

EU-lovgivning, der former AI i sundhedssektoren

Forordningen om kunstig intelligens

Den 1. august 2024 trådte den europæiske forordning om kunstig intelligens (AI-forordningen) i kraft. Forordningen har til formål at fremme ansvarlig udvikling og udbredelse af kunstig intelligens i EU. AI-systemer forbundet med høj risiko, såsom AI-baseret software til medicinske formål, skal opfylde flere krav, herunder systemer til risikoreduktion, datasæt af høj kvalitet, tydelige brugeroplysninger og menneskeligt tilsyn.

Desuden forventer Kommissionen at færdiggøre en adfærdskodeks for udbydere af AI-modeller til almen brug (GPAI) senest i april 2025. Denne kodeks, der skal indføres i henhold til AI-forordningen, vil omhandle kritiske områder som åbenhed, ophavsretsrelaterede regler og risikostyring. Bestemmelserne om GPAI vil finde anvendelse 12 måneder efter AI-forordningens ikrafttræden.

Der er oprettet et europæisk kontor for kunstig intelligens, som er centrum for ekspertise inden for kunstig intelligens i hele EU. Kontoret for kunstig intelligens spiller en central rolle i gennemførelsen af AI-forordningen – navnlig for AI til generelle formål – og fremmer udviklingen og anvendelsen af pålidelig AI samt internationalt samarbejde. Kontoret for kunstig intelligens vil føre tilsyn med gennemførelsen og håndhævelsen af AI-forordningens regler om GPAI.

Forordningen om kunstig intelligens har til formål at give AI-udviklere og -udbredere klare krav og forpligtelser til specifikke AI-applikationer og samtidig arbejde på at minimere de administrative og finansielle byrder, navnlig for små og mellemstore virksomheder (SMV'er).

Forordningen om kunstig intelligens er en del af en bredere pakke af politiske foranstaltninger til støtte for udviklingen af pålidelig AI, herunder pakken om AI-innovation og den koordinerede plan for AI. Tilsammen garanterer disse foranstaltninger menneskers og virksomheders sikkerhed og grundlæggende rettigheder med hensyn til AI. De styrker også udbredelsen, investeringerne og innovationen inden for AI i hele EU.

Forordningen om kunstig intelligens trådte i kraft den 1. august 2024 og vil finde fuld anvendelse to år senere med visse undtagelser: Forbuddene får virkning efter seks måneder, forvaltningsreglerne og forpligtelserne for AI-modeller til generelle formål finder anvendelse efter 12 måneder, og reglerne for AI-systemer – der er indbygget i regulerede produkter – finder anvendelse efter 36 måneder.

For at lette overgangen til den nye lovgivningsmæssige ramme har Kommissionen iværksat AI-pagten. Dette frivillige initiativ har til formål at støtte den fremtidige gennemførelse, og det indeholder en opfordring til AI-udviklere fra Europa og andre steder om på forhånd at overholde de centrale forpligtelser i forordningen om kunstig intelligens.

Forordningen om det europæiske sundhedsdataområde

Udviklingen og udbredelsen af AI inden for medicin kræver adgang til forskelligartede sundhedsdata af høj kvalitet for at sikre nøjagtighed, robusthed og retfærdighed på tværs af forskellige befolkningsgrupper. Det europæiske sundhedsdataområde spiller en afgørende rolle med hensyn til at fremme dette ved at muliggøre sekundær anvendelse af elektroniske sundhedsdata til forskning og innovation.

Ved at muliggøre oplæring, afprøvning og evaluering af algoritmer – herunder algoritmer, der anvendes i medicinsk udstyr, værktøjer til in vitro-diagnostik, AI-drevne støttesystemer til klinisk beslutningstagning og digitale sundhedsapplikationer – vil det europæiske sundhedsdataområde bidrage til at fremme banebrydende AI-løsninger og samtidig sikre overholdelse af databeskyttelsesstandarder og etiske standarder. Denne strukturerede adgang til sundhedsdata vil ikke kun fremme innovation, men også øge patientsikkerheden og ligheden inden for AI-drevet sundhedspleje.

Det europæiske sundhedsdataområde bliver en af grundpillerne i den stærke europæiske sundhedsunion, og det er det første fælles EU-dataområde på et specifikt felt, der udspringer af den europæiske strategi for data. Det europæiske sundhedsdataområde er trådt i kraft i 2025. Det europæiske sundhedsdataområde:

sætter enkeltpersoner i stand til at få kontrol over deres sundhedsdata og lette udvekslingen af data med henblik på levering af sundhedsydelser i hele EU (primær anvendelse af data)
fremmer et ægte indre marked for elektroniske sundhedsdatasystemer
skaber et sammenhængende, troværdigt og effektivt system for videreanvendelse af sundhedsdata til forskning, innovation, politikudformning og lovgivningsmæssige tiltag (sekundær anvendelse af data)

Dermed gør det europæiske sundhedsdataområde det muligt for EU fuldt ud at udnytte det potentiale, der ligger i en sikker udveksling samt anvendelse og videreanvendelse af sundhedsdata til gavn for patienter, forskere, innovatorer og lovgivere.

Tillid er en grundlæggende forudsætning for et vellykket europæisk sundhedsdataområde. Det europæiske sundhedsdataområde giver pålidelige rammer for sikker adgang til og behandling af en lang række sundhedsdata. Det bygger videre på følgende:

Disse rammer fastsætter de regler, der også gælder for sundhedssektoren. Det europæiske sundhedsdataområde vil imidlertid også indeholde sektorspecifikke regler på grund af sundhedsdataenes følsomhed.

Direktivet om produktansvar

Det nye direktiv om produktansvar ajourfører og tilpasser EU's ansvarsregler for nye teknologier, hvilket sikrer bedre beskyttelse af ofre og større retssikkerhed for de erhvervsdrivende.

I medfør af direktivet om produktansvar kan skadelidte kræve erstatning fra fabrikanterne, når de kommer til skade på grund af defekte produkter.

Dette direktiv er baseret på to hovedprincipper:

Fabrikanten skal yde erstatning for den skade, der er forårsaget af et defekt produkt.
Skadelidte skal bevise, at produktet var defekt og forvoldt en skade.

Software såsom operativsystemer, firmware, computerprogrammer, applikationer eller AI-systemer er i stigende grad almindelig på markedet og spiller en stadig vigtigere rolle for produktsikkerheden. I henhold til det nye direktiv om produktansvar er software et produkt, for hvilket der gælder et objektivt ansvar, uanset leverings- eller anvendelsesmåden.

En udvikler eller en producent af software, herunder udbydere af AI-systemer som omhandlet i Europa-Parlamentet og Rådets forordning (EU) 2024/1689 (forordningen om kunstig intelligens), bør behandles som en fabrikant. Ved vurderingen af, om et produkt er defekt, skal alle omstændigheder tages i betragtning, herunder virkningen på produktet af enhver mulighed for fortsat at lære eller tilegne sig nye egenskaber, efter at det er bragt i omsætning eller taget i brug.

Desuden antages produktet at være defekt, når klageren påviser, at produktet ikke opfylder de obligatoriske produktsikkerhedskrav, der er fastsat i EU-retten eller national ret, og som har til formål at beskytte mod risikoen for den skade, som skadelidte har lidt.

AICare@EU (udbredelse af AI i sundhedssektoren)

På trods af betydelige fremskridt inden for forskning i og udvikling af medicinsk udstyr, der anvender AI/maskinlæring, er deres tilstedeværelse på markedet fortsat relativt begrænset, og integrationen af AI i klinisk praksis skrider langsomt frem. Forordningen om kunstig intelligens, det europæiske sundhedsdataområde og direktivet om produktansvar har til formål at fremme forskning i samt udvikling og implementering af AI i sundhedssektoren. Der er dog stadig en række udfordringer, der skal tackles for at sikre en effektiv og virkningsfuld gennemførelse af AI-værktøjer og opskalere den retfærdige og rimelige anvendelse af disse i klinisk praksis.

For at tackle disse udfordringer fremmer Generaldirektoratet for Sundhed og Fødevaresikkerhed flere indbyrdes forbundne initiativer inden for rammerne af AICare@EU. Dette initiativ bygger på det grundlag, som ovennævnte lovgivningsmæssige rammer udgør, og med initiativet fokuseres der på at tackle de vigtigste hindringer for anvendelse af AI i sundhedssektoren, navnlig i klinisk praksis.

AICare@EU omfatter en række koordinerede bestræbelser, herunder:

undersøgelse af anvendelsen af AI i sundhedssektoren: Dette initiativ fra Generaldirektoratet for Sundhed og Fødevaresikkerhed har til formål at undersøge de udfordringer og katalysatorer, der er forbundet med at anvende AI i klinisk praksis. De identificerede udfordringer er inddelt i fire hovedområder: teknologiske og datarelaterede udfordringer, juridiske og lovgivningsmæssige hindringer, organisatoriske og forretningsmæssige hindringer samt sociale og kulturelle faktorer
EU4Health (WP2024) indkaldelse af forslag om at fremme indførelsen af AI på sundhedsområdet: Denne indkaldelse, der udløb i januar 2025, har til formål at fremskynde en sikker og effektiv udbredelse af AI-systemer i kliniske miljøer og bidrage til en bredere integration af AI i sundhedssektoren
organer med ansvar for adgang til AI og sundhedsdata – SHAIPED-projektet (finansieret af DEP): Fra marts 2025 afprøves udviklingen, valideringen og udbredelsen af AI-modeller og -værktøjer ved hjælp af HealthData@EU-infrastrukturen i det europæiske sundhedsdataområde
undersøgelse af centrale prioriteter for AI i overensstemmelse med den nye Kommissions politiske retningslinjer for 2024-2029:
- strategi for anvendelse af AI: strategi til at fremme nye industrielle anvendelser af AI og til at forbedre leveringen af en række offentlige tjenester såsom sundhedspleje. Biotek-initiativet omfatter udvikling af en bioteklov, der undersøger mulighederne for at fremskynde udviklingen og udbredelsen af AI og digitale løsninger i bioteksektoren ved at udnytte sundhedsdata på en sikker og ansvarlig måde under det europæiske sundhedsdataområde
- forebyggelse af hjerte-kar-sygdomme: Der fokuseres på forebyggelse, diagnosticering og behandling af samt rehabilitering efter hjerte-kar-sygdomme som et prioriteret område.
internationalt samarbejde om AI i sundhedssektoren:
- Generaldirektoratet for Sundhed og Fødevaresikkerhed samarbejder med WHO Europe om at støtte udviklingen og indførelsen af AI-løsninger for at forbedre sundhedsresultaterne i hele WHO's europæiske region.
- Generaldirektoratet for Sundhed og Fødevaresikkerhed arbejder tæt sammen med OECD om at fremme opskaleringen af AI i sundhedssektoren med fokus på praktisk gennemførelse og tilpasning af politikker.
- Europa-Kommissionen (Generaldirektoratet for Sundhed og Fødevaresikkerhed) samarbejder med G7- og G20-partnere om forskellige AI-arbejdsforløb i sundhedssektoren.