Kunstig intelligens – Status fra ECR 2019

Ud fra min generelle interesse i KI og deltagelse ved ECR 2019 vil jeg give mit perspektiv på den nye teknologi.

Før alt andet, er det interessant at vise, hvor i udviklingen eksperterne mener vi befinder os. KI er under rivende udvikling og forventningerne er blevet hypet inden for dette årti. Start-up firmaer verden over har valgt at tage teknologien til sig og begyndt at udvikle den på forskellige modaliteter, eksempler er set inden for mammografien, CT og konventionel røntgen.

Dr. Hugh Harvey, MD, Clinical Director ved Kheiron Medical udtaler at ”AI er ved sin spæde start, men har et stort potentiale i at bruge algoritmer bl.a. inden for flere modaliteter til at forbedre den diagnostiske nøjagtighed, nedbringe MR-optagelsestid og mindske dosis ved CT-optagelser.”

Prof. Bram van Ginneken, Physicist, Professor of Medical Imaging Analysis udtaler at “Der hvor vi er nu, er at vi kan bygge algoritmer, som kan analysere billeder på samme niveau som radiologer.”

Under kongressen har der været adskillige firmaer som har vist potentiale i at tage KI i brug, her findes bl.a. Canon, Sectra og Subtle Imaging. Andre nævneværdige firmaer er Kheiron, Incepto, BioMind og InferVision. Firmaer som ikke var til stede, som stadig er nævneværdige er Qure.ai og Lunit. Adskillige start-ups er begyndt at udvikle teknologien, og en del er spået til at falde fra, da de ikke kan levere, hvad de har lovet. Om de overlever eller ej, så er der stadig andre problemstillinger, som firmaerne skal udenom. Teknologien skal kunne tages i brug, klinisk valideres og kunne passe ind i det kliniske miljø. Dr. Hugh Harvey udtaler: ”KI skal klinisk valideres og kunne implementeres i det kliniske miljø. Det kræver store prospektive studier som er dyre og tager lang tid. Det er for dyrt for de fleste start-ups at kunne udføre studierne.” Derfor vil vi kun se de stærkeste firmaer overleve. Desuden er der blevet stillet spørgsmål til om start-ups firmaerne rent faktisk bruger KI, machine learning og deep learning teknologi? Hvert firma havde lov til at pitche deres produkt i cirka otte minutter, med opfølgende spørgsmål. Adskillige spørgsmål handlede om hvordan teknologien virker? Et entydigt svar lød på “We have the input, then the ’Black box’, followed by the output”. Black box er blevet et nyt buzzword, til at beskrive hvad teknologien gør. Firmaerne er ikke helt klar over hvordan teknologien bruges, men her var det specielt den nyere deep learning teknologi.

Et andet nævneværdigt firma er Nvidia, som sad på et af de større pladser i KI-området. Man kan undre sig over hvad et computerspilsfirma laver ved en radiologikongress, men det er der gode grunde til. Den første gode grund er pga. den store mængde data som skal behandles når man arbejder med KI. Vi kan udtrække adskillige data fra vores billeder, så meget data at en normal computer ikke kan beregne dem eller bruger alt for lang tid. Nvidia har været et dominede grafikkortsfirma på computerspilsmarkedet. Grafikkortet de udvikler kan bruges til at beregne de store mængder data som skal bruges i machine learning og deep learning. Normalt er der ét enkelt grafikkort i en stationær hjemme-computer, men et firma viste deres nye beregningscomputer og havde installeret otte nye high-end Nvidia grafikkort. Et andet område Nvidia bidrager med er ved at ændre på sygehusenes infrastruktur, hvor de ønsker at centralisere computersystemerne. Dette betyder at hver enkelt station, scanner etc. ikke har sin egen beregningscomputer, men at de bliver samlet i ”én stor computer”.

Jonny Hancox, Deep Learning Solution Architect hos Nvidia udtaler: “Vi har en vision ved Nvidia, som er kaldet projekt Clara. Ideén bag er at centralizere miljøet og producere en platform hvor andre kan komme med deres egne innovationer. Brugeren er ikke nødt til at være eksperten, men kan bruge de bedste KI applikationer som findes.”

Da Nvidia er en potentiel vigtig spiller i vores univers, oplever vi nu at de kendte firmaer som f.eks. Canon går fra et mere vertikalt firma til et horizontalt firma. Ved vertikale firmaer udvikler hvert enkelt firma deres egne teknologier, og ved horizontale firmaer har man en flad struktur hvor man kan dele teknologier imellem sig. Nvidia har valgt at indtage vores speciale, og må derfor have spottet en god forretningsmodel – derfor tænker jeg om andre har set samme potentiale og snart følger trop.

Teorien bag teknologien

KI er en gren af computervidenskaben som kan analysere komplekse medicinske data. Teknikken har potentiale til at blive anvendt på næsten alle områder af medicin (https://www.ncbi.nlm.nih.gov/pmc/articles/PMC1964229/). KI er blevet defineret som ’Et felt inden for videnskab og teknik, der beskæftiger sig med den beregningsmæssige forståelse af, hvad der almindeligvis kaldes intelligent opførsel, og med skabelsen af genstande, der udviser sådan adfærd (https://www.amazon.com/Encyclopedia-Artificial-Intelligence-Stuart-Shapiro/dp/0471807486).

Ved at systemet har en beskrivelse af blødningen, kan disse data blive brugt til at lave en struktureret og automateriseret beskrivelse af selve blødningen. En automatisering som radiologen burde omfavne. Når man har en struktureret beskrivelse fra flere undersøgelser er disse bedre sammenlignenlige. Problemet er stadig at vi skal kunne stole på algoritmen, den skal være klinisk valideret og hvad gør vi, hvis den tager fejl.

Etik og dilemmaer

Der er flere etiske dilemmaer ved at implementere og arbejde med KI.

1. Datasæt

For at kunne træne algoritmerne skal producenterne træne deres algoritmer på store datasæt. Dels fordi at algoritmerne skal performe på bedst muligt vis, men også fordi de skal kunne diagnosticere alle tænkelige sygdomme. Et af de nuværende problemer ved kongressen er: Hvordan man skal kunne dele data mellem instituioner, både nationalt men også internationalt. Pga. ’General data protection regulation’ (GDPR) kan institutioner ikke dele patientinformationer, som de vil. Derfor skal der findes en løsning, sådan at patienter er de-identificeret/ anonymiseret samt at der er sikkerhed for at deres data ikke kan findes og identificeres. F.eks. ved MR-scanninger kan det være en del svære at de-identificere billederne. Ved MR-scanninger af hovedet er der mulighed for at man kan rekonstruere ansigtet fra høj-opløsningsbillederne og se ansigtets profil.

Greg Zaharchuk udtaler: “De-identificering af data er meget svært. Det er dyrt og vi har ikke noget gyldigt bevis på en metode til at gøre det. Hvis man tænker på nogle applicationer, f.eks. når man er neuroradiolog har man meget høj-opløselige billeder af hjernen. Hvis man rekonstruerer billederne kan man se ansigtet, og hvordan skal man de-identificere sådan noget? Det er en fundamentel udfordring.”

Det kan derfor være lettere at komme uden om dette problem ved nogle modaliteter. Hvis det viser sig at at de kommer uden om dette problem, er der stadig en trade-off imellem privatisering og fordele for samfundet. Men vi skal respektere, hvad vores patienten gerne vil.

2. Cloud-arkivering eller lokal-arkivering

Et parallelt problem til GDPR er, om institutionerne skal bruge cloud-arkivering eller lokal-arkivering. Dette betyder at hvis undersøgelser og billeder kan blive de-identifiseret kan de ende i skyen, og derfor deles mellem institutioner. En modsat løsning er at beholde sine undersøgelser og billeder lokalt, da man vil beskytte patientens privatisering.

Greg Zaharchuk udtaler: “Rigtig mange KI applikationer passer rigtig godt til cloud-arkivering. Jeg mener, på denne måde kan rigtig mange firmaer vedligeholde deres systemer, frigøre nye opdateringer og fejlfinde. Jeg har oplevet at forskellige steder har forskellige holdninger til dette. Specielt i USA, der er hospitaler som stadig er skræmte for at lade deres data ende oppe i skyen. Jeg synes firmaerne skal kunne tilbyde begge typer.”

Der er fordele og ulemper ved begge veje. Ved cloud-arkivering kan vi dele størst mulige datasæt imellem institutioner. Hvis alle institutioner har adgang til datasættene, vil det være nemmere at kunne træne sine algoritmer. Desuden vil man kunne præcisere algoritmerne bedre, da man har flere data på alle tænkelige sygdomme, her inklusiv meget sjældne sygdomme. Hvis cloud-arkivering skal kunne lade sig gøre, skal man først udenom de-identificeringsproblemet af patienterne. Fordelen ved lokal-arkivering er sådan set det modsatte. Her kan man beskytte privatiseringen af patienterne, men have sværere ved at kunne træne sin algoritmer da man har mindre datasæt.

Jonny Hancox udtaler: “Holdninger til cloud-arkivering varierer imellem lande. Men fra et helt praktisk synspunkt kræver deep learning enorme mængder af data for at kunne blive virkelig robust og det betyder at det ikke er nok kun at bruge de data man har tilgængelig i institutionen.”

En anden løsning kunne være at beholde lokal-arkiveringen, og samtidigt stadig kunne dele vigtige oplysninger om sin algoritme. Ved at træne algoritmerne på lokale data producerer man en model for algoritmen, som kan være favorabel for andre institutioner. I stedet for at dele dataene, deler man derfor modellen.

Jonny Hancox udtaler: “Træningen kan ske på lokale data, men herefter kan man dele modellen udenfor institutionen, en model som kan sammenlignes med andre modeller og den bedste kan findes. Derfor deler man ikke patientens data eller råbilleder, men deler kun modellen.”

3. Klinisk validering og implementering

Hvis det viser sig at algoritmerne kan gøre hvad de skal kunne, er der stadig flere problemstillinger. Jeg oplever at der tages flere og flere billeder, som også skal beskrives. Samtidigt oplever jeg at radiologerne har mere at lave og er mere udbrændte. Hvis det viser sig at algoritmerne er klinisk valide og kan implementeres, er der fordele at hente. Fordelen ved algoritmerne er at det kan være et klinisk supplerende værktøj for radiologen til at styrke beslutningstagningen i diagnosticeringen. Hvis vi skal til at screene for en ny sygdom med CT-scanninger, giver det en del større mængde billeder til beskrivelse. Her kan algoritmener hjælpe med automatisering af detektering af sygdomme, samt at algoritmer kan producere beskrivelser 24 timer i døgnet.

På kongressen var der en vis modstand fra radiologerne, da vi stadigvæk ikke ved hvilken vej det går med algoritmerne. Hvis det viser sig at teknologien kan leve op til forventningerne, vil det kræve en længere implementeringsvej. Hvis teknologien bliver implementeret og kan performe ligeså godt som radiologer, kan man så tillade sig stadig at vise modstand, hvis et værktøj kan optimere den diagnostiske nøjagtighed? Hvis teknologien bliver implementeret, kommer vi alle til at ”Køre en ny bil med KI”, men det er ikke sikkert at vi forstår hvad der er under kølerhjelmen.
Personligt ville jeg ikke være med til at implementere noget, som ikke engang producenten selv kan beskrive endnu. Vi skal kunne stole på teknologien, før vi implementerer den.

Desuden har radiologer vist frygt for at blive outperformet af teknologien. Pt har den stor udvikling, og i nogle sammenhænge har den bevist, at den kan outperforme ligeså godt som en radiolog. Men, jeg synes ikke radiologer skal frygte at miste deres job i denne sammenhæng. I fremtiden vil der ikke være radiologer uden KI, men der vil være radiologer med KI. De radiologer som ikke vil bruge teknologien, vil være sværere stillet end de, der er åbne for den. Grunden til at man ikke kan lade teknologien overtage arbejdet for radiologerne, er som det samme eksempel vi kender fra den førerløse bil. Hvis en førerløs bil med en passager dræber en fodgænger, hvem har så ansvaret for at en person er blevet dræbt? Er det producenten af den førerløse bil eller er det passageren i bilen som burde have reageret? Radiologen skal kunne stole på den kunstige intelligens, og i sidste ende skal det være radiologen, som tager den sidste beslutning og har ansvaret. Derfor skal teknologien kun være et supplerende værktøj, som kan hjælpe og styrke diagnosticeringen i hverdagen.

4. Skal vi frygte KI som radiografer?

KI har kun vist god udnyttelse i patologien og radiologien, men andre områder kan være under udvikling. Hvis man forestiller sig hvad KI er bygget på, er det ”Big Data” – altså indsamling, opbevaring, analyse, processering og fortolkning af enorme mængder af data. Hvis vi som radiografer skal kunne blive påvirket, er det på baggrund af vores håndværk og arbejdsgang. Hvis ”Big Data” kan indsamles på vores måde at arbejde på, hvor meget

vi arbejder, hvor mange ekstra optagelser vi tager osv. Altså, hvis vores workflow i arbejdsdagen bliver omdannet til data, så kan man også vurdere arbejdsgangene ned til det individuelle niveau. Dette vil gå ud over vores privatisering, give anledning til stigmatisering og muligvis konkurrencepræget arbejdsmiljø. Alt dette kan i sidste ende gå udover patienterne.

Konklusion

Jeg tror at i den nære fremtid vil fordelene fra teknologien overskygge de spekulationer vi har nu – derfor bør vi ikke længere have modstand imod teknologien, men derimod begynde at omfavne udviklingen.