Promotie Luca Mira Heising

Trefwoorden: Verklaarbare kunstmatige intelligentie, Implementatiekloof, Implementatie van AI, Radiotherapie

"From Black Box to White Coat: Bridging the Ai Implementation Gap"

Kunstmatige intelligentie (AI) speelt een steeds grotere rol in de gezondheidszorg, mede door personeelstekorten en een stijgende zorgvraag. Hoewel voor vrijwel elke stap in de radiotherapie-workflow AI-oplossingen bestaan, blijft implementatie in de praktijk uitdagend. Deze thesis onderzoekt de kloof tussen AI-ontwikkeling en daadwerkelijke toepassing, met de vraag wat nodig is voor een zorgvuldige en veilige AI implementatie in de radiotherapie. Een belangrijke barrière is het ‘black box’-karakter van AI: door het zelflerende vermogen is vaak onduidelijk waarom een model tot een bepaalde uitkomst komt. Daarom krijgt explainable AI (XAI) binnen de wetenschap veel aandacht. XAI methoden maken AI uitkomsten inzichtelijk, bijvoorbeeld via visualisaties zoals heatmaps. Hoewel veelbelovend, brengen deze methoden ook risico’s met zich mee. Heatmaps kunnen lastig te interpreteren zijn en cognitieve bias veroorzaken, waardoor zorgverleners mogelijk verkeerde conclusies trekken, een ongewenst effect in een risicovolle context als de gezondheidszorg. Een alternatieve en veelbelovende methode is het gebruik van counterfactual explanations, waarbij AI uitkomsten worden toegelicht aan de hand van ‘wat-als’-scenario’s. In deze thesis is dit onderzocht door bij een detectiemodel de tumorgrootte systematisch te variëren en te analyseren wanneer de modeluitkomst verandert. De thesis concludeert dat de huidige XAI methode niet volstaan aan veleigheidseisen binnen radiotherapie, toch kan het een uitkomst bieden en is er meer onderzoek nodig om black box AI methoden inzichtelijker te maken.

Klik hier voor de livestream.