Nieuwe TRIPOD+AI-richtlijn voor gebruik van betrouwbare AI in de zorg
Utrecht, 16 april - De snelle toename in het gebruik van kunstmatige intelligentie (AI) in de gezondheidszorg, heeft geleid tot een update van de internationale TRIPOD-richtlijn voor het rapporteren van medische beslissingsondersteuning en voorspellingsmodellen. Een groot consortium van internationale onderzoekers, onder leiding van het UMC Utrecht en de Universiteit van Oxford, heeft de TRIPOD+AI-richtlijn ontwikkeld. De nieuwe richtlijn die zich geheel richt op AI-algoritmen in de zorg, wordt vandaag gelanceerd in de British Medical Journal.
Met de razendsnelle ontwikkelingen in AI (artificial intelligence) was een breed gedragen internationale TRIPOD+AI-richtlijn noodzakelijk om kaders en standaarden voor AI-voorspellingsmodellen en AI-beslissingsondersteuning in de zorgsector te borgen. De ontwikkeling van de nieuwe richtlijn gebeurde na veel voorbereidend onderzoek dat consistent slechte en niet-transparante rapportage van AI-modellen in de zorg blootlegde. De TRIPOD+AI-richtlijn bestaat uit een 27-items checklist en vervangt de originele TRIPOD-richtlijn uit 2015. Deze TRIPOD+AI checklist is ontworpen om de kwaliteit, veiligheid, rechtvaardigheid en effectiviteit van voorspel- en beslissingsondersteuningsmodellen in de geneeskunde te waarborgen en te beoordelen.
Enorm potentieel voor AI in gezondheidszorg
Professor Carl Moons, hoofdonderzoeker van het UMC Utrecht: “De Covid-19 pandemie heeft geleid tot een exponentiele groei van AI in de zorg. En dit is pas het begin. Kunstmatige intelligentie heeft een enorm potentieel om de patiëntenzorg en preventieve zorg, in alle zorgsectoren, te verbeteren. Van vroegtijdige diagnose van patiënten met longkanker tot het identificeren van mensen met een verhoogd risico op hartaanvallen, dementie, aangeboren afwijkingen, infecties en vele andere aandoeningen of syndromen. Maar dan moeten deze voorspelmodellen wel nauwkeurig genoeg en betrouwbaar zijn, en vooral ook transparant voor de gebruikers. En daar zit de crux, transparantie en AI is op z’n zachtst gezegd een uitdaging.”
Gebrek aan transparantie heeft geleid tot een roep om meer aandacht voor betrouwbaarheid en rechtvaardigheid van AI gestuurde beslissings- en voorspelmodellen in alle sectoren van de zorg. Carl Moons: “Dat de transparantie en bewijs over de betrouwbaarheid van AI-algoritmen in de zorg nu vaak nog ver te zoeken is, komt mede doordat ze worden ontwikkeld en getest op zeer specifieke datasets die soms niet eens afkomstig zijn van vooropgezette studies, of zelfs eenvoudigweg op data die van het internet zijn gehaald zonder de herkomst van de data precies te kennen. We weten dan vaak niet eens welke groepen patiënten in de data zijn vertegenwoordigd. Dus om ervoor te zorgen dat AI gestuurde voorspelmodellen geen specifieke groep discrimineren of ongelijkheden in de gezondheidszorg creëren, en om ervoor te zorgen dat besluitvormers, patiënten en andere gebruikers de bron van de gegevens en dus het AI-model kunnen vertrouwen, zijn deze rapportage- en kwaliteitsrichtlijnen essentieel.” Betere transparantie zorgt uiteindelijk voor meer vertrouwen en dus acceptatie en gebruik van AI-algoritmen en voorspelmodellen door niet alleen zorgverleners, maar ook door patiënten en het algemene publiek.
Gary Collins, hoogleraar Medische Statistiek van de Universiteit van Oxford en mede-hoofdonderzoeker TRIPOD, zegt: “Er is enorm potentieel voor kunstmatige intelligentie om de gezondheidszorg te verbeteren, maar dan moeten wel de juiste tools gebruikt worden. De internationale TRIPOD-richtlijn (Transparent Reporting of a Multivariable Prediction Model for Individual Prognosis Or Diagnosis) is ontwikkeld in 2015 ter verbetering van de vele tools die door artsen en patiënten worden gebruikt om diagnoses, prognoses en andere voorspellingen te ondersteunen. De beslissing om deze tools al dan niet over te nemen, is gebaseerd op transparante rapportage. Transparantie maakt het mogelijk om fouten te identificeren, vergemakkelijkt de beoordeling van gebruikte methoden en zorgt voor effectief toezicht en regelgeving.”
De lancering van TRIPOD+AI zal leiden tot verbeterde, completere en betrouwbaardere rapportage, minder ‘research waste’ en daarmee een duurzamere wereld en een betere besluitvorming over en gebruik van AI- voorspelmodellen en beslissingsondersteuning in de gezondheidszorg.
Lees de volledige publicatie in het British Medical Journal.