Błędne podpowiedzi sztucznej inteligencji wpływają na diagnozy radiologów [BADANIE]

Podczas podejmowania diagnostycznych decyzji radiolodzy i inni lekarze mogą zbytnio polegać na sztucznej inteligencji. To wynik badania opublikowanego w czasopiśmie „Radiology”.

- Do 2022 roku amerykańska Agencja Żywności i Leków (FDA) zatwierdziła 190 programów AI do zastosowań w radiologii – mówi jeden głównych autorów publikacji, dr Paul H. Yi z St. Jude Children’s Research Hospital in Memphis, Tennessee.

- Jednak pojawiła się luka między dowodami koncepcyjnymi odnośnie AI a jej zastosowaniem w rzeczywistej praktyce klinicznej. Aby zlikwidować tę lukę, kluczowe jest zbudowanie odpowiedniego zaufania do wskazań sztucznej inteligencji – wyjaśnia.

W przeprowadzonym w wielu ośrodkach badaniu wzięło udział 220 specjalistów - radiologów, lekarzy medycyny wewnętrznej i medycyny ratunkowej, którzy oceniali zdjęcia rentgenowskie klatki piersiowej z uwzględnieniem wskazówek udzielanych przez system sztucznej inteligencji.

Każdy z lekarzy miał za zadanie przeanalizować osiem przypadków badania rentgenowskiego, wraz z sugestiami pochodzącymi od symulowanego asystenta AI, którego skuteczność diagnostyczna była porównywalna z ekspertami w tej dziedzinie.

Wybrany zestaw przypadków odzwierciedlał rzeczywistą praktykę kliniczną.

W każdym przypadku specjalistom, oprócz obrazów i wskazówek AI przedstawiano historię kliniczną pacjenta.

Sztuczna inteligencja dostarczała poprawną lub błędną diagnozę wraz z tzw. lokalnymi lub globalnymi wyjaśnieniami. W lokalnych wyjaśnieniach wyróżniała fragmenty obrazu uznane za najważniejsze. W przypadku wyjaśnień globalnych przedstawiała podobne obrazy z wcześniejszych przypadków, aby pokazać, jak doszła do swojej diagnozy.

Lekarze mogli zaakceptować, zmodyfikować lub odrzucić sugestie sztucznej inteligencji. Poproszono ich również o określenie poziomu pewności co do swoich ustaleń oraz o ocenę przydatności uzyskanych wskazówek.

Wyniki wykazały, że eksperci częściej dostosowywali swoje decyzje diagnostyczne do sugestii sztucznej inteligencji i poświęcali mniej czasu na ich analizę, gdy system dostarczał lokalnych wyjaśnień.

Przy tym, gdy sugestie AI były poprawne, średnia dokładność diagnostyczna specjalistów wynosiła 92,8 proc., przy lokalnych wyjaśnieniach i 85,3 proc. przy wyjaśnieniach globalnych.

Natomiast gdy sugestie były błędne, dokładność lekarzy wynosiła już tylko odpowiednio 23,6 i 26,1 proc.

- Kiedy zbytnio polegamy na tym, co mówi nam komputer, staje się to problemem, ponieważ AI nie zawsze ma rację. Uważam, że jako radiolodzy korzystający z tych systemów, musimy być świadomi tego typu pułapek i pamiętać o naszych procedurach diagnostycznych oraz szkoleniu – podkreśla dr Yi.

- Jestem zdania, że kluczem jest współpraca między przemysłem i badaczami zajmującymi się opieką zdrowotną. Mam nadzieję, że nasz artykuł rozpocznie dialog i owocną współpracę – dodaje.