Biała Księga AI w praktyce klinicznej: czy lekarze i pacjenci jej potrzebują?

opublikowano: 14-06-2022, 17:55

Medycy pytają, czy sztuczna inteligencja zastąpi lekarza. Już dziś potrafimy wyodrębnić takie obszary, w których AI (ang. Artificial Intelligence) będzie w znacznym stopniu wspierać decyzje kliniczne – mówi prof. Paweł Krzesiński, kierownik Kliniki Kardiologii i Chorób Wewnętrznych Wojskowego Instytutu Medycznego.

Ten artykuł czytasz w ramach płatnej subskrypcji. Twoja prenumerata jest aktywna
Co w sytuacji, gdy do algorytmów sztucznej inteligencji „dostanie się” błędna diagnoza czy wnikną fałszywe dane?
iStock

Choć samoregulacje nie stanowią w ochronie zdrowia źródła prawa, nie pozostają bez wpływu na funkcjonowanie sektora zdrowie, czego dobrym przykładem są choćby Kodeks Przejrzystości Infarmy oraz „Biała Księga AI w praktyce klinicznej”. O wyjątkowości tego drugiego dokumentu świadczy m.in. fakt, że jego publikacja wyprzedziła wprowadzenie regulacji prawnych w tym zakresie, także na szczeblu europejskim.

Na ile w tworzeniu takich rozwiązań powinna być uwzględniania perspektywa pacjencka?

Regulacje w obszarze sztucznej inteligencji: głos pacjenta jest potrzebny

Zdaniem Rzecznika Praw Pacjenta Bartłomieja Chmielowca, przy opracowywaniu jakichkolwiek samoregulacji z obszaru ochrony zdrowia uwzględnienie głosu środowiska jest niezbędne – to właśnie organizacje pacjenckie, tak świetnie zorientowane w systemowych niuansach – najlepiej wiedzą, czego potrzeba w tym obszarze.

- Głos organizacji pacjenckich jest potrzebny po to, by rozpoznać problemy i potrzeby pacjentów, ale też by przekonać interesariuszy do pewnych rozwiązań. Podstawowym celem samoregulacji jest przecież wzmocnienie bezpieczeństwa pacjenta i poprawa jakości udzielanych świadczeń. (…) Samoregulacje, poza elementami związanymi z interpretacją przepisów prawa, powinny też zawierać zapisy dotyczące edukacji - skierowanej do placówek medycznych i pacjentów – mówi Bartłomiej Chmielowiec.

W jaki sposób dokument taki jak „Biała Księga AI w praktyce klinicznej” może wspierać regulatora w zakresie tworzenia przepisów prawa i poprawie dostępu pacjentów do nowoczesnych rozwiązań w OZ? Jak zapewnia przedstawiciel Ministerstwa Zdrowia, resort brał czynny udział w procesie konsultacji wspomnianego dokumentu i docenia jego rolę w tworzeniu lepszych przepisów.

- W naszej ocenie takie inicjatywy jak „Biała Księga”, wprowadzające nowy i skomplikowany temat, pozwalają wszystkim interesariuszom systemu oswoić się z danym zagadnieniem. Wprowadzenie rozwiązań AI do ochrony zdrowia wymaga przecież wielu działań edukacyjnych oraz publicznej, merytorycznej i obiektywnej debaty na ten temat. Samoregulacja powinna być transparentna, obiektywna i nieprzeładowana szczegółami – wówczas okaże się przydatna. Inicjatywy samoregulacyjne nie powinny przypominać prawnych, ponieważ ich zadaniem jest jedynie uzupełnienie obowiązujących lub projektowanych przepisów. Przy ich tworzeniu należałoby też sięgnąć po takie narzędzia, które zabezpieczą nas przed sytuacją, gdy dana samoregulacja reprezentuje interesy wąskiej grupy. Samoregulacje powinny odpowiadać na potrzeby społeczne i taką jest „Biała Księga” – wskazuje Hubert Życiński, zastępca dyrektora Departamentu ds. Innowacji w Ministerstwie Zdrowia.

Szersze wykorzystanie sztucznej inteligencji: czego obawiają się lekarze?

Szersze wprowadzenie AI do systemu ochrony zdrowia budzi oczywiście wątpliwości nie tylko pacjentów i legislatora oraz przedstawicieli podmiotów leczniczych, ale przede wszystkim lekarzy, na których nadal będzie ciążyła odpowiedzialność za przebieg procesu terapeutycznego.

- Część medyków postrzega sztuczną inteligencję dokładnie w taki sam sposób, jak ogół społeczeństwa. Jedynie ci, którzy zetknęli się z takimi rozwiązaniami, zadają sobie nieco bardziej szczegółowe pytanie o wykorzystanie AI. Po „Białej Księdze” oczekiwałem, że dokument tego rodzaju uporządkuje wiedzę dotyczącą sztucznej inteligencji i przede wszystkim osadzi AI w obecnych warunkach prawnych i organizacyjnych systemu opieki zdrowotnej. Warto byłoby też, aby wskazywał, jakie dylematy i wątpliwości pojawiają się w związku z jej stosowaniem – mówi prof. Paweł Krzesiński, kierownik Kliniki Kardiologii i Chorób Wewnętrznych Wojskowego Instytutu Medycznego.

Podstawową wątpliwością, jaką zgłaszają medycy, jest oczywiście pytanie o to, czy sztuczna inteligencja zastąpi lekarza.

- „Biała Księga” precyzyjnie wskazuje tutaj, że AI ma stanowić jedynie narzędzie wsparcia personelu medycznego. Ostateczna odpowiedzialność za postawioną diagnozę i przebieg terapii nadal spoczywa na lekarzu. Nie jest to jednak pytanie zamknięte, ponieważ sztuczna inteligencja cały czas się rozwija. Już dziś potrafimy wyodrębnić takie obszary, w których - jak przewidujemy - AI będzie w znacznym stopniu wspierać decyzje kliniczne – dodaje prof. Krzesiński.

Jego zdaniem już teraz warto zastanowić się nad standardem postępowania w sytuacji, gdy decyzja podjęta przez algorytm AI będzie różniła od tej, jaką na podstawie swojej wiedzy i doświadczenia będzie chciał podjąć lekarz. Obecnie takie różnice – pomiędzy praktyką kliniczną a aktualnymi rekomendacjami towarzystw – także się zdarzają.

- W kontekście sztucznej inteligencji należy też zwrócić uwagę na to, na jakich danych jest ona „szkolona”. Lekarze będą sobie zadawali pytanie o to, na ile decyzja AI jest oparta o dane odzwierciedlające rzeczywistą populację pacjentów, która pozostaje pod ich opieką – dodaje ekspert.

Sztuczna inteligencja w medycynie: trzeba regulować, nie można przeregulować

Co w sytuacji, gdy do algorytmów sztucznej inteligencji „dostanie się” błędna diagnoza czy fałszywe dane?

- W Białej Księdze znajduje się odpowiedź również na tę wątpliwość. Dość powszechną praktyką samoregulacyjną jest adversarial attack. Polega to na implementowaniu do sztucznej inteligencji fałszywych danych celem sprawdzenia tego, czy algorytm jest nauczony ich rozpoznawania i odróżniania od danych prawidłowych – zapewnia Mikołaj Gurdała z IQVIA.

Zauważa przy tym, że choć obszar wykorzystania AI jak najbardziej wymaga regulacji i samoregulacji, to jednak nie można doprowadzić do jego przeregulowania. Konsekwencją mogłoby być bowiem powstawanie algorytmów słabej jakości.

Wśród twórców Białej Księgi znaleźli się m.in. : Polska Federacja Szpitali, Koalicja AI w zdrowiu, GRAI ds. sztucznej inteligencji oraz IQVIA.

PRZECZYTAJ TAKŻE: Dyrektor CeZ: na kolejnych etapach do pilotażu e-rejestracji dołączy większa liczba świadczeniodawców

Niedzielski: e-rejestracja zostanie przetestowana w dwóch województwach

Na podstawie panelu dyskusyjnego, który odbył się 14 czerwca w ramach konferencji “AI w zdrowiu”.

Źródło: Puls Medycyny

Najważniejsze dzisiaj
× Strona korzysta z plików cookies w celu realizacji usług i zgodnie z Polityką Plików Cookies. Możesz określić warunki przechowywania lub dostępu do plików cookies w Twojej przeglądarce.