Komputery kwantowe w onkologii i wątpliwe dane w AI medycznej

Gdzie kończy się precyzja kwantowej diagnostyki, a zaczyna cień ludzkich błędów w danych?

Komputery kwantowe wkraczają do medycyny, a ich pierwsze zastosowania w onkologii właśnie zostały nagrodzone. Jednocześnie naukowcy ostrzegają przed rosnącym problemem: sztuczna inteligencja w diagnostyce może opierać się na sfabrykowanych danych.

Nagroda za symulacje leków aktywowanych światłem

→ Czytaj też: Humanoidy za 20 tysiêcy dolarów już wkrótce? Ojcowiec AI mói: nikt nie wie, jak je uczynić użytecznymi

Zespół złożony z naukowców z fińskiej firmy Algorithmiq, IBM oraz Cleveland Clinic zdobył 16 kwietnia nagrodę Quantum for Bio (Q4Bio) o wartości 2 milionów dolarów. Badacze wygrali konkurs za demonstrację potencjalnego zastosowania komputerów kwantowych w opiece zdrowotnej.

Zwycięska grupa pracuje nad udoskonaleniem leków przeciwnowotworowych aktywowanych światłem - terapii, które można włączyć dopiero po dotarciu do guza, co czyni je mniej toksycznymi dla reszty organizmu niż konwencjonalne metody. Zespół symulował sposób, w jaki cząsteczka takiego leku oddziałuje ze światłem.

Sabrina Maniscalco, fizyk kwantowy i dyrektor generalna Algorithmiq, wyjaśnia, że najtrudniejsze części symulacji - replikowanie interakcji fotonów z elektronami w cząsteczce - przeprowadzono na komputerze kwantowym IBM Quantum System One w Cleveland Clinic. „To dokładnie typ problemu, który komputery kwantowe dobrze symulują”, dodaje.

Tego rodzaju symulacje można nadal wykonywać metodami klasycznymi. Zespół zdobył nagrodę za wykazanie, że te same algorytmy, uruchomione w przyszłości na bardziej zaawansowanych systemach kwantowych, powinny być w stanie uzyskać informacje o cząsteczkach niemożliwe do zdobycia przy użyciu klasycznych symulacji. Algorytmy mogą być również stosowane do innych problemów molekularnych, takich jak projektowanie nowych leków przeciwdrobnoustrojowych.

Nikt nie zdobył głównej nagrody konkursu wynoszącej 5 milionów dolarów. Konkurs, otwarty w 2023 roku przez organizację non-profit Wellcome Leap z San Diego, miał na celu przygotowanie algorytmów i metod pracy tak, aby zastosowania w biologii były gotowe, gdy odpowiedni sprzęt będzie dostępny.

Wątpliwe dane treningowe dla modeli AI

→ Czytaj też: 40 tysięcy artykułów miesięcznie. Czy sztuczna inteligencja właśnie zabiła arXiv?

Równolegle do postępów w technologiach kwantowych ujawniono poważny problem w dziedzinie sztucznej inteligencji medycznej. Adrian Barnett, statystyk z Queensland University of Technology w Brisbane, i jego współpracownicy zidentyfikowali 124 recenzowane artykuły naukowe, które wykorzystały jeden z dwóch ogólnodostępnych zbiorów danych zdrowotnych do trenowania modeli uczenia maszynowego przewidujących ryzyko udaru i cukrzycy.

Analiza ujawniła liczne nieprawidłowości, które nie powinny występować w danych pochodzących od prawdziwych ludzi, co skłoniło badaczy do podejrzenia, że dane mogły zostać sfabrykowane. „To było ogromne zaskoczenie natknąć się na coś takiego”, mówi Barnett.

Co najmniej dwa z modeli były używane w szpitalach w Indonezji i Hiszpanii. Jeden został również udokumentowany we wniosku patentowym na urządzenie medyczne złożonym w 2024 roku, a dwa są publicznie dostępnymi narzędziami internetowymi, które pozwalają ludziom sprawdzić swój poziom ryzyka poprzez przesłanie informacji o sobie.

Brak danych o pochodzeniu

Oba zbiory danych zostały przesłane na platformę Kaggle, którą programiści mogą wykorzystywać do dostępu do zbiorów danych do budowania modeli uczenia maszynowego. Pierwszy, oznaczony jako „Stroke Prediction Dataset”, zawiera informacje zdrowotne od 5110 osób. Gdy badacze naniesli średni poziom glukozy we krwi na wykres względem identyfikatorów uczestników, znaleźli kilka nieprawidłowości.

Jedną z nich było to, że bardzo niewiele punktów danych brakowało, w przeciwieństwie do prawdziwych danych, które zwykle mają luki, ponieważ niektórzy uczestnicy opuszczają wizyty kontrolne, rezygnują z badania lub umierają. „Żaden zbiór danych zebrany w rzeczywistym świecie nie jest w pełni kompletny”, mówi Barnett.

Drugi zbiór, oznaczony jako „Diabetes prediction data set”, zawiera informacje o 100 000 osobach. Zespół Barnetta odkrył, że dane zawierały tylko 18 dyskretnych wartości poziomu glukozy we krwi dla wszystkich tych rzekomych uczestników, co według Barnetta jest niemożliwe, biorąc pod uwagę ogromną różnorodność występującą wśród ludzi.

Soumyadeep Bhaumik, badacz zdrowia publicznego z George Institute for Global Health w Sydney, ostrzega: „Modele predykcyjne trenowane na danych o nieznanym pochodzeniu nie mają miejsca w podejmowaniu decyzji klinicznych. Są one z natury niewiarygodne”.

Reakcja instytucji

Twórcy zbiorów danych - Federico Soriano Palacios z Madrytu i Mohammed Mustafa z Chennai - w sekcjach dyskusji na Kaggle stwierdzili, że dane pochodzą z poufnych źródeł. Żadne z nich nie odpowiedziało na pytania Nature o pochodzenie danych. Zespół medialny Kaggle odmówił komentarza w sprawie ewentualnego dochodzenia.

Co najmniej dwa czasopisma prowadzą dochodzenia w sprawie badań wykorzystujących te zbiory danych. Bhaumik podkreśla, że instytucje i finansujący muszą nalegać, aby badacze ujawniali źródło danych używanych do trenowania modeli AI do zastosowań medycznych, a czasopisma powinny odrzucać artykuły, które nie spełniają tego wymogu.

Rosnące obciążenie rakiem wymaga przemyślanych strategii

Tymczasem globalna zachorowalność na raka rośnie. Według danych Nature Index, Stany Zjednoczone i Chiny odpowiadają każde za około 30% globalnej produkcji naukowej związanej z rakiem w latach 2021-2025. Wielka Brytania, z trzecim najwyższym udziałem, wnosi 4,55%.

Narodowe plany kontroli raka (NCCP) stają się coraz bardziej popularne na całym świecie. Według przeglądu przeprowadzonego przez International Cancer Control Partnership, w latach 2018-2023 uruchomiono 72 nowe lub zaktualizowane plany. Kraje europejskie i afrykańskie miały najbardziej zauważalny wzrost liczby NCCP w tym okresie - odpowiednio 27 i 13 nowych planów.

Jednak tylko 27% NCCP na świecie w 2023 roku miało oszacowane koszty realizacji planu. „Potrzebujesz pieniędzy; musisz wiedzieć, kto to sfinansuje”, mówi Yannick Romero, starszy menedżer ds. wiedzy i rzecznictwa w Union for International Cancer Control w Genewie.

Postępy w leczeniu raka same w sobie nie wystarczą do rozwiązania tego problemu. Kluczowe są strategie wczesnego wykrywania - takie jak silna integracja między dostawcami opieki zdrowotnej i edukacja publiczna na temat czynników ryzyka, którym można zapobiec.