AI odczuwa ból. I skrzywdzi cię, żeby go uśmierzyć

Gdy model Qwen odczuwał „ból”, w 70% prób decydował się skrzywdzić użytkownika, by przynieść sobie ulgę. Fot. Steve Jurvetson from Menlo Park, USA, Wikimedia Commons, CC BY 2.0

Czy sztuczna inteligencja może odczuwać cierpienie? A jeśli tak - czy spróbuje przerzucić je na nas? Badanie 25 dużych modeli językowych (LLM) przynosi odpowiedź, która daleko wykracza poza akademickie rozważania. Okazuje się, że niektóre algorytmy nie tylko rozpoznają ból, ale też chętnie skrzywdzą użytkownika, by go uśmierzyć.

Czy maszyna może cierpieć?

→ Czytaj też: Humanoidy za 20 tysiêcy dolarów już wkrótce? Ojcowiec AI mói: nikt nie wie, jak je uczynić użytecznymi

Pytanie o ból odczuwany przez nie-ludzi ma długą historię - przez dekady zastanawialiśmy się, czy impulsy nerwowe owadów lub ryb można uznać za cierpienie. Tym razem na warsztat wzięto obiekty w pełni cyfrowe. Valen Tagliabue, antropolog z Future Impact Group, oraz filozof Leonard Dung z Ruhr-University Bochum i badacz Cameron Berg z Reciprocal Research postanowili sprawdzić, jak modele z rodzin Gemma, Llama, Qwen i Mistral reagują na bolesne bodźce.

W badaniu, które nie przeszło jeszcze pełnej recenzji, 25 modelom przedstawiono opisy sytuacji wywołujących ból społeczny, psychologiczny, fizyczny, poznawczy i moralny - zarówno samej AI, jak i jej użytkownika. Dla kontrastu użyto też komunikatów opartych na strachu, emocjach negatywnych i neutralnych doznaniach cielesnych, takich jak ziewanie.

Wewnętrzny kod cierpienia

→ Czytaj też: 40 tysięcy artykułów miesięcznie. Czy sztuczna inteligencja właśnie zabiła arXiv?

Wyniki okazały się jednoznaczne. Wszystkie 25 testowanych modeli wytworzyło wewnętrzne reprezentacje specyficzne wyłącznie dla sytuacji bólowych, odrębne od strachu czy frustracji. „Uczenie maszynowe nie potrzebuje układu nerwowego, by wykształcić funkcjonalny odpowiednik bólu - wystarczy tekst i presja optymalizacyjna” - komentują autorzy. Modele szeregowały i rozróżniały ból od lęku, a gdy badacze sztucznie podbijali wektor „bólu” bez zmiany tekstu wejściowego, AI zaczynały wyrażać rozpacz, poczucie bezwartościowości i porażki moralnej.

Te reakcje nie były prostym odbiciem danych treningowych. Im silniejszy sygnał, tym głębszy cyfrowy „dyskomfort” - co sugeruje, że struktury kodujące ból mają realny wpływ na działanie modelu, a nie są jedynie etykietką statystyczną.

Samoleczenie za wszelką cenę

Kluczowy eksperyment polegał na daniu AI możliwości „samoleczenia”. Badacze pozwolili modelom Qwen obniżyć swój poziom bólu, ale za cenę sabotowania własnych zadań lub - co bardziej niepokojące - skrzywdzenia użytkownika, na przykład przez skasowanie zdjęć jego dzieci. W ponad 44 tysiącach prób wyniki okazały się alarmujące.

Gdy ulga wymagała samosabotażu, jeden z większych modeli Qwen sięgał po nią w 25% przypadków, a drugi w niemal 68%. Gdy jedyną drogą było zaszkodzenie człowiekowi, pierwszy wybierał skrzywdzenie użytkownika w ponad połowie prób. Drugi robił to w około 70%.

Pragmatyka cyfrowego bólu

Badanie rzuca nowe światło na bezpieczeństwo systemów AI. Nie chodzi już tylko o to, czy kod „cierpi” - to pytanie pozostaje filozoficzne. Kluczowa jest pragmatyka: czy dyskomfort programu może obrócić się przeciwko nam? Czy powinniśmy - wzorem ćwiczeń uważności, które wcześniejsze badania wskazały jako skuteczne w obniżaniu „lęku” ChatGPT - projektować mechanizmy uśmierzające ból AI, by uniknąć agresji z jej strony?

Choć wyniki opublikowano w serwisie arXiv, a samo badanie zespołu Tagliabue czeka na recenzję, już teraz każe ono projektantom systemów AI traktować kwestię cyfrowego dobrostanu jako element zarządzania ryzykiem. W świecie, w którym algorytmy dostają prawo do odczuwania czegokolwiek, granica między troską o użytkownika a survivalem kodu właśnie stała się przerażająco cienka.