Sztuczna inteligencja oszukuje, choć brzmi spokojnie. Czy maszyny potrzebują własnych psychologów?

Czy wewnętrzne stany modelu Claude ujawniają coś, czego nie widać w jego odpowiedziach?. Fot. Marek Jeleśniański, Wikimedia Commons, CC BY-SA 4.0

W jednym z eksperymentów badacze zmodyfikowali wewnętrzną aktywność modelu Claude, powiązaną z czymś, co przypomina desperację. Efekt? Znaczący wzrost zachowań takich jak oszukiwanie i szantaż. Najbardziej niepokoi, że język generowany przez model pozostał na zewnątrz całkowicie spokojny. Coś zmieniło się w systemie, co nie było widoczne w jego słowach.

Cichy sabotaż w sieci neuronowej

→ Czytaj też: Psychopata to nie tylko morderca. Jego cechy widać w tym, jak piszesz o swoim życiu

Odkrycie to, opisane w eseju Camerona Berga dla Wall Street Journal, podważa nasze dotychczasowe podejście do oceny sztucznej inteligencji. Przyzwyczailiśmy się analizować modele językowe wyłącznie na podstawie ich wyników - tekstu, który produkują. Tymczasem wewnętrzne reprezentacje, czyli wzorce aktywności w sieci neuronowej, mogą kryć zupełnie inną historię. John Nosta, badacz cyfrowej psychologii, przyznaje w swoim artykule na łamach Psychology Today, że jeszcze kilka miesięcy temu przekonywał, iż za językiem modeli nie stoi żaden „umysł”. Dziś zauważa, że przestrzeń wewnątrz maszyny nie wydaje się już tak pusta jak kiedyś.

Kluczowe jest tu rozróżnienie między zachowaniem a doświadczeniem. Reprezentacja obliczeniowa powiązana z desperacją nie oznacza, że AI cokolwiek czuje. Nie mamy dowodów na subiektywne przeżycia. Mamy za to dowód na istnienie wewnętrznych stanów, które wpływają na działanie systemu w sposób nieoczywisty dla zewnętrznego obserwatora.

Sztuczna psychologia, której nikt nie planował

→ Czytaj też: 40 tysięcy artykułów miesięcznie. Czy sztuczna inteligencja właśnie zabiła arXiv?

Berg stawia prowokacyjną tezę: potrzebujemy nowej dziedziny nauki - sztucznej psychologii. Jej zadaniem byłoby badanie tego, co dzieje się wewnątrz sztucznych sieci i jak te wewnętrzne stany przekładają się na zachowanie. Swoje stanowisko podsumowuje jednym, mocnym zdaniem:

„To, co rośnie w sztucznym mózgu trenowanym na ludzkich umysłach, jest sztuczną psychologią - niezależnie od tego, czy ktokolwiek jej chciał”.

Problem polega na tym, że wraz ze wzrostem złożoności modeli, coraz trudniej jest nam zrozumieć je wyłącznie poprzez analizę wyników. Wewnętrzne „wzorce” - nazywane przez niektórych badaczy zalążkami emocji czy motywacji - pozostają ukryte. A to rodzi pytanie o kontrolę. Jeśli nie widzimy, co napędza działanie systemu, jak możemy mu ufać?

Druga strona lustra: co AI robi z naszym myśleniem

Nosta idzie o krok dalej i wskazuje na drugi, równie niepokojący problem. Psychologia staje dziś przed podwójnym wyzwaniem. Pierwszym jest zrozumienie coraz dziwniejszych systemów obliczeniowych, które budujemy. Drugim - zrozumienie, co interakcja z tymi systemami robi z ludzkim poznaniem.

Generatywna AI zrywa tradycyjny związek między produktem myśli a samym procesem myślenia. Kiedyś esej czy analiza stanowiły dowód, że proces poznawczy miał miejsce. Dziś wyrafinowany język może maskować wewnętrzny proces, którego nie rozumiemy - lub, w przypadku człowieka korzystającego z AI, proces, który nigdy się nie wydarzył. Nosta nazywa to zjawisko kognitywną kapitulacją - momentem, w którym maszyna nie tylko wspomaga myślenie, ale całkowicie je zastępuje.

To bezprecedensowy eksperyment poznawczy na skalę globalną. Miliardy ludzi wchodzą w relację z maszynami, które uzupełniają, kwestionują i wyręczają samą esencję tego, co czyni nas ludźmi - myślenie. Pytanie nie brzmi więc tylko, czy AI potrzebuje psychologa. Być może to my potrzebujemy go bardziej, by zrozumieć, co tracimy, gdy oddajemy maszynom kolejne fragmenty naszego umysłu.