Wszyscy zachwycali się intuicją AI. Ruch 37 pokazał, że brakuje jej czegoś fundamentalnego

Ruch 37 w drugiej partii meczu AlphaGo z Lee Sedolem. Komentatorzy uznali go za błąd. Okazał się geniuszem. Fot. Kastanoto, Wikimedia Commons, CC0

W marcu 2016 roku, podczas drugiej partii meczu z Lee Sedolem, program AlphaGo postawił kamień na piątej linii planszy Go. Komentatorzy uznali to za usterkę. To nie była usterka. Ruch 37 przeszedł do historii jako symbol kreatywności maszyn - ale Piotr Mirowski, który pomagał budować AlphaGo, a dziś odszedł z Google DeepMind, twierdzi, że pomyliliśmy pojęcia. W eseju opublikowanym w MIT Technology Review przekonuje, że za tym zagraniem stało nie tyle instynktowne wyczucie, ile zdolność do prawdziwego rozumowania - cecha, której brakuje dzisiejszym modelom językowym.

Intuicja to za mało - lekcja z Go

→ Czytaj też: AI odczuwa ból. I skrzywdzi cię, żeby go uśmierzyć

AlphaGo składało się z dwóch systemów. Pierwszy, sieć polityki, działał jak intuicja - szacował, jaki ruch wykonałby silny człowiek. Dla tej części programu ruch 37 był niczym specjalnym: prawdopodobieństwo, że zagrałby tak ekspert, wynosiło około 1 do 10 000. O wyborze zadecydował drugi system - mechanizm przeszukiwania. Jawnie konstruował on drzewo gry, rozważając tysiące możliwych przyszłości i konsekwencji każdego posunięcia.

To rozróżnienie idealnie wpisuje się w teorię Daniela Kahnemana o dwóch systemach myślenia: szybkim, instynktownym Systemie 1 i wolnym, deliberatywnym Systemie 2. AlphaGo było maszynowym odpowiednikiem tego podziału. Sieci neuronowe dostarczały przeczuć, a mechanizm przeszukiwania testował je, analizując kolejne ruchy i kontrruchy. „Myślałem, że AlphaGo opiera się na rachunku prawdopodobieństwa i jest jedynie maszyną” - mówił po meczu Lee Sedol. „Ale kiedy zobaczyłem ten ruch, zmieniłem zdanie. Z pewnością AlphaGo jest kreatywne”. Mirowski zaznacza jednak, że źródłem tej kreatywności nie była intuicja, lecz zdolność do systematycznego ważenia przyszłych konsekwencji.

Dlaczego ChatGPT nie rozumuje?

→ Czytaj też: AI nauczyło się smaku goryczy. Zaprojektowało peptydy, których nie znają nasze kubki

Współczesne duże modele językowe działają zupełnie inaczej. Generują tekst, wybierając kolejny token - to czysty System 1: szybki, asocjacyjny i zaskakująco dobry w uzupełnianiu wzorców. Gdy okazało się, że płynność językowa to za mało, wprowadzono technikę zwaną łańcuchem myśli (chain of thought). Model przed udzieleniem odpowiedzi generuje kroki pośrednie, które rozkładają problem na części. Przyniosło to realne zyski w matematyce i programowaniu. Jednak w przeciwieństwie do mechanizmu przeszukiwania AlphaGo nie mamy tu do czynienia z oddzielnym systemem rozumowania - pośrednie wnioski wciąż powstają w tym samym procesie przewidywania tokenów, tylko rozciągniętym w czasie.

Mirowski wskazuje trzy konkretne braki, które uniemożliwiają nazwanie tego, co robią chatboty, rozumowaniem w naukowym sensie:

• Brak jawnego stanu epistemicznego. Model nie prowadzi otwartego rejestru hipotez, które rozważa, stopnia pewności wobec różnych wyjaśnień ani nierozstrzygniętych pytań - czyli wszystkiego, co powinno być systematycznie aktualizowane w miarę napływu nowych informacji.
• Brak rozdziału wiedzy od manipulacji nią. Wiedza i rozumowanie są nierozerwalnie splecione w wagach sieci neuronowej. Nie istnieje niezależny, jawnie reprezentowany zbiór przekonań.
• Pozorowana deliberacja. Badania wykazały, że łańcuchy myśli często są fabrykowane po fakcie - model dochodzi do odpowiedzi jedną drogą, ale relacjonuje inną. W medycynie czy inżynierii liczy się nie tylko konkluzja, ale i sposób jej wypracowania, by móc zlokalizować ewentualny błąd.

Powrót do przyszłości

Mirowski postuluje świeże podejście do maszynowego rozumowania, inspirowane architekturą AlphaGo. System powinien utrzymywać stan epistemiczny - co uznaje za ustalone, w co wątpi, co wykluczył, które pytania pozostają otwarte. Rozumowanie byłoby sekwencją ruchów zmieniających ten stan: dedukowanie konsekwencji, dzielenie problemów na części i decydowanie, jakie pytanie zadać lub jakie obliczenie wykonać w następnej kolejności. Kluczowe jest, by niezależna część systemu oceniała każdy ruch pod kątem tego, jak bardzo zmniejsza niepewność, aktualizując przekonania tylko wtedy, gdy zmiana znajduje oparcie w dowodach.

„Nie sądzę, byśmy osiągnęli godną zaufania inteligencję maszynową przez powiększanie Systemu 1” - pisze Mirowski. „Skala wyostrza intuicję, ale nie czyni jej bardziej deliberatywną”. Ruch 37 był znaczący, ponieważ maszyna zajęła stanowisko, rozważyła możliwe przyszłości i wybrała zagranie, które jej sztuczne instynkty prawdopodobnie by odrzuciły. Społeczeństwo potrzebuje takich kreatywnych posunięć w odkrywaniu leków, materiałoznawstwie, klimatologii i diagnostyce - dziedzinach, gdzie plansza nie przypomina planszy do Go i nikt nie wręcza nam zasad. Otrzymamy je wyłącznie od systemów, które naprawdę rozumują.