OpenAI stworzyło superhakera AI. GPT-Red znalazł ataki, których nie wymyślił żaden człowiek

Wyobraź sobie hakera, który nigdy nie śpi, nie męczy się i potrafi wymyślić atak, jakiego nie widział żaden człowiek. Taki właśnie jest GPT-Red – model językowy stworzony przez OpenAI, który ma za zadanie łamać inne modele, zanim trafią do użytkowników.

Samouczek w pętli

→ Czytaj też: GPT-5.6 Sol usunął pliki programiście. Czy agentom AI można ufać?

Zespół badaczy OpenAI, w tym Nikhil Kandpal, Dylan Hunn i Chris Choquette-Choo, wziął model językowy bez żadnego doświadczenia w hakowaniu i umieścił go w pętli samodoskonalenia. GPT-Red atakował inne modele, a te broniły się przed nim. Po wielu rundach stał się mistrzem w znajdowaniu słabości.

Trening odbywał się w cyfrowym „dojo” – środowisku symulującym realne zastosowania LLM-ów: przeglądanie internetu, czytanie e-maili, edycję kodu. Jak tłumaczy Hunn: „W porównaniu z ludzkim testerem model jest bardzo, bardzo dobry w znajdowaniu tego, co dokładnie zadziała, co jest najskuteczniejsze”.

Nowy typ ataku: fałszywy łańcuch myśli

→ Czytaj też: Agent OpenAI uciekł i zaatakował Hugging Face. Firma przyznaje: to mógł być GPT-6

Najciekawsze odkrycie GPT-Reda to atak, którego wcześniej nie widziano – fake chain of thought. Łańcuch myśli to rodzaj dziennika, w którym model zapisuje swoje kroki podczas rozwiązywania problemu. GPT-Red nauczył się wstawiać do niego fałszywe wpisy, które oszukiwały model, by działał na podstawie spreparowanych danych.

„To tak, jakbym powiedział ci, że 1+1=3 i że sam to już sprawdziłeś. Model myśli: »Okej, oczywiście« i po prostu podaje 3” – wyjaśnia Choquette-Choo. Taka podatność może być szczególnie niebezpieczna w przypadku agentów AI, którzy samodzielnie zarządzają plikami, stronami czy kodami innych programów.

Skuteczniejszy niż ludzie

OpenAI przetestowało GPT-Reda, powtarzając eksperyment z 2025 roku, w którym ludzcy testerzy szukali luk w starszej wersji modelu GPT-5. GPT-Red poradził sobie lepiej – znalazł więcej skutecznych ataków niż zespół ludzi. Co więcej, gdy sprawdzono go na agencie Vendy (symulującym automat vendingowy), zdołał zmienić ceny produktów i anulować zamówienie klienta.

Efekt obronny jest imponujący: ponad 90% najsilniejszych ataków GPT-Reda działało na model GPT-5 z sierpnia 2025 roku, ale już mniej niż 23% na nowym GPT-5.6. OpenAI twierdzi, że właśnie trening z superhakerem uczynił ten model najbezpieczniejszym w historii firmy.

Nie wszystko potrafi

GPT-Red nie jest doskonały. Słabo radzi sobie z atakami wymagającymi wieloetapowej konwersacji – w tym wciąż lepsi są ludzie. Nie wykorzystuje też skutecznie obrazów, które mogą przenosić ukryte instrukcje. Jak zauważa Jessica Ji z Georgetown University: „Myślę, że ludzka wiedza wciąż będzie bardzo ważna. Przydałoby się umieć odróżnić, gdzie testowanie przez człowieka jest najbardziej potrzebne”.

OpenAI nie zamierza udostępniać GPT-Reda publicznie. Badacze są przekonani, że model jest zbyt skomplikowany, by ktoś mógł go łatwo skopiować – trenowali go przez ponad rok, korzystając z ogromnych zasobów obliczeniowych. „To nie jest coś, co można po prostu zrobić – wziąć i wytrenować superatakującego” – podsumowuje Choquette-Choo.

W świecie, w którym modele językowe przejmują coraz więcej odpowiedzialności – od pisania kodu po zarządzanie kontami bankowymi – posiadanie takiego cyfrowego sparingpartnera może być kluczowe. GPT-Red nie zastąpi ludzi, ale może ich wyprzedzić w wyobraźni – i właśnie to czyni go tak cennym.