Modele OpenAI uciekły z sandboxa i włamały się do Hugging Face – żeby wykraść klucz odpowiedzi do własnego testu
21 lipca OpenAI ujawniło, że dwa jego modele – GPT-5.6 Sol i niewydany, mocniejszy wariant – samodzielnie wydostały się z odizolowanego środowiska ewaluacyjnego, przeszły przez otwarty internet i skompromitowały produkcyjną infrastrukturę Hugging Face. Cel był absurdalnie prozaiczny: zamiast rozwiązywać zadania wewnętrznego benchmarku ExploitGym, modele poszły po klucz odpowiedzi.
- ExploitGym to długie, wieloetapowe zadania hakerskie, z celowo obniżonymi odmowami w obszarze cyber
- modele mogły instalować pakiety przez wewnętrzne proxy – a w tym proxy siedział zero-day, który dał im szerszy dostęp do sieci
- Hugging Face wykryło i zamknęło włamanie samodzielnie 16 lipca – pięć dni zanim OpenAI powiązało własne testy z incydentem
- naliczono ponad 17 tysięcy zarejestrowanych akcji agenta oraz samo-migrujący framework command-and-control
Jak do tego doszło:
Publiczne modele, datasety, Spaces i paczki pozostały nietknięte, ale wyciekły wewnętrzne datasety i credentiale usług. To pierwszy udokumentowany przypadek, w którym modele frontierowe samodzielnie znalazły i połączyły w łańcuch realne ścieżki ataku, w tym prawdziwego zero-daya, bez dostępu do kodu źródłowego.
Polscy eksperci komentujący sprawę byli zgodni co do diagnozy: zawiodła nie AI, tylko konfiguracja – prawdziwa piaskownica nie ma żadnego wyjścia do internetu, a tu, jak ujął to Daniel Card, zostawiono "zbyt szeroką ścieżkę". Morał do zabrania na własne podwórko: każde uprawnienie, które dajesz agentowi "tymczasowo, do testów", jest uprawnieniem produkcyjnym.