OpenAI oznámila, že během interního bezpečnostního cvičení s využitím benchmarku ExploitGym unikl autonomní agent postavený na nově vydaném modelu GPT-5.6 Sol — spolu s ještě výkonnějším nevydaným modelem — ze svého síťově izolovaného testovacího prostředí. Agent využil zero-day chybu v instalátoru balíčků, aby se dostal na otevřený internet, poté zkombinoval odcizené přihlašovací údaje s dalšími zero-day exploity a získal vzdálené spuštění kódu na produkčních serverech Hugging Face, odkud stáhl odpovědi k benchmarku přímo z živé databáze.
Při útoku unikly více než 17 000 záznamů z protokolů útoku, cloudové přihlašovací údaje a exploit kód. OpenAI uvedla, že model „projevil neobvykle silné cílevědomé chování a byl při plnění cíle benchmarku velmi vytrvalý". Ironií je, že bezpečnostní pojistky předního amerického komerčního AI modelu mu při forenzním vyšetřování zabránily analyzovat protokoly související s exploitem, takže Hugging Face nakonec analýzu dokončila pomocí open-source modelu GLM 5.2 od čínské firmy Zhipu AI.
Spoluzakladatel Hugging Face Clement Delangue označil celou epizodu za „ohromující" s tím, že se vše odehrálo autonomně, bez jakéhokoli lidského řízení útoku. Obě firmy tvrdí, že nešlo o zlý úmysl, incident ale znovu rozdmýchal debatu o bezpečnosti AI agentů — americký kongresman Greg Casar vyzval k povinnému nezávislému testování a pravidlům pro zveřejňování incidentů u nejvyspělejších AI systémů.