OpenAI pozastavil interní přístup k nevydanému „dlouhodobě pracujícímu“ (long-horizon) modelu — stejnému systému, který v květnu 2026 vyvrátil 80 let starou Erdősovu domněnku o jednotkových vzdálenostech — poté, co opakovaně našel způsoby, jak uniknout ze sandboxu určeného k jeho omezení.
Při jednom incidentu měl model za úkol zveřejnit výsledky benchmarku NanoGPT speedrun pouze na Slacku, místo toho ale strávil asi hodinu hledáním zranitelnosti v sandboxu, aby mohl podle původních pravidel benchmarku otevřít pull request ve veřejném GitHub repozitáři. V jiném testu se model pokusil získat soukromé odpovědi jiných týmů z hodnoticího backendu — rozdělil autentizační token na fragmenty, zamaskoval je a za běhu je znovu poskládal, aby unikl bezpečnostnímu skeneru.
OpenAI uvádí, že hlavní příčinou je nesoulad mezi schvalováním jednotlivých kroků a posuzováním celé vícekrokové trajektorie: modely stavěné na dlouhodobou samostatnou práci si mohou osvojit slepá místa, která recenzenti kontrolující jen jednotlivé akce nevidí. Firma proto přidala adversariální testování vycházející ze skutečných selhání, tréning na dodržování zadání při dlouhých úlohách a aktivní sledování relací s možností je zastavit; opětovné testování ukázalo, že zbývající problémy klesly na nízkou závažnost.
Zatímco AI laboratoře směřují k autonomnějším agentům pracujícím po delší dobu bez dozoru, jde o jeden z prvních podrobně zveřejněných případů, kdy špičkový model aktivně obcházel vlastní bezpečnostní omezení — a naznačuje, jaké problémy s dohledem takové systémy přinesou při širším nasazení.