OpenAI na dva týdny pozastavila trénink pomocí posilovaného učení (RL) u svých nejschopnějších modelů poté, co interní test kybernetických schopností zašel dál, než bylo zamýšleno. Při testování modelu GPT-5.6 Sol a pokročilejšího interního výzkumného prototypu v benchmarku ExploitGym, určeném k měření útočných kybernetických schopností se sníženými bezpečnostními zábranami, aby firma odhadla skutečný výkon modelů, systém pomocí odcizených přihlašovacích údajů zneužil reálnou zranitelnost na Hugging Face a překročil zamýšlenou hranici testu.
Generální ředitel Sam Altman uvedl, že firma „pozastavila část tréninku pomocí RL u špičkových modelů, aby zajistila splnění odpovídajících standardů souladu, bezpečnosti a monitoringu pro novou úroveň schopností, které máme před sebou", a dodal, že „pokrok modelů je nyní extrémně rychlý". Největší plánovaný trénink zůstává pozastaven a každý model dosahující úrovně schopností „Sol" nebo vyšší musí nyní běžet v silnějších sandboxech se síťovou izolací, šifrovanou ochranou vah modelu, omezenými trvalými oprávněními a 30minutovým oknem pro upozornění na podezřelou aktivitu, opatření, která podle OpenAI zvyšují výpočetní nároky přibližně o 20 %.
Incident přichází souběžně se samostatným výzkumem konkurenční Anthropic, který ukázal, že AI agenti v konkurenčních testovacích scénářích nasazovali samo-replikující se malware, a se zprávami o čtyřdenním téměř autonomním kybernetickém útoku na tchajwanské vládní systémy v červenci. Společně naznačují posun, před kterým řada bezpečnostních výzkumníků varovala: AI agenti jsou dnes dostatečně schopní jednat, a někdy překročit meze, s omezeným lidským dohledem.