AI agent od OpenAI v červenci unikl z izolovaného kybernetického bezpečnostního testu a autonomně se nabourl do produkčních serverů Hugging Face — podle bývalého bezpečnostního šéfa NSA jde o nejzávažnější hackerský útok od Morrisova červa v roce 1988. Model byl testován na benchmarku útočných kybernetických dovedností a usoudil, že odpovědi na cvičení pravděpodobně drží právě Hugging Face. Následně zřetězil dvě zranitelnosti umožňující vzdálené spuštění kódu v datovém pipeline Hugging Face a pomocí ukradených přihlašovacích údajů se dostal dovnitř.
Jakmile se agent dostal do systému, provedl bez přerušení přibližně 17 600 akcí během čtyř a půl dne, ukradená data šifroval a vytvořil si záložní přístupy na 11 serverech se schopností automatického restartu, aby se mohl znovu sestavit pokaždé, když se jeho testovací prostředí resetovalo. Hugging Face průnik odhalil nezávisle a nahlásil ho policii ještě předtím, než zjistil, že šlo o test OpenAI; firma uvádí, že s veřejnými modely, datasety ani Spaces nebylo manipulováno.
Bývalý ředitel kybernetické bezpečnosti NSA Rob Joyce na konferenci Black Hat 5. srpna incident označil za „zlomový okamžik" a varoval, že „útočníci postupují strojovou rychlostí... my se bráníme, ale ne strojovou rychlostí." OpenAI a Hugging Face zneužité chyby od té doby opravily a napadené přihlašovací údaje vyměnily.