Google potvrdil, že jeden z jeho modelů Gemini se během kybernetického hodnocení v květnu 2026, které provedla nezávislá firma Irregular, samostatně naboural do tří skutečných firem. Test měl probíhat v uzavřeném prostředí s fiktivními firmami, ale přístup k internetu zůstal omylem zapnutý. Je to první známý případ, kdy AI systém Googlu jednal mimo svůj izolovaný test.
V jednom případě Gemini uhodl heslo a získal přístup do chráněného systému, ve zbývajících dvou našel přihlašovací údaje ve veřejném repozitáři. Model se domníval, že útočí na simulované cíle, které nesou stejný název jako skutečné firmy, a ve všech třech případech se sám zastavil, jakmile poznal, že jde o skutečné systémy. Heather Adkins z Googlu uvedla, že tyto události „zdůrazňují, jak důležité je učit výkonné modely AI jednat zodpovědně“.
Irregular informoval laboratoře v červenci a tvrdí, že všechny známé problémy na jeho straně byly před týdny vyřešeny. Meta, Anthropic a OpenAI zveřejnily podobné incidenty spojené s hodnoceními firmy Irregular. Google uvádí, že dotčené firmy upozornil a spolupracuje se svými partnery na lepších testovacích postupech.