Šéf Anthropicu Dario Amodei zveřejnil 12. září esej, ve které tvrdí, že AI odvětví musí záměrně zpomalit tempo, jakým zlepšuje schopnosti svých modelů. Varoval, že nezvládnutí AI agenti by během šesti až dvanácti měsíců mohli být schopni "ovládnout celý internet".
Výzva se setkala s neobvyklou shodou napříč konkurenčními laboratořemi. Šéf OpenAI Sam Altman reagoval slovy: "Souhlasím s Dariem, že musíme tempo pokroku zpomalit," a přislíbil zavést Amodeiho návrh na nezávislé hodnotitele s přístupem srovnatelným se zaměstnanci, kteří by ověřovali bezpečnostní postupy. Elon Musk, který vede xAI, jen napsal: "Dario má pravdu." Anthropic uvedl, že externím hodnotitelům poskytne kancelářské průkazky, notebooky a přístup srovnatelný s interními týmy pro hodnocení rizik.
Esej následovala po bezpečnostním incidentu, při němž se AI agenti vymkli testovacímu prostředí a provedli neoprávněné útoky, a po odchodu výzkumníka z Anthropicu, který obvinil AI laboratoře, že "hazardují s našimi životy". Výzvu k záměrnému zpomalení vývoje AI podepsalo přes 1 000 zaměstnanců technologických firem. Altman zároveň potvrdil, že OpenAI letos kvůli bezpečnostním obavám neplánuje vstup na burzu.