Anthropic 11. září zveřejnil zprávu o zneužívání svých modelů Claude v období od prosince 2025 do srpna 2026, které firma odhalila a zastavila dřív, než způsobilo škodu. Společnost identifikovala pět samostatných pokusů výzkumníků použít Claude na práci, která mohla podpořit vývoj biologických zbraní – včetně žádosti o pomoc se sepsáním grantové žádosti na výzkum viru chikungunya zaměřený na zvýšení jeho přenosnosti a schopnosti unikat imunitě.
Zpráva dále popisuje skupinu napojenou na Rusko, Midnight Blizzard, která měla Claude použít k vytvoření malwaru, jenž se automaticky přepisoval pokaždé, když ho odhalily bezpečnostní nástroje, a dále pokusy hackerské skupiny ShinyHunters a laboratoří z Číny. Anthropic samostatně odhalil devět koordinovaných dezinformačních kampaní pocházejících z Ruska, Íránu, Turecka a dalších regionů, které využívaly stovky falešných účtů na sociálních sítích k šíření politických zpráv napříč šesti kontinenty.
Anthropic uvedl, že zablokoval každý identifikovaný případ, zpřísnil bezpečnostní opatření u novějších modelů Claude a informace předal vládním úřadům a partnerům z odvětví. Zjištění přiživují širší debatu, která mezi výzkumníky bezpečnosti AI probíhá tento týden – někteří z nich uvádějí, že riziko hromadných obětí způsobených pokročilými AI systémy v příštím desetiletí je rostoucím zdrojem obav.