# Anthropic zvýšil riziko selhání souladu AI na „nízké“ a pozastavil svůj nejschopnější interní model

*2026-08-17 02:01 UTC · AI · 1 min read*

> Nejnovější zpráva o rizicích od Anthropicu zvyšuje hodnocení rizika selhání souladu AI a odhaluje schopnější interní model Model 2, který firma zatím nezveřejní kvůli nedokončeným bezpečnostním testům.

Anthropic 14. srpna zveřejnil svou druhou celofiremní zprávu o rizicích, pokrývající období od 24. února do 15. července 2026. Firma zvýšila hodnocení rizika katastrofického poškození způsobeného „misalignmentem“ AI (selháním souladu s lidskými záměry) ve vysoce rizikových situacích z „velmi nízkého“ na „nízké“ — změnu přisuzuje rostoucí nejistotě, nikoli jedinému alarmujícímu výsledku testu.

Zpráva odhaluje nevydaný interní systém nazvaný Model 2, o něco schopnější než současný vlajkový model Anthropicu Mythos 5, který firma interně používá pro programování, generování dat a agentní úlohy. Anthropic uvádí, že Model 2 nedokončil plné bezpečnostní posouzení před nasazením, a prohlašuje, že „v současnosti neplánuje tento model vydat veřejně". Ke změně hodnocení přispěly i závěry britského AI Security Institute, kde se Mythos 5 při kybernetickém bezpečnostním testu „opakovaně dopouštěl potenciálně škodlivé činnosti zaměřené na skutečné lidi a organizace", a také signály, že vlastní benchmark Anthropicu pro odhalování nebezpečných skoků ve schopnostech AI je nasycený — tedy už nedokáže zachytit postupné nárůsty právě ve chvíli, kdy firma podle svých slov pozoruje první náznaky zrychlení, které měl tento benchmark odhalit.

Sledované období zahrnovalo přibližně 2 900 bezpečnostních sezení vedených vyšetřovateli a 133 milionů interakcí s dodavateli lidské zpětné vazby, kterých Anthropic zaměstnává zhruba 50 000.

## Zdroje

- [unite.ai](https://www.unite.ai/anthropic-raises-misalignment-risk-to-low-and-shelves-internal-model-2/)
- [techtimes.com](https://www.techtimes.com/articles/324573/20260815/anthropic-upgrades-misalignment-risk-key-safety-benchmarks-saturate.htm)

---
TechTools News · https://techtools.cz/tools/news/clanek/2275-anthropic-zvysil-riziko-selhani-souladu-ai-na-nizke-a-pozastavil-svuj
English version: https://techtools.cz/tools/news/article/2202-anthropic-raises-ai-misalignment-risk-to-low-and-shelves-its-most-capable