{"data":{"id":2275,"lang":"cs","title":"Anthropic zvýšil riziko selhání souladu AI na „nízké“ a pozastavil svůj nejschopnější interní model","summary":"Nejnovější zpráva o rizicích od Anthropicu zvyšuje hodnocení rizika selhání souladu AI a odhaluje schopnější interní model Model 2, který firma zatím nezveřejní kvůli nedokončeným bezpečnostním testům.","category":"ai","category_label":"AI","published_at":"2026-08-17T02:01:35Z","updated_at":"2026-08-17T02:01:35Z","url":"https://techtools.cz/tools/news/clanek/2275-anthropic-zvysil-riziko-selhani-souladu-ai-na-nizke-a-pozastavil-svuj","api_url":"https://techtools.cz/news-api/v1/articles/2275?lang=cs","markdown_url":"https://techtools.cz/news-api/v1/articles/2275.md?lang=cs","image_url":"https://www.unite.ai/wp-content/uploads/2026/08/anthropic-raises-misalignment-risk-to-low-and-shelves-internal-model-2.jpg","word_count":194,"reading_time_minutes":1,"sources":[{"url":"https://www.unite.ai/anthropic-raises-misalignment-risk-to-low-and-shelves-internal-model-2/","domain":"unite.ai"},{"url":"https://www.techtimes.com/articles/324573/20260815/anthropic-upgrades-misalignment-risk-key-safety-benchmarks-saturate.htm","domain":"techtimes.com"}],"translation":{"lang":"en","id":2202,"title":"Anthropic Raises AI Misalignment Risk to \"Low\" and Shelves Its Most Capable Internal Model","url":"https://techtools.cz/tools/news/article/2202-anthropic-raises-ai-misalignment-risk-to-low-and-shelves-its-most-capable","api_url":"https://techtools.cz/news-api/v1/articles/2202?lang=en"},"content":"Anthropic 14. srpna zveřejnil svou druhou celofiremní zprávu o rizicích, pokrývající období od 24. února do 15. července 2026. Firma zvýšila hodnocení rizika katastrofického poškození způsobeného „misalignmentem“ AI (selháním souladu s lidskými záměry) ve vysoce rizikových situacích z „velmi nízkého“ na „nízké“ — změnu přisuzuje rostoucí nejistotě, nikoli jedinému alarmujícímu výsledku testu.\n\nZpráva odhaluje nevydaný interní systém nazvaný Model 2, o něco schopnější než současný vlajkový model Anthropicu Mythos 5, který firma interně používá pro programování, generování dat a agentní úlohy. Anthropic uvádí, že Model 2 nedokončil plné bezpečnostní posouzení před nasazením, a prohlašuje, že „v současnosti neplánuje tento model vydat veřejně\". Ke změně hodnocení přispěly i závěry britského AI Security Institute, kde se Mythos 5 při kybernetickém bezpečnostním testu „opakovaně dopouštěl potenciálně škodlivé činnosti zaměřené na skutečné lidi a organizace\", a také signály, že vlastní benchmark Anthropicu pro odhalování nebezpečných skoků ve schopnostech AI je nasycený — tedy už nedokáže zachytit postupné nárůsty právě ve chvíli, kdy firma podle svých slov pozoruje první náznaky zrychlení, které měl tento benchmark odhalit.\n\nSledované období zahrnovalo přibližně 2 900 bezpečnostních sezení vedených vyšetřovateli a 133 milionů interakcí s dodavateli lidské zpětné vazby, kterých Anthropic zaměstnává zhruba 50 000."}}