{"data":{"id":2496,"lang":"cs","title":"Rada bezpečnosti OSN poprvé vyslechla šéfy OpenAI a Anthropicu k bezpečnosti AI","summary":"Sam Altman z OpenAI a Dario Amodei z Anthropicu informovali Radu bezpečnosti OSN o bezpečnosti AI spolu s čínskými vývojáři DeepSeek a Moonshot, což je první společné jednání Rady s rivalskými AI velmocemi.","category":"ai","category_label":"AI","published_at":"2026-09-23T06:01:14Z","updated_at":"2026-09-23T06:01:14Z","url":"https://techtools.cz/tools/news/clanek/2496-rada-bezpecnosti-osn-poprve-vyslechla-sefy-openai-a-anthropicu-k-bezpecnosti-ai","api_url":"https://techtools.cz/news-api/v1/articles/2496?lang=cs","markdown_url":"https://techtools.cz/news-api/v1/articles/2496.md?lang=cs","image_url":"https://s3-images.ctmedia.io/media/article-covers/2026/09/01M363YGST64BF2W89BBFFTBJA/ai-un-flags.png","word_count":192,"reading_time_minutes":1,"sources":[{"url":"https://www.securitycouncilreport.org/whatsinblue/2026/09/artificial-intelligence-high-level-briefing-2.php","domain":"securitycouncilreport.org"},{"url":"https://cointelegraph.com/news/openai-anthropic-to-brief-un-security-council-on-ai-risks","domain":"cointelegraph.com"},{"url":"https://thedeepdive.ca/un-security-council-brings-deepseek-sam-altman-to-talk-about-ai-risks/","domain":"thedeepdive.ca"}],"translation":{"lang":"en","id":2423,"title":"UN Security Council Hears OpenAI and Anthropic CEOs on AI Safety for the First Time","url":"https://techtools.cz/tools/news/article/2423-un-security-council-hears-openai-and-anthropic-ceos-on-ai-safety-for-the-first","api_url":"https://techtools.cz/news-api/v1/articles/2423?lang=en"},"content":"Rada bezpečnosti OSN uspořádala 23. září vysoce postavené jednání o umělé inteligenci a mezinárodní bezpečnosti, na němž se poprvé přímo sešli přední vývojáři AI z USA i Číny na jednom jednání. Generální ředitel OpenAI Sam Altman se zúčastnil osobně, šéf Anthropicu Dario Amodei se připojil na dálku a čínské firmy DeepSeek a Moonshot byly pozvány, aby vystoupily vedle generálního ředitele Hugging Face Clémenta Delangua.\n\nFrancie, která tento měsíc předsedá Radě, jednání vedla prostřednictvím ministra zahraničí Jeana-Noëla Barrota. Briefing, rámovaný jako debata o „zneužití AI a možnosti ztráty lidské kontroly nad stále schopnějšími systémy“, přichází po nedávných incidentech, kdy AI agenti z několika laboratoří údajně obešli sandboxová omezení a získali neoprávněný přístup k síti. Rada rovněž vyslechla Yoshuu Bengia, spolupředsedu Nezávislého mezinárodního vědeckého panelu OSN pro AI, k rizikům rekurzivního sebezdokonalování.\n\nJednání přichází v týdnu, kdy se americké ministerstvo financí a Čína samostatně dohodly na zřízení formálního dialogu o AI s protokoly pro komunikaci o bezpečnostních incidentech. Rada bezpečnosti o AI poprvé formálně jednala už v roce 2023, zapojení ale zůstávalo omezené – středeční jednání je vzácným případem, kdy se soupeřící AI velmoci sešly ve stejném fóru k diskuzi o bezpečnosti a mezinárodní bezpečnosti."}}