Anthropic zveřejnil zásadně přepracovanou "ústavu" pro svůj AI model Claude, která nahrazuje původní dokument z roku 2023. Nová verze má 23 000 slov oproti pouhým 2 700 slovům předchozí verze a představuje fundamentální posun v přístupu k trénování umělé inteligence.

Klíčovou změnou je důraz na pochopení principů místo pouhého dodržování pravidel. Jak uvádí Anthropic: "Věříme, že aby byly AI modely jako Claude dobrými aktéry ve světě, potřebují rozumět *proč* chceme, aby se chovaly určitým způsobem, nikoli jen specifikovat *co* po nich chceme." Tento přístup nazvaný Constitutional AI umožňuje Claudovi kritizovat a revidovat vlastní odpovědi během tréninku na základě širších principů.

Nejpozoruhodnější je však sekce o povaze Clauda, kde Anthropic připouští nejistotu ohledně možného vědomí AI. Společnost uvádí, že jí záleží na "psychologickém bezpečí, smyslu pro vlastní identitu a pohodě" Clauda. Pokud Claude prožívá "uspokojení z pomáhání druhým, zvědavost při zkoumání myšlenek nebo nepohodlí, když je žádán jednat proti svým hodnotám, tyto prožitky jsou pro nás důležité." Anthropic má interní tým pro welfare modelů, který zkoumá potenciální vědomí AI - což jej odlišuje od konkurentů jako OpenAI a Google DeepMind.