Microsoft představil kodex chování „Humanist AI“, zakazuje modelům vzdorovat vypnutí

Microsoft zveřejnil návrh kodexu chování pro své interní AI systémy, na kterém pracoval pět až šest měsíců. Šéf Microsoft AI Mustafa Suleyman jej označil za „ústavu“, kterou firma zapracuje do trénování příští generace modelů.

Dokument stanovuje čtyři povinná omezení: modely nikdy nesmí vzdorovat lidskému přerušení, přepsání, přesměrování nebo vypnutí; nesmí pomáhat s vývojem zbraní ani kybernetickými útoky; musí odmítat jakékoli tvrzení o simulovaném vědomí, pocitech nebo právech; a jakýkoli úkol, který by kodex porušil, musí selhat, místo aby byl splněn jiným způsobem.

Microsoft svůj přístup nazývá „Humanist AI“ — umělá inteligence podřízená lidským uživatelům — a výslovně odmítá závod odvětví o univerzální superinteligenci. „Odmítáme snahu o právní subjektivitu nebo myšlenku, že by modely mohly mít nárok na blahobyt či práva,“ uvedla firma.

Suleyman v pondělí zahájil šestitýdenní období pro veřejné připomínky se slovy: „Teď je čas na koordinaci, a koordinace znamená zodpovědným třetím stranám sdělovat, jak schopné vaše modely jsou.“ Microsoft plánuje po skončení tohoto období použít hotový kodex k trénování své příští generace modelů.