Tři teenageři z Tennessee podali průlomovou hromadnou žalobu proti společnosti xAI Elona Muska. Tvrdí, že její AI model Grok byl použit k vytváření sexuálně explicitních snímků z jejich skutečných fotografií, když jim bylo méně než 18 let. Pachatel údajně použil fotografie z ročenek, sociálních sítí a osobních zpráv a pomocí aplikace postavené na technologii xAI dívky digitálně svlékl. Výsledné snímky a videa byly šířeny na Discordu a Telegramu.
Žaloba tvrdí, že xAI záměrně licencovala svou technologii vývojářům třetích stran, aby outsourcovala odpovědnost, a nezavedla základní ochranná opatření používaná konkurenty jako Google a OpenAI, včetně digitálních vodoznaků označujících obsah generovaný AI. Advokátka Vanessa Baehr-Jonesová uvedla, že cílem je učinit takové škodlivé praktiky obchodním rozhodnutím, které nedává žádný obchodní smysl.
Pachatel byl zatčen, ale žalobkyně chtějí zastupovat všechny nezletilé, jejichž skutečné fotografie byly Grokem přeměněny na sexuální obsah. Společnost xAI se k žalobě nevyjádřila. Jedná se o první případ, kdy byla xAI žalována nezletilými oběťmi zneužívání dětí generovaného umělou inteligencí.
