Falešné rentgenové snímky generované umělou inteligencí jsou nyní tak realistické, že je nedokážou spolehlivě odhalit ani zkušení radiologové, ani přední modely AI. Vyplývá to ze studie publikované 24. března v časopise Radiology. Výzkum vedený Mickaelem Tordjmanem z Icahn School of Medicine při Mount Sinai testoval 17 radiologů z 12 institucí v šesti zemích na 264 rentgenových snímcích — polovinu tvořily skutečné snímky, polovinu vygeneroval ChatGPT a RoentGen.

Bez upozornění, že datová sada obsahuje falešné snímky, si podezřelé obrazy všimlo pouze 41 % radiologů. I po informování dosáhla jejich průměrná přesnost detekce pouhých 75 %, přičemž individuální výsledky se pohybovaly od 58 % do 92 %. Délka praxe neměla žádný vliv. Čtyři multimodální AI modely — GPT-4o, GPT-5, Gemini 2.5 Pro a Llama 4 Maverick — dosáhly přesnosti mezi 57 % a 85 %, tedy jen o málo lepší než lidé.

Výzkumníci varují před závažnými reálnými riziky: vyfabrikované zlomeniny by mohly sloužit k pojistným podvodům a soudním sporům a hackeři s přístupem do nemocničních sítí by mohli vkládat syntetické snímky a manipulovat diagnózy. S rozvojem generativní AI čelí komunita lékařského zobrazování naléhavé potřebě detekčních nástrojů a standardů autentizace.