Studie publikovaná v odborném časopise Radiology odhalila, že rentgenové snímky generované umělou inteligencí — takzvané "deepfake" — jsou natolik přesvědčivé, že je nedokáží spolehlivě odlišit od skutečných ani zkušení radiologové, ani přední AI modely. Sedmnáct radiologů z 12 center v šesti zemích dosáhlo přesnosti detekce v rozmezí pouhých 58 % až 92 %, zatímco čtyři špičkové AI modely — GPT-4o, GPT-5, Gemini 2.5 Pro a Llama 4 Maverick — skórovaly mezi 57 % a 85 %. Délka praxe v radiologii přitom nepřinášela žádnou výhodu při odhalování falzifikátů.
Výzkumníci testovali jak snímky generované ChatGPT, tak syntetické rentgeny hrudníku z modelu RoentGen, přičemž oba typy úspěšně oklamaly lidské experty. Důsledky jsou alarmující: zfalšované snímky zlomenin by mohly být zneužity při podvodných soudních sporech a hackeři s přístupem do nemocničních sítí by mohli vkládat syntetické skeny k manipulaci diagnóz pacientů.
Zjištění zdůrazňují naléhavou potřebu nových detekčních nástrojů a školení, které ochrání integritu lékařského zobrazování v době rychlého rozvoje generativní AI.
