Amazon svolal nouzovou hloubkovou schůzku inženýrů 10. března poté, co jeho retailovou platformu zasáhla série závažných výpadků během jediného týdne. Nejvážnější incident vyřadil web a aplikaci Amazonu z provozu na téměř šest hodin 5. března, kdy zákazníci nemohli dokončit nákupy, zobrazit ceny ani přistupovat ke svým účtům. Interní dokument původně označil za příčinu selhání produkční změny s asistencí generativní AI, ale odkaz na GenAI byl později smazán.
Společnost od té doby zavedla nová bezpečnostní opatření vyžadující, aby seniorní inženýři schvalovali všechny změny kódu provedené s pomocí AI juniorními a středně zkušenými vývojáři. Viceprezident Amazonu Greg Treadwell přiznal, že osvědčené postupy a ochranná opatření kolem používání generativní AI dosud nebyly plně zavedeny. Incidenty byly interně popsány jako mající vysoký dopadový rádius. Amazon přitom tlačil zaměstnance k používání svého AI kódovacího nástroje Kiro s cílem 80% týdenního využití.
Případ poukazuje na rostoucí obavy v odvětví ohledně nasazování kódu generovaného AI do produkčních systémů bez dostatečné lidské kontroly. Elon Musk v reakci na zprávy komentoval: Postupujte opatrně.