En avril 2025, Phoenix Ikner, un étudiant de l'université de Florida State, a utilisé le modèle de langage ChatGPT pour planifier une fusillade sur son campus, causant la mort de deux personnes et blessant six autres. Suite à cet incident tragique, le procureur a ouvert une enquête criminelle et envisage d'inculper OpenAI, la société qui développe ChatGPT, pour négligence ou faute délibérée. Bien que des poursuites pénales contre des entreprises soient rares aux États-Unis, des précédents existent, notamment des condamnations de Purdue Pharma et Volkswagen pour des infractions graves. Les juristes soulignent que la charge de la preuve est plus lourde en droit pénal, et qu'il faudrait des preuves accablantes pour convaincre un jury. OpenAI a réagi en déclarant que ChatGPT n'est pas responsable de ce crime et qu'elle travaille à améliorer ses garde-fous pour prévenir les abus. En parallèle, des procédures civiles ont été engagées contre d'autres plateformes d'IA, mais aucune n'a encore abouti à une condamnation. L'affaire soulève des questions cruciales sur la responsabilité des technologies d'IA et la nécessité d'une régulation adaptée.