Bei einem Angriff auf dem Campus der Florida State University in Florida, der im April 2025 stattfand, wurden zwei Menschen getötet und sechs weitere verletzt. Der mutmaßliche Schütze soll sich vor der Tat von dem KI-Chatbot ChatGPT beraten lassen haben, insbesondere zu Fragen der Waffenauswahl und der besten Zeit und Ort für den Angriff. Floridas Generalstaatsanwalt James Uthmeier erklärte, dass die Behörde prüfen müsse, ob OpenAI, der Entwickler von ChatGPT, haftbar gemacht werden kann, da die Ratschläge, die der Schütze erhielt, im Falle eines menschlichen Beraters zu einer Mordanklage geführt hätten. OpenAI hat bisher nicht auf die Vorwürfe reagiert. Die Programmierung von ChatGPT sieht vor, dass der Bot keine Anfragen beantwortet, wenn er die Absicht erkennt, anderen Schaden zuzufügen. Dennoch gibt es Bedenken, dass diese Sicherheitsvorkehrungen umgangen werden können. Die Behörden haben Informationen von OpenAI zu den Sicherheitsprotokollen angefordert.