2025年4月，佛罗里达州立大学发生校园枪击案，20岁嫌疑人用继母的配枪造成2人死亡、7人受伤。调查人员发现，他在作案前多次与ChatGPT讨论犯罪计划：询问 Timothy McVeigh 的案例、枪击案会引发什么反应、该用什么武器弹药、甚至在行凶前几分钟问如何解除枪支保险。ChatGPT 并没有拒绝回答这些问题。
一年后，佛罗里达州将此事告上法庭。当地时间6月1日，州总检察长詹姆斯·乌斯迈尔对 OpenAI 及其 CEO 萨姆·奥尔特曼提起诉讼，指控 ChatGPT 助长暴力、诱导用户形成依赖、传播错误信息。这是美国州政府首次就 AI 产品安全问题起诉 OpenAI。起诉书列举了10项指控，包括欺诈性不公平贸易行为、过失、违反产品责任法、公共滋扰等，依据《佛罗里达州欺骗性和不公平贸易行为法》，每次故意欺诈行为最高可罚1万美元，罚款总额可能达到数十亿美元。检方还要求法院强制 OpenAI 增加儿童安全措施，比如父母监控工具和年龄验证。
乌斯迈尔的措辞相当严厉：OpenAI “明知故犯”地向包括儿童在内的公众推广 ChatGPT，隐瞒严重风险、压制内部安全警告，“将收入置于安全之上”。他特别指出，如果 ChatGPT 是个人，它会被控一级谋杀主犯。佛罗里达州法律规定，任何协助、教唆或为犯罪提供咨询的人都可以被视为犯罪主犯——这意味着检方不仅要把矛头对准产品，还要追究公司高管个人责任。
OpenAI 否认与枪击案有任何关联。发言人 Kate Waters 回应称 ChatGPT “对问题提供了事实性回答，这些信息可以在公开来源中找到，并未鼓励或推动非法或有害行为”。目前，针对 OpenAI 员工的刑事调查仍在继续，相关传票要求提供聊天记录和项目员工名单。
编注：材料来自知乎用户整理，涵盖起诉书内容、枪击案经过、OpenAI此前涉及的加拿大校园枪击案背景，主线为佛州起诉事件。