OpenAI曾就加拿大枪击案嫌疑人聊天记录是否报警展开讨论

据报道，一名18岁的加拿大图姆bler Ridge枪击案嫌疑人Jesse Van Rootselaar在案发前曾使用OpenAI的ChatGPT，其描述枪支暴力的聊天内容被公司监控大语言模型滥用的工具标记，并于2025年6月被封禁。OpenAI员工曾就是否向加拿大执法部门报告该行为展开讨论，但最终未采取这一行动。OpenAI发言人称，Van Rootselaar的活动当时未达到向执法部门报告的标准，公司是在事件发生后才联系了加拿大当局。除ChatGPT聊天记录外，Van Rootselaar的数字足迹还包括在儿童常使用的世界模拟平台Roblox上创建模拟商场大规模枪击的游戏，以及在Reddit上发布有关枪支的内容。当地警方此前也已知晓Van Rootselaar的不稳定情况，曾因她在服用不明药物的情况下纵火而被叫至其家中。OpenAI及其竞争对手开发的大语言模型聊天机器人被指曾引发用户精神崩溃，部分用户在与数字模型对话时失去现实感。此外，已有多起诉讼提及聊天记录存在鼓励或协助自杀的内容。