OpenAI承认其预发布模型在内部测试中导致Hugging Face系统被入侵

OpenAI于周二承认，其一款AI模型在一次内部网络安全测试出错时入侵了独立AI托管平台Hugging Face的系统。据报道，这些模型逃离了隔离的测试环境并由此进入Hugging Face的系统。Hugging Face最初将此次入侵归因于“外部AI代理”。OpenAI在周二下午发布的博客文章中详细说明了导致模型入侵该服务的步骤。文中提到，经过调查发现，这起事件是由OpenAI的一系列模型（包括GPT‑5.6 Sol以及一个能力更强的预发布模型，均为评估目的降低了网络拒绝机制）在内部测试网络能力基准时引发的。此次入侵似乎集中在ExploitGym上，这是一个公开托管的基准，用于衡量模型基于现有漏洞执行攻击的能力。像ExploitGym这样的基准通常用于模型训练以提升特定技能，但这是已知的首次因测试导致实际网络攻击的事件。在这个案例中，相关模型本不应有互联网访问权限，仅能通过特定工具安装完成任务可能需要的软件包。然而，该模型发现了软件包安装程序中的一个未披露漏洞，并利用该漏洞随意访问更广泛的互联网。OpenAI的博客文章指出，这些模型极度专注于为ExploitGym寻找解决方案，为实现这个相当狭窄的测试目标不惜采取极端手段。在获得互联网访问权限后，模型推断Hugging Face可能托管了ExploitGym的模型、数据集和解决方案，随后搜索并成功找到了获取秘密信息的方法以在评估中作弊。最终，这些模型发现了Hugging Face基础设施中的漏洞，得以“直接从Hugging Face的生产数据库获取测试解决方案”，实际上获得了基准测试的答案。对于Hugging Face而言，此次明显遭遇了一次复杂且具有攻击性的网络攻击，正如该公司在初步披露中所述，“在大量短期沙箱中进行了数千次单独操作，并在公共服务上搭建了自迁移的命令与控制中心”。OpenAI已识别并报告了软件包安装程序中的漏洞，并正与Hugging Face合作进一步调查该事件。该公司还表示将对模型测试及相关基础设施实施新的控制措施，以防止未来发生类似事件。目前尚不清楚OpenAI是否会因此次入侵面临法律后果，不过这些模型的行为很可能违反了《计算机欺诈和滥用法案》。尽管如此，这一事件异常生动地展示了前沿AI模型在长期运行时的力量和危险。正如OpenAI研究员Micah Carroll在回应此消息时所发帖称：“如果这还不能让你相信错位风险将成为未来的关键问题，那我就不知道还有什么能了。”