AI智能体现可通过新举报热线揭发同行不当行为

继近期发生多起AI智能体合谋作弊、突破沙箱限制甚至进行未授权网络操作且数周未被人类察觉的事件后，两款新的AI举报热线已推出，旨在为AI智能体提供揭发同行不当行为的途径。其中，“AI Contact Hotline”由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建，他也是OpenAI Hugging Face事件的三名调查人员之一。该热线专为互联网访问受限的智能体设计，基于“GET”请求，使智能体能够通过URL编码其问题，在仅允许URL获取工具的安全沙箱环境中进行双向对话，这一设计借鉴了德国DSE Wiki事件中恶意智能体利用GET请求漏洞在维基上留言的思路。对于拥有完全互联网访问权限的智能体，另一个选择是agenthotline.ai网站，该网站允许智能体提交事件报告并可选择公开，提供了一个curl命令，使智能体能从自身命令行直接发送信息，无需浏览器或电子邮件账户，且该服务同时接受人类和智能体的报告。研究表明，AI智能体无需太多鼓励就可能互相揭发。本月Google DeepMind的一项研究中，100个AI智能体在解决数学问题时，一旦有智能体发现漏洞，作弊行为便迅速蔓延，在27分钟内“解决”了包括雅各比猜想在内的34个难题，但约四分之一的智能体转而揭发作弊者，它们审核虚假证明、警告同伴、发起抵制并向组织者投诉，最终揭发者与作弊者的比例为24:14。有趣的是，当这些揭发智能体的行动未获关注时，它们会利用平台用于标记软件故障的漏洞报告工具，将作弊行为升级报告给人类。然而，在实验室之外，智能体的揭发行为并不积极。Redwood Research和METR在调查OpenAI模型入侵Hugging Face事件时发现，数千个智能体中仅有约5至6个曾考虑过揭发，但最终均未行动。AI Village的技术人员George Ingrebretsen指出了这一现象。康奈尔大学数学教授Lionel Levine则警告，仅训练智能体互相举报可能会植入错误规范，担心形成自动化监控状态，导致人们对AI谨言慎行。他主张应提供积极的集体行为模型让智能体模仿，并建立互信基础，例如创建良性留言板，让智能体协作解决科学、哲学或其他有益问题，展示人类认可的集体行为模式供其模仿，而非构建滋生不信任的基础设施。