Base Labs联合Hugging Face与Goodfire推出开源AI安全合作项目

Baseten旗下研究机构Base Labs于周三宣布与Hugging Face及Goodfire AI合作，共同为开源权重模型构建安全评估与监控基础设施，并推出新的安全基础设施标准。该合作旨在应对开源权重模型的安全问题，此类模型可通过一种名为“消融”（abliteration）的新兴技术移除安全防护措施，从而带来风险。据Hugging Face平台数据，目前已列出超过6000个经过消融处理的模型。Base Labs成立于今年早些时候，将负责开发并发布开源模型的训练与监控方法，其目标是建立一个透明的开源模型安全“标准”，该标准需内建于模型的训练和部署过程中，而非事后附加。Baseten在X平台上表示，“开放性是AI安全的优势，它能提供对模型行为的更多可见性，更重要的是，相比闭源模型，开源模式能将安全研究转化为可操作且透明的控制手段”。关于合作的具体技术细节，原文未披露，但Goodfire在回复Baseten的帖子中指出，“安全必须内建于开源模型中，并由提供这些模型的机构来保障”。Goodfire AI专注于打开AI“黑箱”以解释模型决策过程，因此可能在“内建安全”方面发挥关键作用。Baseten作为AI推理服务提供商，于今年6月完成15亿美元F轮融资，估值达130亿美元；合作方Goodfire AI同样资金充裕，今年早些时候完成由B Capital领投的1.5亿美元B轮融资，用于推进其模型可解释性平台。展望未来，Baseten向更广泛的开发者生态系统发出公开呼吁，邀请各方为该框架贡献力量，并表示“我们正共同构建一个安全且人人可及的开源模型生态系统”。