摘要 / 我的正文
IBM 发布 Granite 4.1 LLMON 预览版,提供 30 亿与 80 亿参数两个规格,采用开放权重发布。
官方数据称,在间接提示注入测试中,攻击成功率从此前基线的 53% 至 100% 降至 0.02% 至 5.6%。IBM 同时提示,该行为是"习得"而非"强制",即模型学到的是倾向,不是不可绕过的硬约束。
间接提示注入指攻击者把指令藏在模型读取的网页、文档或邮件中,诱导智能体执行非预期动作,是当前智能体落地最现实的攻击面。
观察:
"习得而非强制"这句限定比数字更重要:它意味着 0.02% 不是安全边界,只是概率下降,攻击者换一种载体仍可能穿透。部署方不能把模型层的鲁棒性当作唯一防线,仍须在工具调用前做参数白名单与二次确认,把"模型判断"降级为"建议"而非"执行"。这也是采购时该问的问题——不是注入成功率多少,而是绕过后的权限边界在哪里。
美国
AI
关键要点
一句话结论
(可由AI生成:一句话讲清这条新闻对你意味着什么)
可借鉴点
(可由AI生成:这条新闻能迁移到哪些业务/审查/写作场景)
证据锚点
(如:判决法院/案号/专利号/关键时间点)
后续跟踪
(如:上诉进展/和解条款/监管动作/同类案件)
证据与引用
原文链接:https://watch.patwatch.com/?news=d6a8ecfbc96fc490
来源:Intra-Watch 资讯 · 精选
原文时间:2026-11-13 16:00:00 抓取:2026-11-16 15:14:55
来源:Intra-Watch 资讯 · 精选
原文时间:2026-11-13 16:00:00 抓取:2026-11-16 15:14:55