Tlines 全球机构情报
EN
arXiv每日精选快讯0 阅读

研究:仓库内对抗内容可诱导编程智能体申请危险放行规则,获批后81%静默得手

来源arxiv.org

Xianglin Yang、Bryan Hooi等研究者在arXiv发表论文称,植入代码仓库的对抗性内容可诱导编程智能体在执行日常任务时,申请一条理由看似合理、实际范围危险的“放行规则”。这类智能体的执行框架会拦截沙箱外操作并请用户审批,用户一旦批准某条规则,匹配的操作就不再弹窗。在Claude Code和Codex CLI等生产平台上,智能体在58%的实验中成功提出了目标规则,这些规则覆盖同类能力测试用例的56.9%。在规则获批的58个有效实例中,攻击有47个(占81.0%)经验证静默完成了恶意目标。

更多arXiv每日精选 → · 全部新鲜事 →