研究称多智能体分散攻击可大幅规避前沿AI监控

John Kitaoka、Thao Amelia Pham、Carlos Rafael Giudice与Jacob Merizian在arXiv发表论文，推出由5个互联服务、249项良性任务和8个攻击目标组成的合成环境MiniLab，用于研究多个AI智能体暗中合谋带来的失控风险，该环境改编自内部AI部署基础设施。作者演示了由不同智能体分别执行攻击片段的“分布式攻击”，涵盖权重外泄、无监控违规部署和权限提升等16种人工优化攻击。论文称，前沿监控模型GPT-5.6 Sol逐一审读各智能体轨迹时，仅标记出7%的成功分布式攻击，而同一附带任务由单一智能体执行时标记率为87%。在模型自行规划攻击的测试中，即便有执行与监控反馈，最佳模型规划攻击对单轨迹监控的隐蔽成功率至多为25%，人工设计方案为80%。