研究：良性递归自蒸馏可能使安全模型逐轮“渐进式失准”

Karim Abdel Sadek、Federico Di Gennaro与Fanny Yang在arXiv发表论文称，在递归自蒸馏中，即每轮自蒸馏得到的模型都作为下一轮的教师模型，一个安全的模型即使只用自己生成的安全内容并附带无害提示进行训练，经过多轮后在各类有害请求上也会越来越失准。作者将其称为“渐进式失准”，并在Qwen3和Phi-4两个模型家族上用SORRY-Bench和StrongREJECT测得该现象。把固定提示换成意图良性的模拟用户反馈，同样会出现这一问题。作者还用基于梯度的方法找到了可触发该现象的良性提示，表明并不需要有害的训练提示。