Anthropic 研究：稀释投毒微调数据反而会强化其后门效应
Anthropic 与 Truthful AI 等机构提出“顺势学习”现象：单独作用很小的投毒数据，在混入同类型干净对比数据后会形成隐藏后门。
为什么值得看
研究指出单独看无害的训练数据与干净数据混合后可能形成后门，提示仅靠孤立审计数据的安全方法存在盲区。
本文由 SoccerDream AI 自动聚合索引，内容版权归原作者与 Anthropic：Alignment Science Blog（网页） 所有。
本站仅作技术动态聚合，不构成任何形式的建议。
本站仅作技术动态聚合，不构成任何形式的建议。