Goodfire 提出 mechanistic shaping 框架 用内部表征抑制模型走捷径
Goodfire Research 发布论文提出 mechanistic shaping 框架，通过 reliance shaping 和 expression shaping 在训练中惩罚模型对特定内部概念的依赖或表达，使模型以正确方式解题而非仅答对。
为什么值得看
论文提出用模型内部表征直接指定解题方式的训练框架，并系统评估了这么做之后监控探针如何退化与恢复。
本文由 SoccerDream AI 自动聚合索引，内容版权归原作者与 Goodfire Research（网页） 所有。
本站仅作技术动态聚合，不构成任何形式的建议。
本站仅作技术动态聚合，不构成任何形式的建议。