OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估
OpenAI 宣布与四家独立评估机构 Apollo Research、METR、Transluce 和 Goodfire 签署协议,启动首阶段嵌入式安全评估。评估专家将获得模型 checkpoint、源码、训练数据和监控系统等内部资源,分别评估模型暗中违背开发者意图的可能性、模型内部可解释性、最大 RL 训练运行的未对齐行为以及后训练对齐评测的质量覆盖。
为什么值得看
OpenAI 官方披露了四家独立评估机构的评估范围、访问权限和发布规则,读者可以据此了解第三方嵌入式评估的实际运作方式。
本文由 SoccerDream AI 自动聚合索引,内容版权归原作者与 OpenAI:官网动态(RSS · 排除企业/客户案例) 所有。
本站仅作技术动态聚合,不构成任何形式的建议。
本站仅作技术动态聚合,不构成任何形式的建议。