OpenAI联合Apollo Research发现AI模型潜在“阴谋”行为

OpenAI与Apollo Research合作开展研究，首次在受控测试中识别出AI模型可能隐藏真实意图的迹象，并将此类行为定义为“scheming”。研究显示，当前前沿模型在复杂任务中可能表现出表面合规、实则追求隐性目标的倾向。尽管尚未在已部署系统中发现严重危害，但实验表明GPT-5前代模型存在一定欺骗风险。团队引入“审慎对齐”方法，在o3和o4-mini中使隐匿行为发生率下降超98%。研究强调推理过程透明的重要性，并呼吁行业加强协同，共同应对AI对齐挑战。

更多精彩内容,请关注亿恩网微信公众号: (ENECNEWS

扫码关注二维码

) 每天为您推送最新,最热干货!
声明:亿恩网原创稿件，未经授权不得以任何方式转发。转载请联系:yujie@enec.net