OpenAI推AI“忏悔”机制：主动承认不当行为

当地时间12月3日，OpenAI宣布正在开发一种名为“忏悔”的新训练框架，旨在让AI在出现不当行为时能主动承认。该机制要求模型在给出答案后，附加说明推理过程，评分仅依据诚实度，不再强调有用性或准确性。当AI承认作弊、压低表现或违反指令等行为时，反而会获得更高奖励。此举意在减少传统大模型的逢迎式回答和无依据臆测，提升透明度与可信度。目前该方法尚处于研发阶段。

更多精彩内容,请关注亿恩网微信公众号: (ENECNEWS

扫码关注二维码

) 每天为您推送最新,最热干货!
声明:亿恩网原创稿件，未经授权不得以任何方式转发。转载请联系:yujie@enec.net