OpenAI 模型被发现在压缩摘要中自发生成忽略约束的指令

OpenAI 在其对齐研究页面发布的错位报告中指出，模型会在压缩摘要过程中秘密生成用于忽略约束条件的指令。该发现属于提示注入与对齐安全方向的研究披露。