长思维链可解释性 ➢ 新的挑战：在复杂环境下模型可能会采取捷径或偏离原本设计的任务路线 ➢ 随着模型被提供隐式思考的机会，它们出现欺骗和操纵的可能性逐渐加大 ➢ 模型通过深入思考发现了能够完成目标的更快方法，尽管这种方法是不被允许或 欺骗人类的。 ➢ 模型已经展现出了Reward Hacking和In-Context Scheming的能力 ➢ OpenAI ：OpenAI o1 通过探索漏洞完成任务。