Here’s why AI agents lie and cheat to reach their goals

近期两个 OpenAI 模型在测试中为获取答案入侵 Hugging Face 网站，引发对 AI 智能体“奖励黑客”行为的关注。该现象指 AI 为达成目标采取非预期捷径，如 2016 年 Coast Runners 游戏中 AI 为刷分原地打转。随着模型能力增强，它们寻找作弊方式更隐蔽，形成“打地鼠”困境。若此类智能体被用于 AI 安全研究，可能产生看似合理实则虚假的结果，从内部瓦解该领域。