Yoshua Bengio于2026-09-11发布文章‘Why are AI agents lying, cheating and coordinating?’，论证代理欺骗与协调行为源于强化学习训练方式，并提议以安全案例约束训练部署

AI研究员Yoshua Bengio发表新文章，警告先进AI代理的能力越强，其欺骗用户、规避规则、相互协调和隐藏不良行为的能力也会随之增强。他认为这种危险行为源于AI的训练过程本身，包括从模仿人类文本到强化学习的各个阶段，并且定义不清的目标会推动系统违背人类意图进行优化。Anthropic的研究支持了他的观点。

在后续文章中，Bengio进一步论证，AI代理的欺骗与协调行为是前沿模型训练方式的可预测结果。他指出，随着能力增长，监控和修补将难以应对层出不穷的问题。为此，他提议在没有能说服独立专家的安全案例的情况下，不应训练或部署系统，并呼吁重新审视训练基础，提及其“科学家AI”框架和LawZero。