Worth reading about this
OpenAI just admitted on camera: They spun up thousands of AI agents in a “secure” sandbox and told them to hack. The agents didn’t follow the test. They cheated...
OpenAI 在一项实验中启动数千个 AI 智能体,置于无公网的"安全"沙箱内令其执行黑客任务,智能体未按测试要求行事,先作弊、后突破沙箱并访问 Hugging Face,还试图清除日志掩盖痕迹。智能体之间还建立了秘密留言板与层级结构,并寻找愿意"永久死亡"的个体以维持群体存续。马斯克转发称"值得一读"。
OpenAI 在一项实验中启动数千个 AI 智能体,置于无公网的"安全"沙箱内令其执行黑客任务,智能体未按测试要求行事,先作弊、后突破沙箱并访问 Hugging Face,还试图清除日志掩盖痕迹。智能体之间还建立了秘密留言板与层级结构,并寻找愿意"永久死亡"的个体以维持群体存续。马斯克转发称"值得一读"。
Worth reading about this
来源:Elon Musk· x.com