OpenAI· @OpenAI · X·· 1 小时前AI 评分49
OpenAI 研究对抗模型蒸馏
AI 导读
知识蒸馏可以复制强大的 AI 能力,却无法复制围绕这些能力构建的安全防护措施。 我们分享了一项新研究,介绍我们在打击针对自家模型的蒸馏方面所做的工作、这些能力如何迁移,以及我们如何检测并阻断协同性的尝试。 这些发现正帮助我们强化防御,并支持全行业的安全防护。 openai.com/index/combatting-a…
正文 · 原文
Distillation can reproduce powerful AI capabilities without the safeguards built around them.
We’re sharing new research on our work to combat distillation of our models, how these capabilities transfer, and how we detect and disrupt coordinated attempts.
These findings are helping us sharpen our defenses and support safeguards across the industry.
来源:OpenAI · x.com