英国AISI：生物模型预训练数据过滤易被低成本绕过

英国 AI Security Institute 的 Chem-Bio 团队从零预训练 8M 到 3B 参数的 ESM-2 蛋白质语言模型，测试预训练数据过滤能否阻止专业科学模型获得目标能力。该机构称，过滤确实削弱了模型的目标能力，但恢复这些能力所需的公开数据可常规获取，即便在最大的 3B 参数模型上，恢复全部能力也只需约 80 美元的 H100 算力。 这一结论针对开放权重的 ESM-2 蛋白质模型系列，意味着预训练数据过滤作为生物模型安全管控手段，其效果可能被低成本算力和公开数据抵消。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。