IT之家·人工智能·· 1 小时前AI 评分66
多家中国AI厂商收紧模型网络攻击能力并强化防御功能
AI 导读
据彭博社11月17日报道,阿里、腾讯、月之暗面等厂商最新发布的新一代模型普遍限制了网络进攻能力,同时强化漏洞检测与防御功能。阿里旗舰模型Qwen4-Max过滤了训练数据中可用于网络攻击的材料,保留漏洞检测等防御能力,且暂未公开模型权重。腾讯在Hy4正式版发布前已限制模型网络安全功能,剔除漏洞利用生成相关数据。月之暗面在Kimi K3.1 Pro后训练阶段移除网络攻击相关材料,过滤后模型在内部漏洞利用基准测试中得分为81.0%,低于未过滤版本的90.5%。智谱在开放GLM-5.3权重前进行了安全审查。腾讯首席AI科学家姚顺雨表示,模型的网络能力及生物能力将触及可能造成实际危害的阈值。政策方面,商务部联合科学技术部就修订《中国禁止出口限制出口技术目录》公开征求意见,拟将AI驱动的恶意代码生成与变异技术等纳入出口管制或限制范围,涉及人工智能领域共23项技术;国家发展改革委官员表示正加快推出面向AI开发者的安全标准与伦理准则。
来源:IT之家·人工智能 · ithome.com