OpenAI公布欧盟文本溯源水印方案
先了解这件事
OpenAI 公布应对欧盟《人工智能法案》的文本溯源方案,推出名为 textGrain 的文本水印技术,做法是在模型逐词选择过程中加入不可见的统计信号。 即日起,全球 API 客户可对部分模型选择性开启水印,但 API 中水印默认关闭;未来数周,OpenAI 将在欧盟地区为符合条件的 ChatGPT 和 Codex 文本输出添加隐形水印,且不设为全球默认。检测水印的工具暂只向获批的研究者和专家机构开放,OpenAI 称这些机构可帮助其评估和改进该技术;据 IT之家报道,该工具只报告是否检测到 OpenAI 水印,不透露用户或对话内容。 X 账号 Testing Catalog 称,OpenAI 官方测试显示 textGrain 效果追平或超过 SynthID 且质量无明显损失,并将开源;该账号同时表示这仍需实际测试验证。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Testing CatalogOpenAI 将在未来几周为欧盟地区 ChatGPT 和 Codex 文本启用水印
OpenAI 因应欧盟 AI 法案推出文本水印:API 客户即日起可选启用部分模型的水印,欧盟地区 ChatGPT 和 Codex 文本将在未来几周加入不可见水印。其 textGrain 技术在词选择中嵌入统计信号,官方测试称效果追平或超过 SynthID 且质量无明显损失,并将开源;作者引用官方称在 Astra 模型基准上水印前后无明显性能差异,但表示需要实际测试验证。详情见 https://openai.com/index/eu-text-provenance/
- IT之家OpenAI 将在欧盟为 ChatGPT 和 Codex 文本输出添加隐形水印
OpenAI 宣布未来几周将在欧盟符合条件的 ChatGPT 和 Codex 文本输出中加入名为 textGrain 的隐形水印,以配合《欧盟人工智能法案》的内容透明要求,发布时不设全球默认。全球 API 客户即日起可选择为部分模型启用水印,获批的研究人员和专家组织可申请探测器访问,该工具只报告是否检测到 OpenAI 水印,不透露用户或对话内容。
- OpenAI:官网动态精选OpenAI 公布 EU AI Act 下的文本溯源方案,推出 textGrain 文本水印
OpenAI 公布应对 EU AI Act 的文本水印方案,发布在模型词选择中加入不可见统计信号的 textGrain 技术,API 客户即日起可对部分模型选择性开启水印,未来数周将在欧盟地区为 ChatGPT 和 Codex 输出添加隐形水印,检测器暂只向获批的研究者和专家机构开放。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。