OpenAI封禁俄伊两起AI虚假影响力行动
先了解这件事
OpenAI 封禁了两个隐蔽影响行动,俄罗斯来源的 Dark Clark 通过假 persona Mia Clark 控制拉美智库 Social Research Center,评分达 Category 5,是报告以来首个 Category 5;伊朗来源的 Bogus Bylines 用 7 个假记者身份在全球十几家中小媒体投放近 100 篇长文,评分 Category 4。
摘自 OpenAI:官网动态
事件进展
2 个进展
- 10月9日 17:00 · 1 篇报道伊朗利用ChatGPT在美国媒体植入假文章Hacker News:AI 热帖:OpenAI 称伊朗行动用 ChatGPT 在至少 20 家美国媒体投放约 100 篇 AI 生成文章
- 10月8日 08:00 · 2 篇报道OpenAI披露并封禁俄伊两起AI虚假前沿影响力行动OpenAI:官网动态:OpenAI 封禁俄罗斯与伊朗两个利用 ChatGPT 开展虚假前臆影响行动的账号集群
报道时间线
沿着报道,了解事件的不同侧面。
- Hacker News:AI 热帖OpenAI 称伊朗行动用 ChatGPT 在至少 20 家美国媒体投放约 100 篇 AI 生成文章
OpenAI 表示,一场伊朗相关行动用 ChatGPT 生成了约 100 篇文章,发布在至少 20 家美国新闻网站上。文章多以虚构署名出现,如 Ervin Hoskins,涉及批评伊朗战争的评论内容,同一署名还出现在 Daily Kos 和 Middle East Monitor 等更大平台,两者在 Facebook 合计超过 300 万粉丝。
- The Decoder:AI NewsOpenAI 披露俄罗斯和伊朗影响行动,利用 AI 在正规媒体植入虚假报道
OpenAI 披露并封禁了俄罗斯和伊朗两起影响行动所涉 ChatGPT 账号,两起行动均用假身份在正规媒体植入内容,而非只做社交媒体宣传。俄罗斯行动 "Dark Clark" 在拉美散布贬损乌克兰的不实信息,伪造音频和文件在厄瓜多尔和秘鲁引发事实核查与官方否认,OpenAI 将其评为 Breakout Scale 6 级中的第 5 级,是两年半报告期内的首个该级别案例。
- OpenAI:官网动态精选OpenAI 封禁俄罗斯与伊朗两个利用 ChatGPT 开展虚假前臆影响行动的账号集群
OpenAI 封禁了两个隐蔽影响行动,俄罗斯来源的 Dark Clark 通过假 persona Mia Clark 控制拉美智库 Social Research Center,评分达 Category 5,是报告以来首个 Category 5;伊朗来源的 Bogus Bylines 用 7 个假记者身份在全球十几家中小媒体投放近 100 篇长文,评分 Category 4。