AI 幻觉导致的错误情报险些引发美军拦截中国船只

2026-09-19 04:26· 1小时前· Kyle Orland

AI 导读

据 CNN 报道，美国特种作战司令部一名分析人员用聊天机器人分析中国船只舱单，生成的情报报告误报船上载有核武器项目部件，美军一度准备在空中支援下拦截登船，随后才发现聊天机器人错误识别了船上货物。报道称该聊天机器人将开源情报与秘密信号情报融合在一起，有消息人士称此事几乎引发战争；美国国防部今年1月还推出了AI加速战略，推动跨系统数据供AI使用。

正文 · AI 翻译

据 CNN 报道，美国险些依据一份“完全虚假”的情报登上了一艘中国船只，而这份情报是在 AI 工具的协助下生成的。据 CNN 报道。

据 CNN 援引的“四名了解此事的人士”称，这份错误情报由美国特种作战司令部的一名分析师提交，内容暗示这艘中国船只正在经由中东运输核武器项目的部件。美军当时正准备在空中支援下拦截并登船，随后官员们才发现，用于生成该报告的一款聊天机器人“错误地识别了船上所载的物资”。

一名消息人士告诉 CNN，这场由 AI 引发的惨败“差点引发一场战争”。

最坏能发生什么？

CNN 的报道称，涉事分析师使用聊天机器人分析有关中国船只舱单的情报报告，导致了这一近乎灾难性的结果。据 CNN 报道，该聊天机器人“将开源情报与政府持有的秘密信号情报融合在一起”，这些信息被整合进一份情报报告，几乎引发了一连串灾难性事件。

这起险情是 AI 幻觉破坏专业报告可靠性的更为严重、影响更大的实例之一。自从“幻觉”在 2023 年成为《剑桥词典》年度词汇以来，我们已经看到许多引人注目的案例：非虚构作家、记者、学术研究人员、法官、医生、警察部门、企业呼叫中心以及更多群体都被 AI 工具所蒙骗，这些工具在训练数据未提供足够上下文时会直接编造内容。尽管有一些颇为可爱的“不要产生幻觉”提示词尝试，一些研究人员认为，要彻底防止 LLM 产生幻觉或许是不可能的。