美军险遭误判事件:AI错误情报几乎导致拦截中国船只
据外媒报道,早在今年春季,美军在与以色列联合打击伊朗的行动中,几乎因一份错误的情报试图拦截一艘经过中东的中国货船。美军的一名分析员利用人工智能(AI)工具分析该船的货运信息,AI错误地识别船上搭载了核武器相关的部件。美军随即制定了拦截计划,相关军用飞机也已升空。直到行动前夕,美方官员对报告进行了复核,才意识到AI的误判。消息人士称,这份“完全错误”的报告差点引发军事冲突。
事件的根源在于一份关于中国船只货物的情报,信息来源于美国太平洋特种作战司令部。分析员将货物清单提供给AI进行判断,但AI将公开信息和机密资料混合分析,错误得出船上载有核相关零部件的结论。分析员未能察觉这一错误,反而将AI的结论整理成报告,并在美军系统内分发。由于AI的误判与报告的正式化结合,错误信息得到进一步传播。美军在看到报告后立即准备拦截该船,行动人员和军用飞机已经待命。直到临近执行时,才发现AI的错误并终止了行动。
美媒未披露涉事AI的名称、船只身份及真实货物。一位前高官表示,美军和情报单位使用的一些AI工具可能只是经过改装的商业产品。美国太平洋特种作战司令部和五角大楼均未对此事进行评论。 qy球友会官网
为何这份错误情报直到行动前夕才被识别出?分析人士认为,主要存在以下三个问题:其一,分析员过于依赖AI,未及时识别误判;其二,AI不仅参与了信息分析,还协助撰写报告,且由同一分析员操作,这并未增加独立验证环节;其三,美军缺乏统一的AI验证标准,情报部门和军队各自使用不同的AI工具,遵循的标准与权限各异,且没有检验这些信息的统一规则。此外,一些资深情报官员对于AI导致的加速发布情报的压力表示担忧,年轻的分析员往往更熟悉这些工具,容易对AI的输出结果缺乏质疑。
这次事件给出警示:今年1月,美国国防部长赫格塞思提出了“AI加速战略”,旨在减少官僚障碍,加快AI在军队中的应用;五角大楼则希望利用AI分析大量情报、决定打击目标及调动军事资产。然而,这起事件揭示了速度所带来的风险:AI的快速反应不仅影响了准确判断,也可能加速错误结论的产生。AI越快生成报告并推动行动,留给人工核查的时间就越少。
尽管美军曾强调必须保留人的控制,实际操作中每一步依然有人工参与,但错误仍未被及时发现。这反映出“人在其中”并不意味着风险得以控制;如果人只是在信任、处理和执行AI的结果,则可能更容易放大错误。更需关注的是,未被发现的AI误判已经从情报分析阶段进入军事行动准备阶段。如何阻止错误信息直接影响军事决策和行动链,已经成为比减少AI错误本身更为紧迫的问题。 qy球友会官网
就在事件曝光前,美国布鲁金斯学会曾建议为军事AI设立红线,并建立处理中美AI事故的军事热线,以防误判升级。
中年女性感慨,庆幸选择丁克,通过养狗体验深感自我选择的重要
足球的魅力在于它的挑战性与团队精神!...
穆里尼奥与西蒙尼重逢,温情互动引人关注
足球的魅力在于它的挑战性与团队精神!...