今年春天，美国军方在与伊朗交战期间流传的一份情报报告立即引起了警惕：一艘中国船只在中东运输核武器计划的零部件。
据四名知情人士透露，美军提出了拦截该船的计划。据两名消息人士称，美军武装人员正准备登船。其中一位消息人士和另一位熟悉该事件的消息人士称，当时有军用飞机在空中飞行。
就在计划行动之前，官员们深入研究了特种作战司令部分析师收集的一份报告，发现该报告是在人工智能（AI）的帮助下生成的，并且分析师使用的聊天机器人错误地识别了该船携带的材料。 CNN 无法弄清楚错误识别的负载是什么。
据一位消息人士称，这一消息“绝对是假的”。但消息人士称，这也“几乎引发了一场战争”。美国对中国船只的任何行动都可能引发两国之间的武装冲突。
在美国军方和情报界，官员们正在推动将人工智能融入到他们工作的几乎各个方面，从分析收集到的大量美国情报和选择打击目标，到管理预算、物流和供应链等更普通的应用。
但这一事件凸显了在战争中使用这种强大的、新的且相对鲜为人知的技术进行瞄准的巨大危险。分析人士长期以来一直担心，如果民族国家依赖不良或损坏的数据，人工智能可能会导致灾难性的计算——这种误判可能导致美国根据错误数据攻击中国船只。
在这个特定的示例中，分析师向聊天机器人询问来自位于夏威夷的美国太平洋特种作战司令部的船舶清单上的一些情报报告。目前尚不清楚该聊天机器人是商业产品还是美国政府的产品。
一位熟悉军事和情报分析人员使用的人工智能系统的前美国官员表示，“内部工具基本上只是商业工具的复制品。”
该机器人将开源情报与政府持有的秘密信号情报结合起来，得出了关于该船所运载材料的致命结论。
然后，分析师使用人工智能将调查结果汇编成标准情报报告（军方官员信任的那种）并分发。
美国太平洋司令部和五角大楼没有回应置评请求。
人工智能迅速采用的理由是它可以帮助军队做出战场决策，例如攻击哪些目标或将哪些军事资产转移到哪里。官员们表示，如果美国有一天要面对中国或另一个可能领先美国一步的对手，美国就不能在人工智能整合方面落后。
今年一月，国防部长皮特·赫格斯（Pete Hegseth）发布了该机构的“人工智能加速战略”，以加速人工智能在军队中的使用。
赫格斯在宣布该战略的演讲中表示：“我们将开放实践，消除官僚障碍，集中投资，并展示推进军事人工智能所需的执行方法。”
该战略还推动其在军队中的广泛使用，命令国防部通过几个项目提供人工智能，这些项目旨在“通过将美国最先进的人工智能模型直接交到我们三百万各级文职和军事人员的手中，使整个部门的人工智能体验和转型民主化。”
但多位熟悉情况的美国官员表示，这项工作是分散的，政府不同部门根据不同的命令和安全标准使用不同的工具。美国如何通过这些工具验证数据并没有一套标准。军事和情报界不同部门部署的不同人工智能系统的范围意味着可靠性和相关功能差异很大。
数周以来，在硅谷工程师和科技首席执行官就人工智能摆脱人类限制的可能性以及终结文明的可能后果发出一系列可怕警告后，华盛顿政策制定者一直在激烈辩论人工智能。
但中国船只的事件凸显了另一个更直接的危险：人们根据人工智能或其他自动化系统生成的不准确或误导性信息做出灾难性的决定。消息人士称，军方正在迅速转向人工智能来确定目标，这一领域显然存在致命错误的风险。
另一位熟悉当前军事政策的消息人士表示：“人工瞄准肯定正在增加，而且没有真正的指导来说明如何让人类参与其中，以防止平民伤亡或自相残杀。”
据一位消息人士称，分析师在本案中使用的“幻觉”类型并不是情报界的孤立事件，因为这些工具已经遍布整个政府。
对于一些高级情报官员来说，甚至是那些广泛支持在军队中使用人工智能的人来说，人工智能给分析人员带来了压力，要求他们更快地生成和传播情报，并为错误打开了大门。据多位消息人士透露，尤其是年轻的分析师，他们天生就熟悉这些工具，并且更有可能不加批判地信任它们。
一位消息人士表示：“人工智能可以让你更快地想出一个坏主意。”
