美国是不是疯了，竟然拿AI当战略顾问？美国媒体近日公布一条消息，今年春天美军盲信AI，将一艘中国商船判定为正在进行核武器部件运输。战机升空、突击队上膛，登船前才发现上了AI的当。数据说的头头是道，但全是编出来的。[可爱]
登船前的那一瞬
CNN 请来美军四名内部消息人士，把这事的前前后后讲了个清楚。今年春天，美伊在海上打得难解难分，中东水域的空气绷得特别紧。
夏威夷的美军太平洋特种作战司令部里，一名年轻分析师接到一份中国商船的舱单原始数据，上面记着船名、航线和货物品类。他没多琢磨，顺手把数据喂给内部的ai机器人。
这台ai机器能同时调取公开商业信息和涉密信号情报，权限很大。一番运算后它给出结论，说这艘船运的是伊朗核项目的零部件，说得有鼻子有眼。
分析师没有核实，转头又让机器把这段话润色成一份格式规整的制式简报，交到指挥链上。警报随之拉响，战机升空，突击队压上舷梯，几分钟之后就要登上一艘中国船。
开火登船的前一刻，有位官员多问了一句，要求把证据拿出来核查。这一查才发现，整份情报全是机器凭空编出来的。
行动紧急叫停，那艘货轮的真实货物，报道至今没能确认，只能推测是普通民用物资。CNN 的四名消息人士，没一个人说得出船上到底装了什么。
CNN 在报道里点破，美国政府眼下拿不出一套统一核验流程，去判断机器产出的情报能不能用。从原始数据到登船命令，中间连一个像样的人工复核环节都没有，机器说什么，指挥链就信什么。
分析师的工作被切成了两半，前半段是问答，后半段是排版，最需要人脑判断的那一环反倒整个被跳过。
一台机器随口编的两句话，差一点把一艘核大国的商船推进开火的火线。假如没有那个人多看一眼，这场误会又会滑向哪里？
机器替人拍板
这事能冒出来，根源在美军自己。赫格塞思今年一月推出 AI 加速战略，三百多万军政人员从上到下都能上手用生成式 AI，但是配套的验证规则却近乎空白。
美国政府到眼下都没有一套统一流程，去判断机器产出的情报能不能拿来拍板执行。各个军种、各个司令部用的模型还不一样，这套体系碎片化得厉害，谁都核验不了谁，更谈不上互相纠错。
报道还点出几桩旧账。华尔街日报披露，美军今年二月在委内瑞拉对付马杜罗的行动里，已经用上了 Anthropic 公司的 Claude 模型。
到了二月底，赫格塞思亲自给这家公司的首席执行官下了通牒，要求拆掉军事场景里的所有安全护栏，要不然就搬出《国防生产法》逼人就范。
同一阵子，五角大楼还把马斯克旗下 XAI 的 Grok 接进了涉密系统。模型摆了一桌子，标准始终没有立起来。
把时间往前拨，美军栽在错误情报上的例子并不少。伊拉克战争一瓶洗衣粉被当成生物武器，1998 年克林顿用一颗巡航导弹炸掉毒气制造厂，回头才发现是苏丹一家生产药品的阿司匹林工厂。
今年二月，伊朗南部米纳卜的一场空袭误伤近两百名平民，里头还有不少孩子。这些是人做的错决定，至少还容得下中途叫停。
换到 AI 这边，从机器吐出结论到军事指令落地只要几分钟，纠错的窗口被掐得几乎看不见。几百万人都能碰生成式 AI，偏偏没有一道复核的闸门。这是贪快还是周密？
谁踩下了刹车
这条新闻不是孤例，九月二十日CNN 发稿两天后，民主党三位资深参议员马克・华纳、杰克・里德、克里斯・库恩斯联名给战争部长赫格塞思和国家情报总监杰伊・克莱顿去了信。
信里点名彻查美军今年以来的多起 AI 目标锁定失误，这艘中国货轮就是其中的一桩。赫格塞思的头衔如今是战争部长，五角大楼在特朗普二任期内改叫战争部，这个改名本身就透着股火药味。
很多人不禁想问一句，假如那位官员没有多问一句，突击队真踩上了甲板，剧情只会按一条路走：中方立刻要求美方拿证据、放船放人、正式道歉。
美方则攥着那份虚假的 AI 报告硬撑，直到有一天全世界发现所谓的核部件不过是机器幻觉。到那时候，中美关系要退到哪里，西太平洋要拉响几级战备，中东的能源通道又会被搅成什么样，谁都不敢往深处想。
中方对这类事的态度向来清楚，国防部发言人多次讲过，人工智能军事应用得坚持人类主导、智能向善，反对算法把生杀大权攥在手里，反对靠 AI 去谋求绝对军事霸权。
中方还在联合国、在海牙的 REAIM 峰会上提交过立场文件，要求 AI 军事化不能甩开国际法约束，人类的最终决策权必须保住。这句话不是空话，它防的就是今天这种机器幻觉变成开火命令的新常态。
对咱们来说，军事热线、危机通报、海空意外相遇规则，往后会比冷战任何阶段都金贵。对方一旦靠 AI 犯错，留给外交澄清的时间窗口可能只有几分钟。
再看到 AI 精确制导、机器学习赋能战场感知这类光鲜说法，脑子里得多留一个念头，光鲜词的背面可能就是那台把中国商船看成核武船的聊天机器人。
机器越跑越快，那个愿意在按钮前多停三秒的人，会不会有一天彻底消失？
一台会幻想的机器，配上一支赶速度的队伍，再加一套只讲快不讲证据的文化，随时能把一次误判变成一次开火。技术从来是双刃剑，问题不在剑，在人要怎么用。
这场险情踩住的刹车，说到底还是人踩的。AI 时代的大国，都得想清楚一个问题：那一道闸门，到底该交给谁。
天创网配资提示：文章来自网络，不代表本站观点。
