一段聊天机器人随口编出来的胡话，差点让美军在公海上对一艘中国商船动手。
据美国媒体披露，在今年春季美伊交火期间，美军收到一条情报，称有中国商船正在中东海域向伊朗运送核武器相关零部件。这条情报让美军高度紧张，航母和巡逻机紧急向阿拉伯海方向集结，全副武装的特种兵做好了登船准备，战机飞行员的手已经按在发射按钮附近。双方最近时距离只剩20海里。就在行动开始前的最后一分钟，一名情报官决定回头翻一翻原始单据，这才发现整条情报链建立在空气之上。
问题的源头在夏威夷。美军特种作战情报人员把公开的货单资料喂给了一个大模型，又掺进几段捕风捉影的电子信号。模型随即发挥脑补特长，把海关舱单和杂乱信号硬揉在一起，凭空生成了一份所谓核部件运输报告。分析人员没有去核对原始舱单，直接套上五角大楼的公文格式。格式工整、术语齐全，上级看到漂亮的外壳一路划勾，拦截指令就这样传到了一线。
美国有线电视新闻网引述多名知情人士的说法称，这份报告完全是无中生有，是分析人员用AI胡写出来的。该媒体同时指出，在美国军方和情报界全方位推进人工智能应用的当下，这起事件正好印证了反对者长期以来的担忧：在技术尚不成熟时仓促用于作战军情分析，可能导致灾难性后果。熟悉相关系统的人士还吐槽，他们使用的AI模型很可能是一个换了皮的商业模型，把开源情报和官方内部信息用自己的幻觉乱炖一通，再被分析人员包装一番，就成了这份差点惹出大祸的专业军情报告。更麻烦的是，美国政府和军方不同部门使用的模型并不一样，这种去中心化的做法意味着严谨性和安全性没有统一标尺。
把时间往回拨33年，1993年7月23日，美方硬说中国货轮银河号载有硫二甘醇和亚硫酰氯，派两艘军舰和五架直升机在公海贴身截停。当时银河号搭载1028个集装箱驶向伊朗阿巴斯港。中方在8月4日通报船上绝无违禁品，美方置之不理。双方在沙特达曼港逐箱开箱，直到9月4日三方签署报告，才证明所谓化学前体纯属捏造。当年靠的是人力错判强行扣船，如今换成算法接班，留给人工核对的时间却被极度压缩。当年耗费十几天地毯式查箱，如今若没有最后一分钟的阻断，战机压到商船头顶，局面分分钟失控。
AI出错并不只体现在情报分析环节。据央视新闻报道，伊朗米纳卜一所小学遭到美军战斧巡航导弹袭击，造成至少175名平民死亡，其中多为刚上课的孩子。美军调查发现，那所校舍曾被旧数据库标记为革命卫队设施。帕兰蒂尔公司研发、嵌入大模型的梅文系统接管目标数据后，把校舍的打击优先级拉到最高，分析员在几秒钟的快速审批里签了字。有媒体统计，梅文系统在对伊行动首个24小时内筛选出上千个目标，而测试数据显示其识别准确率只有约60%，人类分析师则为84%。模型只管按相似度打分，分值一高飞弹就落下来，鲜活的人命变成算法错误下的数字。
五角大楼并没有打算踩刹车。美国防长赫格塞思签署人工智能加速战略，要把大模型推给300万美军文职和现役人员。五角大楼还同谷歌、OpenAI、SpaceX等七家公司签约，把更多商业模型塞进梅文系统。参谋人员被几十个弹窗淹没，谁还有心思去逐条查验原始提单。
把判断权交给算法，意味着公海拦船的门槛正在被迅速拉低。对中国海运企业来说，货物清单、买方确认函、港口凭证需要建立可以即时调阅的中英文双轨数据库。一旦遇到强行拦截，现场先保船员安全，岸基同步向海事组织和使馆发出澄清件。商船跑的是正规贸易，这条底线只能靠手里的独立数据守住，不能指望对方的AI发善心。
赢金配资提示：文章来自网络，不代表本站观点。
