一份AI聊天机器人写出的情报 让美军差点登临一艘中国船只
据CNN周五报道,美军今年早些时候在西海水域一度准备拦截一艘中国船只,依据是一份借助人工智能聊天机器人生成、声称该船载有核武器相关部件的情报报告。行动被叫停前,相关消息人士形容这份报告"完全是假的",但"几乎引发一场战争"。负责该地区行动的美国中央司令部未对置评请求作出回应。
据CNN周五报道,美军今年早些时候在西海水域一度准备登临一艘中国船只。触发这一部署的,是一份借助人工智能聊天机器人生成的情报报告——该报告声称船上装载有核武器相关部件。
CNN援引四名匿名消息人士称,美方在情报分析人员将AI聊天机器人的判断写入报告后,为拦截行动做了实际准备。行动最终被叫停——有关官员认定,分析人员所用的人工智能聊天机器人对船上货物做出了错误识别。
CNN援引其中一名消息人士的话说,这份情报报告"完全是假的",但"几乎引发一场战争"。报道未披露该船实际装载的货物性质及航行目的地。
面对置评请求,负责美军在西水地区行动的美国中央司令部未立即作出回应。
这起事件发生在美国围绕人工智能安全争论升温之际。本月早些时候,人工智能公司Anthropic一名研究员以担忧"技术可能逃脱人类控制"为由公开辞职。另一名Anthropic员工则公开表示,"我们真诚地相信AI可能杀死全人类",并认为这一概率在"未来十年内"超过"10%"。但据CNN报道,美国总统特朗普与其部分核心盟友仍对大幅限制人工智能发展持反对立场。
在美中军事摩擦的另一面,据美国Politico周五报道,一批F-35战斗机零部件——其中包括一块用于隐身的座舱盖——原本要从澳大利亚运往美国维修,途中却被改道运往香港,此后下落不明。Politico称,目前不清楚改道的来由,也不清楚这批零部件现在的下落。这一事件加剧了外界对北京可能获得美军敏感军事技术的担忧。
管理F-35供应链的洛克希德·马丁公司发言人在回应Politico时表示,因"安全原因",公司无法讨论具体运输细节。该发言人说:"洛克希德·马丁公司遵守美国战争部制定、由国防后勤局监管的关于飞机零部件运输的所有美国法规。我们的团队以最高审慎处理每一批货物,以保障F-35项目的完整性与盟国合作伙伴的安全。"
一次AI对货物的错误判读,曾把一艘中国船只推向美军登临的边缘。行动被叫停后,掌握事发地作战指挥权的美国中央司令部对媒体质询不作回应。AI情报进入决策链条后产生的战争风险与随之而来的问责空白,由此被摆到公众面前。
还没有评论,来说说你的看法。