原文来源： https://reurl.cc/dOnDpz 原文摘要： 无人机残骸 https://i.meee.com.tw/62RiIbU.jpg 辉达AI模组残骸 https://i.meee.com.tw/qROnCK3.jpg 上个月，在乌克兰东南部的札波罗热市（Zaporizhzhia），一架外观类似模型飞机的小型 俄罗斯无人机从天而降。当它试图朝一座加油站导航飞行时，撞上了一面墙并在四射的弹 片中爆炸，造成 19 岁的大学生泰蒂亚娜·布比涅茨（Tetiana Bubynets）及另外两人丧 生。 他们是死於俄罗斯空袭的数千名乌克兰平民之一，但他们的死因却带着令人不寒而栗的转 折。根据无人机专家、乌克兰军事指挥官以及调查该起致命攻击与该市其他袭击残骸的监 识小组表示，夺走他们生命的无人机是由一套实验性人工智慧系统引导，而非人类飞行员 。 专家和军方官员指出，该无人机由人类操作员设定飞往特定加油站，但一旦接近目标，它 便根据识别并攻击丙烷储气罐的训练模型，自行选择了确切目标——极可能是储气罐。 这是乌克兰战争中长期以来一直令人担忧的发展，预示着一个反乌托邦的未来：杀人机器 人在空中盘旋，做出决定生死的决策，将目标简化为数据点。 「这对全世界都是一种风险，」札波罗热防空部队指挥官塞尔希·米纳耶夫（Serhiy Minaiev）上校表示。「再过几年，我们就会生活在《魔鬼终结者》的电影情节里。这绝 非玩笑。机器正在做出发动打击的决定。」 专家与军事官员表示，对这起攻击以及札波罗热其他袭击残骸的分析发现，这些无人机搭 载了由辉达（Nvidia）商业销售的微型电脑，由其负责做出打击决策。辉达生产了全球绝 大多数驱动先进人工智慧系统的晶片。 无人机上出现辉达模组且缺乏天线，让乌克兰防空指挥官推断这些武器是由自主 AI 系统 引导，而这一点在进一步调查中获得了证实。 自主 AI 系统可以透过数千张图像进行训练，以辨识「河流」、「军用卡车」或「人」等 类别。自寻目标的无人机能利用摄影镜头以高於人类飞行员的精准度搜寻这些目标。但此 类武器的反对者主张，在没有人类介入的情况下，无人机可能更容易犯错或违反战争法， 例如无法区分无辜平民与战斗人员。 华盛顿战略与国际研究中心（CSIS）瓦德瓦尼人工智慧中心高级研究员卡捷琳娜·邦达尔 （Kateryna Bondar）表示，7 月 6 日在加油站攻击中使用自寻目标 AI，将是第一起有 记录记录到由配备此类系统的俄罗斯无人机导致平民死亡的案例。她补充说，辉达模组是 俄罗斯正在测试自主 AI 的「最佳证明」。 虽然乌克兰总统泽伦斯基的一名顾问曾在社群媒体上写道俄罗斯正在测试自寻目标 AI 系 统，但先前并未报导过平民伤亡事件，也未披露使用辉达 Jetson Orin 电脑模组的细节 。 在全自主无人机出现之前，俄罗斯和乌克兰就已经在多款无人机上使用 AI。在那些早期 型号中，AI 仅用於所谓的「最後一哩路」——即在远端人类飞行员选择目标後的最後攻 击阶段。全自主 AI 则将人类完全排除在最终目标选择之外。 乌克兰官员表示，札波罗热攻击事件中的辉达晶片未经加密，因此他们能够看到上传至该 模组的地形影像，这些影像让无人机能够追踪视觉地标并保持航向。他们还表示，已检查 了相关程式码，揭示了无人机被训练来识别和攻击的目标类型（例如丙烷储气罐）。 早期的无人机型号通常是由人类操作员透过无线电传输或光纤电缆进行操控，或是预先设 定好座标。随着无人机主导了乌克兰战场，无人机操作员本身也成为了首要攻击目标。 当地防空官员表示，俄罗斯在札波罗热测试自主无人机时，除了徵兵中心外，一直将目标 对准加油站的加油机或丙烷储气罐等民用设施。目前尚不清楚为何选择这些目标进行测试 。 乌克兰哈尔科夫航空学院的无人机专家瓦迪姆·库什尼科夫（Vadym Kushnikov）表示， 杀害三名平民的无人机是「一种预先编程、在虚拟实境中经过训练以追踪特定物体的工具 」。 传统软体遵循由人类编写的逐步规则，而 AI 系统则透过在海量数据中寻找模式来衍生出 自己的规则，这个过程称为机器学习。这使其能够应对无法预料的情况，但同时也意味着 无人能完全预测它会做出什麽举动。 人权团体与红十字国际委员会强烈反对在没有人类参与控制（human-in-the-loop）的情 况下使用 AI 武器。这些团体表示，自主系统实质上是让机器人在确定战争合法目标时去 诠释国际法。 然而，部分专家认为，未来的武器实际上应该强制配备 AI 系统。这种观点认为这些武器 更安全，因为即使并非总是完美，它们在打击前仍具备决策能力，不像无导引航空炸弹或 普通炮弹那样无法看清目标就直接落下。 根据该地区军事长官、该市防空指挥官以及当天值班的防空小组表示，这起致命袭击中的 武器是与大约半打无人机编队飞行。官员们表示，这些无人机都没有发射无线电讯号，并 具有与俄罗斯自主 AI 测试相关的其他特徵，包括成波次发射。 乌克兰官员表示，虽然俄罗斯测试的部分 AI 导引无人机在撞击时爆炸，但其他一些并未 引爆且保持完整。他们向《纽约时报》记者展示了两架此类无人机的残骸。《纽约时报》 拍摄了无人机内部的辉达电脑模组并将照片寄给了该公司。 辉达证实照片展示的是 Jetson Orin 微型电脑。此类模组售价仅数百美元，已在多种俄 罗斯武器中被发现。 该公司在一份声明中表示，这款微型电脑是消费级产品，「销售给学生、开发者和初创企 业，用於广泛的有益应用。」辉达在许多国家销售该电脑，但不包括俄罗斯。不过声明也 指出，该产品可透过转售商广泛取得。 乌克兰也测试过自寻目标的 AI 系统。最近遭到撤换的前国防部长米哈伊洛·费多罗夫（ Mykhailo Fedorov）上个月底接受《纽约时报》采访时表示，乌克兰在过去几个月中曾在 俄罗斯占领的克里米亚测试了一套完全自主的 AI 系统。费多罗夫表示，该装置针对燃料 库和军事装备进行打击，并未造成平民死亡。 尽管札波罗热袭击中的无人机没有天线来传回测试数据，但俄军经常出动侦察无人机能够 记录打击情况。该市也被认为藏匿了回报战场损害评估的俄罗斯间谍。 没有天线本身并不能证明无人机具备自寻目标能力。它可能是透过预设路线飞行，采用几 十年来飞机自动驾驶系统所使用的电脑演算法；但那样的无人机并不需要辉达晶片。 乌克兰防空专家表示，俄罗斯於 5 月开始试飞 AI 导引的「闪电」（Molniya）无人机（ 一种量产型固定翼机种），并在此前数月开始在另一款名为 V2U 的固定翼无人机上测试 自寻目标系统。部分 V2U 的测试仅用於「最後一哩路」的目标锁定。 在接受采访时，一些距离前线仅 9 英里的札波罗热居民表示，想到那些在城市上空嗡嗡 作响、自行决定杀戮的装置，就令人不寒而栗。但多年来乌克兰城市遭受了极其密集的轰 炸，生活早已被技术较不复杂的无人机所改变。 由（目前仍是）当地英雄男女驾驶的拦截无人机是对抗无人机威胁的方法之一。防无人机 拦截网是另一种手段，覆盖了札波罗热市内及周边约 240 英里的道路。 另一种防御措施是伪装。例如，加油站周围的丙烷储气罐会以奇特角度架设塑胶布，试图 藉此愚弄 AI 图像辨识系统。 7 月 6 日，在爆炸无人机冲向加油站的前一刻，一群人挤在附近一栋公寓楼的墙边避难 ，因为先前几波无人机袭击让他们早已听到了爆炸声。 加油站员工奥克萨娜·伊申科（Oksana Ishenko）当时站在布比涅茨身旁。「她吓得哭了 起来，」伊申科回忆道。 随後人群中有人开始喊道：「飞机！有飞机！」伊申科说。一架无人机正朝他们飞来。布 比涅茨和其他几个人拔腿狂奔，在停车场四散逃开。无人机未能绕过公寓楼，在抵达目标 前便引爆了。 在札波罗热国立大学攻读会计系的布比涅茨倒在人行道上一动也不动，鼻子血流不止。她 的一位教授泰蒂亚娜·梅利霍娃（Tetiana Melikhova）表示，她在医院被宣告不治。另 外两名死者——41 岁的奥列克西·斯维林（Oleksiy Svirin）与 48 岁的罗曼·卡尔皮 （Roman Karpiy），随後也因伤势过重死亡。 「他们正在训练这项技术，」该市防空指挥官米纳耶夫上校谈到俄罗斯人时说道。他补充 说，AI 很优秀，但尚未达到完美。「他们正在寻找错误，并且会加以修正。」 心得感想： 无人机的现况，正在快速AI化 开机飞出去，就没有人类操作员的事了 自主看路标与找地图 自主判断目标，执行攻击任务 现在的无人机 没有AI就是落伍了 现在国防部搞的建军计画 真的该要仔细检视 别造出跟不上新时代的废物 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 223.143.242.110 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Military/M.1787590126.A.294.html