标题: 35国签署军事AI宣言防科技失控 美、中不加入 新闻来源: https://news.ltn.com.tw/news/world/breakingnews/5335319 自由时报 编译管淑平／综合报导 5日在西班牙举行的军事人工智慧（AI）高峰会上，大约3分之1与会国家同意一项管理AI 技术应用於战争的宣言，不过，军事强权美国、中国选择不加入这份共同宣言。 《路透》5日报导，在西班牙拉科鲁尼亚（A Coruna）举行的这场「军事领域负责任使用 AI」（REAIM）高峰会，共85国出席，仅35国同意签署这份宣言，包括加拿大、德国、法 国、英国、荷兰、南韩和乌克兰等国。 多位与会人士、代表指出，美国与欧洲盟邦关系紧绷，以及跨大西洋关系在未来数月、数 年如何发展存有不确定性，使一些国家对於签署这份共同宣言犹豫不前。 签署国家承诺遵守20项AI军事部署原则，包括确认人类对AI武器系统负有最终责任、鼓励 建立明确指挥与管制链，以及在符合国家安全前提下，分享监督机制。这份宣言也提出风 险评估、严谨测试以及军事AI系统操作人员训练与教育的重要性。 这份宣言凸显部分国家政府，对於AI技术快速进展，在军事应用上的规范可能制定不及， 升高误判、擦枪走火或情势意外升高风险的忧虑。荷兰国防部长布雷克曼斯（Ruben Brekelmans）表示，各国正面临「囚徒困境」：一方面希望对AI设下负责任的限制措施， 另一方面又不愿在与对手的竞争上自我设限。 他说，「俄罗斯与中国的技术发展非常迅速，这带来一种急迫性，要在开发AI上有所进展 ，但是眼见AI发展迅速，又升高要负责任使用的急迫性，两者密不可分」。 这份军事AI宣言不具约束力。过去两次分别於2023、2024年举行的军事AI峰会，约60国签 署一份较温和版「行动蓝图」，当时中国未加入，但是美国加入，该份文件同样不具法律 约束力。 按：宣言全文（编译） REAIM 行动路径 1. 我们认知到，在军事领域中负责任地使用与发展人工智慧（AI），能够且应当有助於 促进国际和平与安全。若在其整个生命周期中妥善运用，军事 AI 能力可协助降低人员暴 露於危险的风险、加强对平民的保护，并支援更即时且更具资讯基础的决策，从而促进对 国际法（包括适用时的国际人道法）的更高程度遵循。同时，AI 的使用也可能在军事领 域的各个层面带来风险。因此，我们亦认知到有必要加强对军事领域 AI 生命周期中可能 出现之风险的共同理解，包括误判、偏误、失控或升高冲突等风险。 2. 我们强调，REAIM 是一项由国家主导、多方利害关系人参与的倡议，旨在提供一个灵 活、稳健且以证据为基础的平台，以孕育与培养各项构想，补充并强化其他平行倡议，共 同促进军事领域中负责任的 AI 发展。 3. 我们注意到自 2024 年於首尔举行的上一届 REAIM 高峰会以来的相关进展，包括联合 国秘书长的报告（A/80/78），特别是其中所纳入的各国贡献；以及联合国大会通过的第 79/239 号与第 80/58 号决议——「军事领域中的人工智慧及其对国际和平与安全的影响 」；并注意到在《特定常规武器公约》（CCW）架构下所召集之致命自主武器系统（LAWS ）新兴技术政府专家小组（GGE）的持续工作。 4. 我们亦注意到 REAIM 全球委员会的报告《责任源於设计：军事领域人工智慧之风险、 机会与治理的战略指引报告》，及其所提出的建议，特别是对「责任源於设计」、以风险 为基础的治理方法，以及在军事 AI 能力整个生命周期中建立强而有力的监督与问责机制 之强调。 5. 我们认为，REAIM 的独特附加价值在於其多方利害关系人特性，以及其整合技术、产 业、作战、法律、社会、伦理与区域专业知识的能力，以产生、测试并精炼实务构想，在 预见并因应实施挑战的同时，善用 AI 在军事领域的效益；并透过前瞻思维、前向评估， 以及经验教训与良好实务的识别、分享与应用来达成此目标。 6. 我们强调能力建构的重要性，并重申 REAIM 在促进合作、协助弥合区域内与区域间差 距方面所扮演的角色，包括在政策、架构与指引的制定能力上，以及透过合作与知识分享 ，建立并维持有利於军事领域中 AI 负责任设计、开发、测试、部署与使用的环境。 7. 基於 2023 年海牙 REAIM 高峰会提出的《行动呼吁》，以及 2024 年首尔 REAIM 高 峰会提出的《行动蓝图》，并深信现在正是朝向这些文件所反映之原则进行具体运作的时 刻，我们邀请所有相关利害关系人（视情况包括国家、产业、学术界、公民社会以及区域 与国际组织）采取以下行动： 法律架构与一般实务 8. 在军事领域 AI 能力的整个生命周期中，遵守适用的国际法，包括国际人道法与国际 人权法。 9. 发展并推动「责任源於设计」的方法，从最早期的规划阶段开始，将负责任使用 AI 的原则整合至设计、开发、测试、部署、监测与除役的各个阶段。 10. 确保在军事 AI 能力生命周期中所作出的所有决策（包括作为与不作为）仍由国家与 个人承担责任，并符合其各自於国际法下的义务；确认法律与伦理责任由国家与个人（而 非机器或演算法）承担；并避免在军事领域使用 AI 时产生「问责落差」。 11. 认知到与可靠性、安全性、韧性、非预期偏误、可追溯性与可解释性相关的挑战，并 可透过推进 AI 保证（AI assurance）领域加以因应，包括进行可靠性、安全性与韧性评 估。同时，也必须考量潜在风险，如网路威胁及对资料、模型与输出的对抗性操弄，并预 期能力快速进展可能超越现有保证方法，包括通用人工智慧（AGI）甚至超人工智慧（ASI ）。 12. 强调 AI 辅助决策系统应支持而非取代人类判断。人类介入的性质与程度，应视多项 因素而定，包括作战情境、所执行的功能、技术特性与能力、人为因素（如训练与疲劳） ，以及相关风险与效益。 在国家层级落实 REAIM 原则的建议 13. 确保相关人员积极参与军事领域 AI 系统的开发与测试阶段，并确保操作军事 AI 能 力的人员及指挥链中的人员，接受适当的训练与教育，包括在实际运用前的结构化训练与 熟悉阶段，以充分理解系统的能力与限制。 14. 在部署与使用军事领域 AI 系统之前，进行风险评估，并纳入具体的法律、人道与作 战风险考量；并随着系统、作战环境与威胁情势的演变，定期更新这些评估。同时，认知 到必须考量非预期、突现行为及可解释性所带来的潜在风险。 15. 推动健全的测试、评估、验证与确认（TEVV），并将 TEVV 要求纳入相关政策、准则 与采购流程。TEVV 工作应在适当情况下纳入资格认证与／或认证程序，其要求应与预期 效益与风险相称，并将系统与其经测试与验证之特定使用情境加以连结。 16. 依据适用的国际法律义务及相关国内法律与程序，对 AI 所支援的武器、作战手段与 作战方法进行法律审查。 17. 强化保护资料完整性、可用性与机密性的措施，并降低资料遭入侵、污染或其他形式 操弄的风险，包括来自恐怖组织等非国家行为者的威胁。 18. 在整个生命周期中维持稽核轨迹与文件纪录，包括事故通报与经验教训机制，以加强 可追溯性、可解释性与监督。 19. 识别并采纳适当的作战需求与程序，以确保在使用 AI 能力时的决策问责性，包括透 过准则、战术、技术与程序（TTPs）、必要时的交战规则，以及系统／介面设计与开发。 20. 鼓励建立清楚的指挥与管控链条，以确保涉及 AI 系统之作战行动及其生命周期中相 关功能的个人责任；并考虑制定与实施有助於问责的措施，如数位监识、文件化，以及明 确的事後检讨与调查流程。 21. 鼓励在相关部门内指定国家联络窗口（例如「首席负责任 AI 官」或同等职务），以 促进全政府协调、落实负责任使用 AI 的实务，并推动国际合作。 在国际层级落实 REAIM 原则的建议 22. 发展对军事应用中 AI 功能或能力的共同理解。 23. 在自愿且适当的基础上，采取建立信任的措施，以加强在军事领域应用AI时的信任与 透明度，并可补充现有的多边机制，以降低误解、误判与非预期升高冲突的风险，包括： a. 在符合国家安全前提下，分享国家政策、原则、治理结构与监督安排，以及法律审查 与风险评估方法与架构的适当资讯，包括透过军事院校的贡献。 b. 鼓励外展活动与区域合作，包括联合研讨会、桌上演练、跨区域对话、工作坊，以及 经验汲取与良好实践的交流。 c. 在可行且符合国家安全的情况下，探索与设施或卓越中心相关的参访或交流机会。 d. 考虑建立危机沟通安排，以降低潜在的非预期升高冲突风险。 24. 推动能力建构，包括针对开发中国家，透过区域卓越中心、知识分享平台、最佳实务 交流、联络窗口名录与技术合作，同时考量各国不同的国情、需求与技术发展程度，并认 知既有的不对称性。 与产业、学术界与公民社会互动的建议 25. 参与并支持国家、产业与学术界之间的倡议，以促进军事领域中负责任的 AI，并推 动能确保 AI 安全性与可靠性的基础研究，包括 AI 可解释性与稳健性研究。 26. 进一步与各自的国内产业生态系互动，并提升对 2023 年 REAIM《行动呼吁》、 2024 年 REAIM《行动蓝图》以及 2026 年 REAIM《行动路径》所提出之方法与原则的认 识。 27. 邀请产业及其他相关利害关系人，主动因应人机互动与使用者介面设计方面的挑战。 28. 呼吁即将主办 REAIM 的国家及更广泛的 REAIM 社群，在既有努力基础上进一步加强 与产业的连结，致力於将原则共同转化为具体且可行的建议与指引。 -- 常羡人间琢玉郎，天教分付点酥娘。 尽道清歌传皓齿、风起，雪飞炎海变清凉。 万里归来颜愈少、微笑，笑时犹带岭梅香。 试问岭南应不好，却道：此心安处是吾乡。 　　　　　　　　　　　　　　——【北宋】苏轼《定风波・南海归赠王定国侍人寓娘》 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 180.74.218.167 (马来西亚) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/IA/M.1770447656.A.3DD.html