標題: 35國簽署軍事AI宣言防科技失控 美、中不加入 新聞來源: https://news.ltn.com.tw/news/world/breakingnews/5335319 自由時報 編譯管淑平／綜合報導 5日在西班牙舉行的軍事人工智慧（AI）高峰會上，大約3分之1與會國家同意一項管理AI 技術應用於戰爭的宣言，不過，軍事強權美國、中國選擇不加入這份共同宣言。 《路透》5日報導，在西班牙拉科魯尼亞（A Coruna）舉行的這場「軍事領域負責任使用 AI」（REAIM）高峰會，共85國出席，僅35國同意簽署這份宣言，包括加拿大、德國、法 國、英國、荷蘭、南韓和烏克蘭等國。 多位與會人士、代表指出，美國與歐洲盟邦關係緊繃，以及跨大西洋關係在未來數月、數 年如何發展存有不確定性，使一些國家對於簽署這份共同宣言猶豫不前。 簽署國家承諾遵守20項AI軍事部署原則，包括確認人類對AI武器系統負有最終責任、鼓勵 建立明確指揮與管制鏈，以及在符合國家安全前提下，分享監督機制。這份宣言也提出風 險評估、嚴謹測試以及軍事AI系統操作人員訓練與教育的重要性。 這份宣言凸顯部分國家政府，對於AI技術快速進展，在軍事應用上的規範可能制定不及， 升高誤判、擦槍走火或情勢意外升高風險的憂慮。荷蘭國防部長布雷克曼斯（Ruben Brekelmans）表示，各國正面臨「囚徒困境」：一方面希望對AI設下負責任的限制措施， 另一方面又不願在與對手的競爭上自我設限。 他說，「俄羅斯與中國的技術發展非常迅速，這帶來一種急迫性，要在開發AI上有所進展 ，但是眼見AI發展迅速，又升高要負責任使用的急迫性，兩者密不可分」。 這份軍事AI宣言不具約束力。過去兩次分別於2023、2024年舉行的軍事AI峰會，約60國簽 署一份較溫和版「行動藍圖」，當時中國未加入，但是美國加入，該份文件同樣不具法律 約束力。 按：宣言全文（編譯） REAIM 行動路徑 1. 我們認知到，在軍事領域中負責任地使用與發展人工智慧（AI），能夠且應當有助於 促進國際和平與安全。若在其整個生命週期中妥善運用，軍事 AI 能力可協助降低人員暴 露於危險的風險、加強對平民的保護，並支援更即時且更具資訊基礎的決策，從而促進對 國際法（包括適用時的國際人道法）的更高程度遵循。同時，AI 的使用也可能在軍事領 域的各個層面帶來風險。因此，我們亦認知到有必要加強對軍事領域 AI 生命週期中可能 出現之風險的共同理解，包括誤判、偏誤、失控或升高衝突等風險。 2. 我們強調，REAIM 是一項由國家主導、多方利害關係人參與的倡議，旨在提供一個靈 活、穩健且以證據為基礎的平台，以孕育與培養各項構想，補充並強化其他平行倡議，共 同促進軍事領域中負責任的 AI 發展。 3. 我們注意到自 2024 年於首爾舉行的上一屆 REAIM 高峰會以來的相關進展，包括聯合 國秘書長的報告（A/80/78），特別是其中所納入的各國貢獻；以及聯合國大會通過的第 79/239 號與第 80/58 號決議——「軍事領域中的人工智慧及其對國際和平與安全的影響 」；並注意到在《特定常規武器公約》（CCW）架構下所召集之致命自主武器系統（LAWS ）新興技術政府專家小組（GGE）的持續工作。 4. 我們亦注意到 REAIM 全球委員會的報告《責任源於設計：軍事領域人工智慧之風險、 機會與治理的戰略指引報告》，及其所提出的建議，特別是對「責任源於設計」、以風險 為基礎的治理方法，以及在軍事 AI 能力整個生命週期中建立強而有力的監督與問責機制 之強調。 5. 我們認為，REAIM 的獨特附加價值在於其多方利害關係人特性，以及其整合技術、產 業、作戰、法律、社會、倫理與區域專業知識的能力，以產生、測試並精煉實務構想，在 預見並因應實施挑戰的同時，善用 AI 在軍事領域的效益；並透過前瞻思維、前向評估， 以及經驗教訓與良好實務的識別、分享與應用來達成此目標。 6. 我們強調能力建構的重要性，並重申 REAIM 在促進合作、協助彌合區域內與區域間差 距方面所扮演的角色，包括在政策、架構與指引的制定能力上，以及透過合作與知識分享 ，建立並維持有利於軍事領域中 AI 負責任設計、開發、測試、部署與使用的環境。 7. 基於 2023 年海牙 REAIM 高峰會提出的《行動呼籲》，以及 2024 年首爾 REAIM 高 峰會提出的《行動藍圖》，並深信現在正是朝向這些文件所反映之原則進行具體運作的時 刻，我們邀請所有相關利害關係人（視情況包括國家、產業、學術界、公民社會以及區域 與國際組織）採取以下行動： 法律架構與一般實務 8. 在軍事領域 AI 能力的整個生命週期中，遵守適用的國際法，包括國際人道法與國際 人權法。 9. 發展並推動「責任源於設計」的方法，從最早期的規劃階段開始，將負責任使用 AI 的原則整合至設計、開發、測試、部署、監測與除役的各個階段。 10. 確保在軍事 AI 能力生命週期中所作出的所有決策（包括作為與不作為）仍由國家與 個人承擔責任，並符合其各自於國際法下的義務；確認法律與倫理責任由國家與個人（而 非機器或演算法）承擔；並避免在軍事領域使用 AI 時產生「問責落差」。 11. 認知到與可靠性、安全性、韌性、非預期偏誤、可追溯性與可解釋性相關的挑戰，並 可透過推進 AI 保證（AI assurance）領域加以因應，包括進行可靠性、安全性與韌性評 估。同時，也必須考量潛在風險，如網路威脅及對資料、模型與輸出的對抗性操弄，並預 期能力快速進展可能超越現有保證方法，包括通用人工智慧（AGI）甚至超人工智慧（ASI ）。 12. 強調 AI 輔助決策系統應支持而非取代人類判斷。人類介入的性質與程度，應視多項 因素而定，包括作戰情境、所執行的功能、技術特性與能力、人為因素（如訓練與疲勞） ，以及相關風險與效益。 在國家層級落實 REAIM 原則的建議 13. 確保相關人員積極參與軍事領域 AI 系統的開發與測試階段，並確保操作軍事 AI 能 力的人員及指揮鏈中的人員，接受適當的訓練與教育，包括在實際運用前的結構化訓練與 熟悉階段，以充分理解系統的能力與限制。 14. 在部署與使用軍事領域 AI 系統之前，進行風險評估，並納入具體的法律、人道與作 戰風險考量；並隨著系統、作戰環境與威脅情勢的演變，定期更新這些評估。同時，認知 到必須考量非預期、突現行為及可解釋性所帶來的潛在風險。 15. 推動健全的測試、評估、驗證與確認（TEVV），並將 TEVV 要求納入相關政策、準則 與採購流程。TEVV 工作應在適當情況下納入資格認證與／或認證程序，其要求應與預期 效益與風險相稱，並將系統與其經測試與驗證之特定使用情境加以連結。 16. 依據適用的國際法律義務及相關國內法律與程序，對 AI 所支援的武器、作戰手段與 作戰方法進行法律審查。 17. 強化保護資料完整性、可用性與機密性的措施，並降低資料遭入侵、污染或其他形式 操弄的風險，包括來自恐怖組織等非國家行為者的威脅。 18. 在整個生命週期中維持稽核軌跡與文件紀錄，包括事故通報與經驗教訓機制，以加強 可追溯性、可解釋性與監督。 19. 識別並採納適當的作戰需求與程序，以確保在使用 AI 能力時的決策問責性，包括透 過準則、戰術、技術與程序（TTPs）、必要時的交戰規則，以及系統／介面設計與開發。 20. 鼓勵建立清楚的指揮與管控鏈條，以確保涉及 AI 系統之作戰行動及其生命週期中相 關功能的個人責任；並考慮制定與實施有助於問責的措施，如數位鑑識、文件化，以及明 確的事後檢討與調查流程。 21. 鼓勵在相關部門內指定國家聯絡窗口（例如「首席負責任 AI 官」或同等職務），以 促進全政府協調、落實負責任使用 AI 的實務，並推動國際合作。 在國際層級落實 REAIM 原則的建議 22. 發展對軍事應用中 AI 功能或能力的共同理解。 23. 在自願且適當的基礎上，採取建立信任的措施，以加強在軍事領域應用AI時的信任與 透明度，並可補充現有的多邊機制，以降低誤解、誤判與非預期升高衝突的風險，包括： a. 在符合國家安全前提下，分享國家政策、原則、治理結構與監督安排，以及法律審查 與風險評估方法與架構的適當資訊，包括透過軍事院校的貢獻。 b. 鼓勵外展活動與區域合作，包括聯合研討會、桌上演練、跨區域對話、工作坊，以及 經驗汲取與良好實踐的交流。 c. 在可行且符合國家安全的情況下，探索與設施或卓越中心相關的參訪或交流機會。 d. 考慮建立危機溝通安排，以降低潛在的非預期升高衝突風險。 24. 推動能力建構，包括針對開發中國家，透過區域卓越中心、知識分享平台、最佳實務 交流、聯絡窗口名錄與技術合作，同時考量各國不同的國情、需求與技術發展程度，並認 知既有的不對稱性。 與產業、學術界與公民社會互動的建議 25. 參與並支持國家、產業與學術界之間的倡議，以促進軍事領域中負責任的 AI，並推 動能確保 AI 安全性與可靠性的基礎研究，包括 AI 可解釋性與穩健性研究。 26. 進一步與各自的國內產業生態系互動，並提升對 2023 年 REAIM《行動呼籲》、 2024 年 REAIM《行動藍圖》以及 2026 年 REAIM《行動路徑》所提出之方法與原則的認 識。 27. 邀請產業及其他相關利害關係人，主動因應人機互動與使用者介面設計方面的挑戰。 28. 呼籲即將主辦 REAIM 的國家及更廣泛的 REAIM 社群，在既有努力基礎上進一步加強 與產業的連結，致力於將原則共同轉化為具體且可行的建議與指引。 -- 常羨人間琢玉郎，天教分付點酥娘。 盡道清歌傳皓齒、風起，雪飛炎海變清涼。 萬里歸來顏愈少、微笑，笑時猶帶嶺梅香。 試問嶺南應不好，卻道：此心安處是吾鄉。 　　　　　　　　　　　　　　——【北宋】蘇軾《定風波・南海歸贈王定國侍人寓娘》 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.74.218.167 (馬來西亞) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/IA/M.1770447656.A.3DD.html