英國AI峰會聚焦AI安全治理，各界呼籲開放合作應對風險 https://bit.ly/461wG11 11月1日，英國舉辦首屆AI安全峰會，英、美、中與歐盟等28個國家代表與企業簽署《布 萊切利(Bletchley)人工智慧安全宣言》，共同關注新型AI潛在的風險。英國政府宣布AI 安全峰會未來將持續舉，韓國與法國也將在明年舉辦相關的AI峰會。 峰會討論5個主題： 1. 對前沿AI帶來的風險和採取行動的必要性達成共識； 2. 前沿AI安全國際合作的前瞻性進程，包括如何對國家和國際框架有最好地支援； 3. 各組織應採取適當措施來提高前沿AI安全； 4. AI安全研究的潛在合作領域，包括評估模型能力和製定新標準以支援治理； 5. 如何確保AI的安全發展，並對全球運用有利。 目前，歐盟已提出AI法案，美中等競爭對手也著手制定AI政策。布萊切利宣言雖被視為AI 治理里程碑，但內容過於原則，缺乏具體細節，專家認為各國應儘快訂定實際政策和問責 機制，使宣言不流於空談。同時，也認為目前全球仍缺乏統一的AI安全標準，期盼未來峰 會能朝此目標努力。然而，未來各國AI法規是否能協調一致，也將影響全球AI發展。 歐盟執委會主席馮德萊恩在會上表示，AI能帶來巨大機遇也存在風險，需要建立科學制衡 體系和獨立科學社群來監督，並制定被全球接受的AI安全標準。 與會的特斯拉CEO馬斯克則警告AI可能成為人類最大威脅。他主張需要一個「裁判」，但 規範需謹慎制定，以免阻礙AI正面影響。 面對快速發展的AI，單靠個別國家或起企業難以有效應對潛在挑戰。業界代表則在公開信 中呼籲，不該僅依靠少數私人企業的封閉控制來保障AI安全。他們主張開放源碼、開放科 學等多樣化途徑，並透過國際合作來應對AI風險，才能兼顧創新與安全。如果AI核心技術 集中於少數企業，反而可能限制創新，增加社會風險，而開放、透明的國際合作或許是現 階段最佳出路，值得持續推動。 本次峰會標誌著全球AI治理邁開重要的一步，但要使原則轉化為行動，各國仍有許多關卡 有待克服。面對快速演進的AI，單一國家、單一企業，難以因應潛在風險，開放透明的國 際合作或許才是現階段最佳因應之道。AI的發展將對人類的未來影響深遠，需要國際社會 通力合作才能推動其健全發展。 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Tech_Job/M.1699266305.A.76A.html