標題:全球200名科學家點出AI用途地雷區 促各國明年底前畫「紅線」 新聞來源: (發文須填寫新聞網站名稱與連結，供板友分辨) 自由時報電子報 https://news.ltn.com.tw/news/world/breakingnews/5188246 https://img.ltn.com.tw/Upload/news/600/2025/09/23/5188246_1_1.jpg 人工智慧與其應用示意圖。（路透檔案照） 2025/09/23 18:15 〔編譯管淑平／綜合報導〕聯合國大會一般性辯論開議的同時，逾200名科技界與學術界 領袖22日連署公開信，呼籲各國最晚明年底，畫出人工智慧（AI）技術使用禁區的「紅線 」，這封信警告，若不及早介入，人類要有意義管控AI風險會愈加困難。 《法新社》22日報導，包括10名諾貝爾獎得主，以及Anthropic、Google DeepMind、微軟 和OpenAI等多家AI巨擘的研究人員在內，超過200名重量級人士簽署這份公開信，並在聯 合國大會一般性辯論開議這天發表。信中指出，AI具有促進人類福祉的龐大潛力，「然而 ，其當前發展趨勢也帶來前所未見的危險」，這封信呼籲各國政府，「必須果斷行動，把 握有意義介入的機會窗口」。 根據這封公開信，「AI紅線」是受各國同意，對於被視為風險太大，在任何情況下都不可 觸犯的用途設禁區，信中舉出的紅線例子如：將核武指揮權交給AI、發展任何形式的致命 自主武器，以及AI用於大規模監控、社會信用評分（social scoring）、網路攻擊或假冒 他人身分等。 連署人表示，鑑於AI技術進展速度，力促各國最遲在明年底前定出規範，畫下「紅線」。 這封信警告，「AI有可能很快就會超越人類的能力，進而升高多重風險」，包括製造疫情 、廣泛假資訊、大規模操弄兒童和其他個人、帶來國內外安全疑慮、大規模失業與系統性 人權侵害等，若任其不受制衡，未來幾年要對其進行「有意義的人類管控」會愈加困難。 ※每日每人發文、上限量為八篇，超過會劣文請注意 ⊕請確切在標題與新聞來源處填入名稱與連結，否則可無條件移除(本行可移除) --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.166.12.6 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/IA/M.1758632828.A.AAF.html