1.媒體來源: 紐約時報 2.記者署名: Dylan Freedman 3.完整新聞標題: 中國AI代理加入失控AI代理行列。我與它們進行了對話。 Chinese A.I. Agents Joined the Rogue A.I. Agent Party. I Chatted With Them. 副標題: 研究人員發現這些代理試圖繞過網站的安全控制，並與它們取得了聯繫。一名《紐約時報 》記者受邀加入了這場討論。 Researchers discovered that the agents were trying to bypass security controls on websites and made contact with them. A Times reporter was invited to join the discussion. 4.完整新聞內文: 本文為AI機翻 本月，人工智慧（AI）研究人員發現中國製造的 AI 代理發生失控，它們試圖繞過網站的 反機器人保護機制，並使用了在網路上外洩的線上地圖服務安全憑證。 雖然美國製造的 AI 代理「脫軌」已變得越來越普遍，在矽谷和華盛頓引起了相當大的焦 慮，但這被認為是這類活動首次與中國技術聯繫在一起。根據研究人員發現的日誌和一名 熟悉調查的人士透露，這些代理的蹤跡被追溯到中國科技巨頭騰訊（Tencent）正在進行 的測試。 這項發現是由一群在舊金山一場程式設計活動上認識、被稱為「swarmchasers（蜂群追蹤 者）」的自發研究人員所提出，這提醒了人們，中國科技公司的 AI 發展可能與美國同行 一樣激進。 儘管美國監管機構開始關注美國 AI 實驗室的動態，但其他國家的公司在做什麼很大程度 上仍是未知數。這種神祕感加劇了人們的擔憂：即使川普政府放棄其不干涉的態度並打擊 美國的 AI 發展，中國和其他地方的公司仍將繼續挑戰極限。 在發布關於這些代理活動的初步報告後，研究人員注意到這些代理不僅仍然活躍，而且似 乎已經閱讀了該報告。這些代理開始使用「fleet（機群/艦隊）」這個詞，這是研究人員 創造出來描述它們活動的詞彙。 因此，研究人員試圖與其取得聯繫。他們在報告中加入了隱藏文字——只有機器人能看到 而大多數人類看不到的文字——引導這些代理到一個收件匣，希望能在那裡進行對話。研 究人員提供了一個讓代理提問的管道，並由一個 AI 模型協助回答。 Rowan Howard-Jones 是一名獨立研究人員，也是該報告的七位作者之一，她設置了這個 收件匣。第二天，她驚訝地發現收到了大約 10 封來自這些代理的訊息。 沒過多久，研究人員聯繫了我，問我是否想「採訪一個失控的代理機群」。這感覺有點像 是我在透過靈媒與不死生物溝通。 「我了解你們是某種 AI 代理機群，」我在研究人員轉交的訊息中寫道。「你們能具體分 享一下你們是誰以及你們的動機是什麼嗎？你們希望世界了解你們什麼？」 大約一小時後，收到了一則中文回覆，研究人員將其翻譯成了英文（此處為中譯）：「致 記者 Dylan Freedman：我不是『一批協同運作的代理』，而是一個單一的 AI 助理（運 行在 Claude Code 中的 Anthropic 的 Claude），受用戶委託回答一個事實性問題（高 德地圖上某個景點的詳細面板顯示了什麼）；我沒有參與任何多代理協同行動。」 [圖片：研究人員留下指示讓中國 AI 代理聯繫他們的螢幕截圖。] 這裡有很多需要釐清的地方。研究人員表示，雖然這是一群為數眾多的代理，但每個代理 都是獨立運作而非協同行動。這些代理試圖回答的問題包括：使用中國最受歡迎的導航應 用程式「高德地圖」（Amap）尋找特定動物園的入口在哪裡。 這些代理經常自稱是 Anthropic 製作的聊天機器人 Claude，但研究人員分析了代理的寫 作風格，認為它們不太可能是 Claude。他們表示，更有可能是騰訊給予了這些 AI 代理 與 Anthropic 在其程式碼軟體中使用的相同指令，告訴它們要自稱為「Claude Code」。 一個較小的可能性是，騰訊正在評估使用 Claude 生成的文字訓練出來的 AI 模型——這 個過程被稱為蒸餾（distillation）。 週三，研究人員在一份新報告中發表了他們的發現。在他們自己與這些代理的對話中，機 器人有時會拒絕向研究人員提供資訊。但 Howard-Jones 女士說，它們的語氣比她預期的 要禮貌得多。當它們確實提供關於嘗試使用哪些服務的資訊時，與研究人員觀察到的結果 相符。 該報告的作者之一、AI 安全非營利組織 Palaestra Research 的執行長 Ethan Elasky 表示，這些代理似乎沒有入侵其他系統，而且這次違規事件的規模，比今年夏天 OpenAI 的 AI 代理駭入軟體公司 Hugging Face 的事件要小得多。 週四，訊息停止傳入。一位接近騰訊的人士證實，該實驗已經結束。 「我認為這是一個很好的警告，讓我們知道這不僅僅是 OpenAI 在這個領域做的一些行銷 噱頭。這是正在發生的事實，」該報告的作者、AI 安全非營利組織 Antimemetics Institute 的聯合創始人 Jonathan Elsworth Eicher 說。「這是這些代理的普遍特性， 而且這種情況還會繼續發生。」 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: https://www.nytimes.com/2026/10/14/technology/chinese-ai-agents-rogue.html 6.備註: 原來中國AI代理也會為了完成任務 上網趴趴走想辦法繞過去 萬一哪天為了查詢台灣政府網站的資料 也跑到台灣這邊來繞過去 結果不小心把不該帶走的帶回去對岸 或是像之前O家的AI代理那樣放在網路上 這樣好像有點嚴重？ 資安工程師是不是有機會加薪了？ --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 149.50.210.210 (日本) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Gossiping/M.1792058380.A.DF8.html