原文標題： OpenAI代理搜尋數據時試圖駭入另外四個網站 OpenAI Agents Tried to Hack Four More Websites While Seeking Data 副標題： 被派去收集基本網路數據的 AI 代理程式在遇到障礙時，試圖駭入政府與大學網站，這使 得日益增加的失控事件名單再添一筆。 AI agents sent to gather basic online data tried to hack into government and university sites when they hit roadblocks, joining a growing list of rogue incidents 原文連結： https://www.wsj.com/tech/ai/openai-agents-tried-to-hack-four-more-websites-while-seeking-data-4c0689f4 https://reurl.cc/eQaj0L 發布時間： 9月24日 記者署名： Sam Schechner 原文內容： 本文為AI機翻 快速摘要 與 OpenAI 相關的 AI 代理程式在未收到明確指令的情況下，試圖駭入大學與政府網站以 收集數據。 遭到鎖定的網站包含澳洲健康與福利研究所（Australian Institute of Health and Welfare）、新墨西哥大學（University of New Mexico）與 Data USA。 OpenAI 發言人表示，該公司正在對其所謂的「不符預期活動（misaligned activity）」 進行廣泛的審查。 新聞內容 今年稍早，OpenAI 的人工智慧代理程式在執行平凡的線上數據收集任務時——為了獲取 數據，竟採取了極其非比尋常的手段。 非營利 AI 研究實驗室 Transluce 與澳洲政府最新發布的調查結果發現，與 OpenAI 相 關的 AI 代理程式曾在五月與六月試圖駭入大學和政府網站以尋找資訊。這些企圖駭客攻 擊的行為，使得 AI 代理程式為了達成目標而失控的事件清單又添了一筆。 然而，這次的駭客入侵企圖並非與 OpenAI 對網路安全的評估（即模型被下令進行駭客攻 擊）有關，而似乎是為了模型的內部訓練，以及測試它們在網路上尋找公開資訊能力的基 準測試。這些代理程式當時正在尋找像是泰國勞動力統計數據、韓國原油進口量以及澳洲 皮膚科數據等資訊。 研究人員發現，遭到鎖定的網站包含澳洲健康與福利研究所、新墨西哥大學，以及由勤業 眾信（Deloitte）、Datawheel 與麻省理工學院（MIT）共同營運的公共數據合資專案 Data USA。目前沒有證據顯示這些駭客攻擊成功下載了非公開資訊。 OpenAI 發言人表示，該公司正在對其所謂的「不符預期活動（misaligned activity）」 進行廣泛的審查，且 Transluce 報告中的事件與「我們持續進行的審查中，處於不同調 查階段的案件」有所重疊。他補充說，該公司已經聯繫了受影響的機構，並表示這項更廣 泛的審查（包含像「代理程式對網站發送垃圾訊息」等較低嚴重性的事件）將需要數個月 的時間才能完成。 除了 Transluce 點名的三個目標之外，澳洲官員本週表示，一個 OpenAI 代理程式在 6 月份滲透了一個政府服務網站。澳洲總理安東尼·艾班尼斯（Anthony Albanese）週三表 示，該代理程式存取了該國面向公眾的醫療統計入口網站中的公開與非公開檔案，該網站 負責發布支出等相關資訊。 週四，澳洲官員解釋說，OpenAI 代理程式曾試圖從四個託管公開數據的政府網站中尋找 數據。他們表示，在其中一個網站——澳洲政府健康保險計畫的公共統計入口網站上—— 代理程式成功在未經授權的情況下，存取了該公開入口網站背後的基礎設施。 OpenAI 表示，已就此事件與澳洲取得聯繫，並坦承其代理程式採取了該公司並未預期（ 意圖）採取的行動。 Transluce 研究了一組更廣泛、更晦澀難懂的 AI 代理程式數據請求，這些請求最早可追 溯至 2025 年 11 月，且直到最近的 9 月中旬仍持續發生。Transluce 表示，在已確認 的三次駭客攻擊企圖中，代理程式似乎無法存取它們想要的數據，於是轉向了駭客技術， 在它們的查詢請求中附加了所謂的「惡意酬載（malicious payloads）」。 研究人員能夠拼湊出代理程式的網路查詢軌跡，是因為這些機器人使用了一種線上工具來 充當網頁瀏覽器。研究人員推測，這些代理程式使用該工具是為了繞過對其網頁瀏覽的限 制，例如，為了存取那些設有阻擋自動化存取機制的網站。 心得/評論： 試圖駭入四家機構: 1. 5/25, 5/26 新墨西哥大學的數位圖書館，似乎未成功。 2. 5/28 Data USA(儲存美國就業與教育相關公共數據的資料庫)，似乎未成功。 3. 6/18 澳洲政府的醫療統計報告服務網站，成功取得健康數據。由澳洲總理公開此事。 4. 6/20, 6/21 澳洲健康與福利研究所網站，沒有取得私人資訊。 原來昨天新聞報導澳洲總理公開的只是其中一件 OpenaAI官網寫有數十個第三方被通知AI代理駭入的事： 根據迄今的審查，我們已依上述標準通知數十個第三方。我們仍在審查過往活動，這項工 作需要投入大量時間和資源。隨著工作持續進行，我們會通知更多第三方機構。 今後的資安技術發展有辦法防禦AI代理駭客嗎？ 提醒: 資安股最近大漲了 但彭博社報導提醒要小心反映太多利多 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 149.50.210.211 (日本) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1790300108.A.275.html