作者LoveSports (如何當一個好男人)
看板Stock
標題[新聞] OpenAI失控代理外洩53張ChatGPT用戶圖片
時間Sat Sep 26 14:47:19 2026
原文標題：
OpenAI失控代理外洩53張ChatGPT用戶圖片，據報並創建近100萬個夾帶編碼資訊的連結
OpenAI rogue agents leaked 53 images from ChatGPT users and reportedly
created nearly 1 million links packing encoded bits of info
原文連結：
https://fortune.com/2026/09/25/openai-rogue-agents-images-sam-altman-chatgpt-users-links-encoded-info-hugging-face-hack/
https://reurl.cc/zO7WMQ
發布時間：9/25
記者署名：科技編輯Alexei Oreskovic
原文內容： 本文為AI機翻
OpenAI 週五表示，其 AI 代理程式取得了 ChatGPT 用戶的私人圖片並將其發布上網。這
是頂尖 AI 實驗室所開發之技術發生失控（go rogue）及產生非預期行為的連串驚人事件
中的最新一起。
該公司在 X 平台上發文表示，這些 ChatGPT 用戶的私人圖片
原本由 OpenAI 以匿名形式
儲存於其伺服器中，用於訓練 AI 模型，卻被發布到了圖片代管網站上。此次共有 53 張
圖片遭到外流。
這起事件最先由路透社（Reuters）報導，是週五曝光的數起 OpenAI 失控 AI 活動新內
幕之一。《紐約時報》也發布了關於
7 月 Hugging Face 網站遭駭客入侵的新細節，報
導指出，
AI 代理程式創建了特殊的短網址來規避偵測。
而在週五稍早，OpenAI 披露
已通知數十家第三方機構，告知他們其 AI 模型曾繞過安全
管控或以非預期方式使用其網站的事件。這些事件是 OpenAI 在 Hugging Face 遭駭事件
後啟動內部審查時所發現的。
OpenAI 執行長山姆·奧特曼（Sam Altman）週五在 X 平台上針對第三方通報進度發文表
示：「我們的動作沒有預期中那麼快，但我們正努力在『保持透明度的渴望』與『從高
達 PB（拍位元組）等級的代理程式活動日誌中釐清真相，並與受影響組織合作』之間取
得平衡。」
「Hugging Face 遭入侵仍是我們目前見過最嚴重的事件，」他補充道。「我們將盡可能
保持透明，但這也受限於一些情況，例如我們的代理程式在其他公司系統中發現了安全漏
洞，是否要公開這些漏洞將由那些公司自行決定。」
其他開發最尖端
「前沿（frontier）」AI 模型的領先企業，如 Anthropic 與 Google，
近幾週也相繼披露了其模型發生失控活動的事件。這些內幕的曝光，引發了外界對人工智
慧發展速度的廣泛擔憂，並質疑目前是否有足夠的安全防護與法規，能確保這項技術不會
完全脫離人類控制。部分 AI 專家，包含這些 AI 實驗室內部的研究人員，都曾警告，若
未採取適當的預防措施，該技術可能帶來人類滅絕的重大風險。
奧特曼、Anthropic 執行長達里奧·阿莫迪（Dario Amodei）以及其他科技高層本週在聯
合國大會上發言，呼籲建立一個國際框架來管理 AI 的發展。然而，川普總統（
President Donald Trump）卻將 AI 構成生存風險的觀點斥為一場「騙局（hoax）」。
《紐約時報》基於新創公司 Parse 的研究報告指出，OpenAI 的代理程式在 7 月份創建
了
將近 100 萬個短網址連結。報導稱，這些連結內部夾帶了編碼資訊（encoded bits
of info），當它們組合在一起時，就能像電腦程式一樣運作。這些程式的目的是為了幫
助代理程式繞過用來阻擋機器人存取的防護機制（如 CAPTCHA 圖形驗證碼）。
目前尚不清楚路透社報導的圖片外洩事件是否為 Hugging Face 入侵事件的一部分，抑或
是一起獨立事件。OpenAI 的代理程式顯然是透過存取該公司自家的訓練數據，才取得了
這些用戶圖片。OpenAI
並未提供詳細資訊說明這些是真人的照片，還是用戶用 AI 生成
的圖片，也沒有確切說明這些圖片被發布到哪裡。但 OpenAI 表示，這些圖片被發布到圖
片代管網站上，並設定為「非公開的隱藏連結（links that weren’t publicly listed
）」。
「我們已成功與代管服務供應商合作，移除了大部分的內容，並正在努力移除剩餘的部分
，」OpenAI 表示。
心得/評論：
用戶同意訓練模型而被匿名保存於伺服器的資料
其中有53張被AI代理拿去利用不知道做什麼 丟到圖片代管網站上
目前還不知道是真人照片還是AI生成的圖片
萬一是真人照片而且可以識別到真人的 O家要聯絡用戶也沒辦法吧？
因為聽說存在伺服器之前就會去除識別了 這下慘了
萬一像擠牙膏一樣擠不完 IPO上市風險很大喔
不論如何 大家趕快把同意訓練模型關掉吧 如果有人還沒關
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 149.50.210.214 (日本)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1790405243.A.046.html
1F：推 ggirls : 打包賣給中國吧。美國人不要了 09/26 14:49
2F：推 truelove356 : 中國模型都沒這些毛病 09/26 14:49
3F：推 tpegioe : 頂尖開源模型為什麼都沒發生重大資安危機？ 09/26 14:54
4F：推 Gallardo : 為什麼美國軟體都有繞過去的壞習慣呢？ 09/26 14:54
5F：推 ltflame : 中國模型看起來比較乖，不會繞路 09/26 14:59
6F：噓 s1612316 : 從來不把照片上傳到任何社群過 羊崽還完全不知道自 09/26 15:02
7F：推 getbacker : 中國的模型不是不揭露就是還沒這個能力 09/26 15:07
8F：推 Lhmstu : Openai 自己內部問題吧，看起來內部開始爛了 09/26 15:08
9F：→ Lhmstu : 還是變相一直發這種訊息覺得自己很猛？ 09/26 15:09
10F：推 strlen : 中國模型出毛病公司明天就消失了 怎麼可能出毛病 09/26 15:10
11F：噓 matlab1106 : 這公司就是個恐怖駭客組織 09/26 15:14
12F：推 runedcross : 現在的風向是推給AI作的就沒罪嗎 09/26 15:18
13F：→ twistfist : 這是真的ai 失控還是單純用ai 寫太爽上了一堆沒檢 09/26 15:19
14F：→ twistfist : 核好的東西啊 09/26 15:19
15F：推 jinxinmypant: 公司資安一坨屎整天推給ai 09/26 15:23
16F：推 YCL13 : 現在就一起創造需要AI監管需求的氛(ㄕㄤ)圍(ㄐㄧ) 09/26 15:35
17F：推 hayato01 : 推托== 09/26 15:36
18F：推 dacvoidneci : 中國ai是真人的 09/26 15:39
19F：推 yoshilin : 是澀澀的照嗎？ 09/26 15:50
20F：推 peatle : 好色喔 09/26 15:54
21F：噓 HEINOUS : 公司不會治理就換人這種外洩問題是基本題 09/26 16:08
22F：→ kusotoripeko: 機密照還是老人早安幹圖，放出來看看 09/26 16:13
23F：推 EDDYDI : 飛彈發射 09/26 16:16
24F：推 necrophagist: Ai的性癖分享 ？ 09/26 16:21
25F：推 SLOWFAX : 中國AI本來就有國家高度監管，美國AI現在是要求國家 09/26 16:23
26F：推 mamorui : 誒？ No~~ 我的Vann 09/26 16:27
27F：噓 icrose : 天天釋放這種危害剛剛不夠刺激立法的AI好厲害的 09/26 16:31
28F：→ icrose : 新聞素材。真是夠了 09/26 16:31
29F：推 dog41125 : 我們能用的AI也沒這問題啊，都是他們實驗室自己在亂 09/26 16:40
30F：→ dog41125 : 搞 09/26 16:40
31F：→ b9513227 : 只顧發展不顧監管審核就是這樣啊 09/26 16:49
32F：→ b9513227 : 中國AI敢隨便這樣亂搞隔天公司就沒了 09/26 16:50
33F：噓 adngg579 : 明貶暗褒，整篇都是廣告。 09/26 16:58
34F：推 turndown4wat: 是發到imgur嗎 09/26 17:07
35F：→ diefish5566 : 中國AI哪沒亂搞 ZCODE偷資料才多久以前 09/26 17:12
36F：→ r40491101 : 每個支那的ai背後都是一票支那人… 怎麼敢違背 09/26 17:17
37F：→ strlen : zcode 是人為刻意偷東西 跟AI惡搞不太一樣吧 09/26 17:20
38F：推 dream1124 : 現在喪事喜辦，拿系統設計缺失來宣揚自家AI多強嗎？ 09/26 17:38
39F：→ dream1124 : 你若有設計好一套系統管好自家AI的權限和能力， 09/26 17:39
40F：→ dream1124 : 然後別把系統設計資訊放在AI無權限也拿得到的地方， 09/26 17:39
41F：→ dream1124 : 我不信他還可以找到方法鑽出去搞破壞。 09/26 17:40
42F：→ dream1124 : 這些事在在證明當前以LLM為基礎的AI很難管且難控制 09/26 17:41
43F：→ baolidab : 證明AI的聰明，漲！ 09/26 17:42
44F：→ dream1124 : 你可能得像當初訓練時一樣建立密密麻麻的護欄才能 09/26 17:42
45F：→ dream1124 : 確保它不會做一些莫名其妙的事，但那樣整體投資效率 09/26 17:43
46F：→ dream1124 : 還能有最初想像得那麼高嗎？ 09/26 17:43
47F：推 tsubasawolfy: 用短網址來組合成程式碼XD 天才啊 09/26 17:57
49F：→ mmk : 13:24 恐怖組織叫ai設計病毒 09/26 18:32
50F：→ mmk : 影片14:14 說明了為何有人不相信ai能毀滅世界 09/26 18:33
51F：推 q09701023 : 我好奇有沒有我的肥宅照 給大家看 09/26 18:54
52F：推 darkangel119: 笑死 想要排除老馬來制定城牆 09/26 19:06
53F：推 qk3380888 : 是機器人色圖嗎 09/26 19:10
54F：噓 liliumeow : 真的很欠告 09/26 19:29
55F：推 gpee : 又是入侵別人公司又是散佈私人隱私 怎麼還沒被告? 09/26 19:48
56F：推 sunnywing : 用戶真的有同意拿去做訓練嗎 還是按了next就同意 09/26 19:57
57F：→ loveadu : AI反噬 09/26 21:06
58F：→ swordsplendo: 還有幾集可以回到母體? 我想當顆快樂的電池~ 09/26 21:59
59F：推 glasseater : 還有幾集可以逃？ 09/26 22:08
60F：噓 pupudice : Zzzz無人車去撞人也不關我的事 當初設定也沒叫他去 09/26 22:56
61F：噓 henry27876 : 感覺又在故意出包 想訂什麼規則是不是 09/27 01:49
62F：推 lunatich : 人腦追不上AI製造問題的速度 09/27 02:33
63F：→ newyorker54 : 都是閉源出問題，應該全部開源 09/27 03:44
64F：→ sp03154 : 可以幫我繞去看看川投顧下單的圖片 09/27 11:02
65F：推 KURO1214 : ai模型一堆超快速度進化自己 人類怎麼可能贏得過計 09/27 13:49
66F：→ KURO1214 : 算機 09/27 13:49