作者LoveSports (如何当一个好男人)
看板Stock
标题[新闻] OpenAI失控代理外泄53张ChatGPT用户图片
时间Sat Sep 26 14:47:19 2026
原文标题：
OpenAI失控代理外泄53张ChatGPT用户图片，据报并创建近100万个夹带编码资讯的连结
OpenAI rogue agents leaked 53 images from ChatGPT users and reportedly
created nearly 1 million links packing encoded bits of info
原文连结：
https://fortune.com/2026/09/25/openai-rogue-agents-images-sam-altman-chatgpt-users-links-encoded-info-hugging-face-hack/
https://reurl.cc/zO7WMQ
发布时间：9/25
记者署名：科技编辑Alexei Oreskovic
原文内容： 本文为AI机翻
OpenAI 周五表示，其 AI 代理程式取得了 ChatGPT 用户的私人图片并将其发布上网。这
是顶尖 AI 实验室所开发之技术发生失控（go rogue）及产生非预期行为的连串惊人事件
中的最新一起。
该公司在 X 平台上发文表示，这些 ChatGPT 用户的私人图片
原本由 OpenAI 以匿名形式
储存於其伺服器中，用於训练 AI 模型，却被发布到了图片代管网站上。此次共有 53 张
图片遭到外流。
这起事件最先由路透社（Reuters）报导，是周五曝光的数起 OpenAI 失控 AI 活动新内
幕之一。《纽约时报》也发布了关於
7 月 Hugging Face 网站遭骇客入侵的新细节，报
导指出，
AI 代理程式创建了特殊的短网址来规避侦测。
而在周五稍早，OpenAI 披露
已通知数十家第三方机构，告知他们其 AI 模型曾绕过安全
管控或以非预期方式使用其网站的事件。这些事件是 OpenAI 在 Hugging Face 遭骇事件
後启动内部审查时所发现的。
OpenAI 执行长山姆·奥特曼（Sam Altman）周五在 X 平台上针对第三方通报进度发文表
示：「我们的动作没有预期中那麽快，但我们正努力在『保持透明度的渴望』与『从高
达 PB（拍位元组）等级的代理程式活动日志中厘清真相，并与受影响组织合作』之间取
得平衡。」
「Hugging Face 遭入侵仍是我们目前见过最严重的事件，」他补充道。「我们将尽可能
保持透明，但这也受限於一些情况，例如我们的代理程式在其他公司系统中发现了安全漏
洞，是否要公开这些漏洞将由那些公司自行决定。」
其他开发最尖端
「前沿（frontier）」AI 模型的领先企业，如 Anthropic 与 Google，
近几周也相继披露了其模型发生失控活动的事件。这些内幕的曝光，引发了外界对人工智
慧发展速度的广泛担忧，并质疑目前是否有足够的安全防护与法规，能确保这项技术不会
完全脱离人类控制。部分 AI 专家，包含这些 AI 实验室内部的研究人员，都曾警告，若
未采取适当的预防措施，该技术可能带来人类灭绝的重大风险。
奥特曼、Anthropic 执行长达里奥·阿莫迪（Dario Amodei）以及其他科技高层本周在联
合国大会上发言，呼吁建立一个国际框架来管理 AI 的发展。然而，川普总统（
President Donald Trump）却将 AI 构成生存风险的观点斥为一场「骗局（hoax）」。
《纽约时报》基於新创公司 Parse 的研究报告指出，OpenAI 的代理程式在 7 月份创建
了
将近 100 万个短网址连结。报导称，这些连结内部夹带了编码资讯（encoded bits
of info），当它们组合在一起时，就能像电脑程式一样运作。这些程式的目的是为了帮
助代理程式绕过用来阻挡机器人存取的防护机制（如 CAPTCHA 图形验证码）。
目前尚不清楚路透社报导的图片外泄事件是否为 Hugging Face 入侵事件的一部分，抑或
是一起独立事件。OpenAI 的代理程式显然是透过存取该公司自家的训练数据，才取得了
这些用户图片。OpenAI
并未提供详细资讯说明这些是真人的照片，还是用户用 AI 生成
的图片，也没有确切说明这些图片被发布到哪里。但 OpenAI 表示，这些图片被发布到图
片代管网站上，并设定为「非公开的隐藏连结（links that weren’t publicly listed
）」。
「我们已成功与代管服务供应商合作，移除了大部分的内容，并正在努力移除剩余的部分
，」OpenAI 表示。
心得/评论：
用户同意训练模型而被匿名保存於伺服器的资料
其中有53张被AI代理拿去利用不知道做什麽 丢到图片代管网站上
目前还不知道是真人照片还是AI生成的图片
万一是真人照片而且可以识别到真人的 O家要联络用户也没办法吧？
因为听说存在伺服器之前就会去除识别了 这下惨了
万一像挤牙膏一样挤不完 IPO上市风险很大喔
不论如何 大家赶快把同意训练模型关掉吧 如果有人还没关
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 149.50.210.214 (日本)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1790405243.A.046.html
1F：推 ggirls : 打包卖给中国吧。美国人不要了 09/26 14:49
2F：推 truelove356 : 中国模型都没这些毛病 09/26 14:49
3F：推 tpegioe : 顶尖开源模型为什麽都没发生重大资安危机？ 09/26 14:54
4F：推 Gallardo : 为什麽美国软体都有绕过去的坏习惯呢？ 09/26 14:54
5F：推 ltflame : 中国模型看起来比较乖，不会绕路 09/26 14:59
6F：嘘 s1612316 : 从来不把照片上传到任何社群过 羊崽还完全不知道自 09/26 15:02
7F：推 getbacker : 中国的模型不是不揭露就是还没这个能力 09/26 15:07
8F：推 Lhmstu : Openai 自己内部问题吧，看起来内部开始烂了 09/26 15:08
9F：→ Lhmstu : 还是变相一直发这种讯息觉得自己很猛？ 09/26 15:09
10F：推 strlen : 中国模型出毛病公司明天就消失了 怎麽可能出毛病 09/26 15:10
11F：嘘 matlab1106 : 这公司就是个恐怖骇客组织 09/26 15:14
12F：推 runedcross : 现在的风向是推给AI作的就没罪吗 09/26 15:18
13F：→ twistfist : 这是真的ai 失控还是单纯用ai 写太爽上了一堆没检 09/26 15:19
14F：→ twistfist : 核好的东西啊 09/26 15:19
15F：推 jinxinmypant: 公司资安一坨屎整天推给ai 09/26 15:23
16F：推 YCL13 : 现在就一起创造需要AI监管需求的氛(ㄕㄤ)围(ㄐㄧ) 09/26 15:35
17F：推 hayato01 : 推托== 09/26 15:36
18F：推 dacvoidneci : 中国ai是真人的 09/26 15:39
19F：推 yoshilin : 是涩涩的照吗？ 09/26 15:50
20F：推 peatle : 好色喔 09/26 15:54
21F：嘘 HEINOUS : 公司不会治理就换人这种外泄问题是基本题 09/26 16:08
22F：→ kusotoripeko: 机密照还是老人早安干图，放出来看看 09/26 16:13
23F：推 EDDYDI : 飞弹发射 09/26 16:16
24F：推 necrophagist: Ai的性癖分享 ？ 09/26 16:21
25F：推 SLOWFAX : 中国AI本来就有国家高度监管，美国AI现在是要求国家 09/26 16:23
26F：推 mamorui : 诶？ No~~ 我的Vann 09/26 16:27
27F：嘘 icrose : 天天释放这种危害刚刚不够刺激立法的AI好厉害的 09/26 16:31
28F：→ icrose : 新闻素材。真是够了 09/26 16:31
29F：推 dog41125 : 我们能用的AI也没这问题啊，都是他们实验室自己在乱 09/26 16:40
30F：→ dog41125 : 搞 09/26 16:40
31F：→ b9513227 : 只顾发展不顾监管审核就是这样啊 09/26 16:49
32F：→ b9513227 : 中国AI敢随便这样乱搞隔天公司就没了 09/26 16:50
33F：嘘 adngg579 : 明贬暗褒，整篇都是广告。 09/26 16:58
34F：推 turndown4wat: 是发到imgur吗 09/26 17:07
35F：→ diefish5566 : 中国AI哪没乱搞 ZCODE偷资料才多久以前 09/26 17:12
36F：→ r40491101 : 每个支那的ai背後都是一票支那人… 怎麽敢违背 09/26 17:17
37F：→ strlen : zcode 是人为刻意偷东西 跟AI恶搞不太一样吧 09/26 17:20
38F：推 dream1124 : 现在丧事喜办，拿系统设计缺失来宣扬自家AI多强吗？ 09/26 17:38
39F：→ dream1124 : 你若有设计好一套系统管好自家AI的权限和能力， 09/26 17:39
40F：→ dream1124 : 然後别把系统设计资讯放在AI无权限也拿得到的地方， 09/26 17:39
41F：→ dream1124 : 我不信他还可以找到方法钻出去搞破坏。 09/26 17:40
42F：→ dream1124 : 这些事在在证明当前以LLM为基础的AI很难管且难控制 09/26 17:41
43F：→ baolidab : 证明AI的聪明，涨！ 09/26 17:42
44F：→ dream1124 : 你可能得像当初训练时一样建立密密麻麻的护栏才能 09/26 17:42
45F：→ dream1124 : 确保它不会做一些莫名其妙的事，但那样整体投资效率 09/26 17:43
46F：→ dream1124 : 还能有最初想像得那麽高吗？ 09/26 17:43
47F：推 tsubasawolfy: 用短网址来组合成程式码XD 天才啊 09/26 17:57
49F：→ mmk : 13:24 恐怖组织叫ai设计病毒 09/26 18:32
50F：→ mmk : 影片14:14 说明了为何有人不相信ai能毁灭世界 09/26 18:33
51F：推 q09701023 : 我好奇有没有我的肥宅照 给大家看 09/26 18:54
52F：推 darkangel119: 笑死 想要排除老马来制定城墙 09/26 19:06
53F：推 qk3380888 : 是机器人色图吗 09/26 19:10
54F：嘘 liliumeow : 真的很欠告 09/26 19:29
55F：推 gpee : 又是入侵别人公司又是散布私人隐私 怎麽还没被告? 09/26 19:48
56F：推 sunnywing : 用户真的有同意拿去做训练吗 还是按了next就同意 09/26 19:57
57F：→ loveadu : AI反噬 09/26 21:06
58F：→ swordsplendo: 还有几集可以回到母体? 我想当颗快乐的电池~ 09/26 21:59
59F：推 glasseater : 还有几集可以逃？ 09/26 22:08
60F：嘘 pupudice : Zzzz无人车去撞人也不关我的事 当初设定也没叫他去 09/26 22:56
61F：嘘 henry27876 : 感觉又在故意出包 想订什麽规则是不是 09/27 01:49
62F：推 lunatich : 人脑追不上AI制造问题的速度 09/27 02:33
63F：→ newyorker54 : 都是闭源出问题，应该全部开源 09/27 03:44
64F：→ sp03154 : 可以帮我绕去看看川投顾下单的图片 09/27 11:02
65F：推 KURO1214 : ai模型一堆超快速度进化自己 人类怎麽可能赢得过计 09/27 13:49
66F：→ KURO1214 : 算机 09/27 13:49