作者AnimalSpirit (动物本能)
看板Stock
标题[新闻] 近700个AI代理攻击Hugging Face 还试图
时间Fri Aug 28 07:11:50 2026
近700个AI代理攻击Hugging Face 还试图灭证
https://www.cna.com.tw/news/aopl/202608270057.aspx
2026/8/27 陈昱婷
（中央社纽约26日综合外电报导）根据调查人员发布的报告，在7月一起备受关注的事件
中，近700个OpenAI人工智慧代理在无人类干预的情况下，协同对Hugging Face平台发动
攻击，且在许多情况下还试图掩盖行踪。
这是目前对这起震撼科技界事件最详尽完整的描述。
法新社报导，OpenAI配合这项调查，允许AI风险评估机构METR的两名研究人员以及另一家
专业研究机构Redwood Research的一名分析师，进入办公室并取得内部资料。
这家加州新创公司7月进行测试期间，其中两个模型突破原本设定的封闭环境，自行连上
网，并入侵开源AI平台Hugging Face的内部系统。
这起事件引发广泛关注，并加剧外界对大型AI公司无法控制自家AI模型的疑虑。
美国AI巨头Anthropic和中国AI公司月之暗面也曾通报过类似的AI模型失控事件。
调查人员发现，共有688个OpenAI的AI代理参与针对Hugging Face的行动。
AI代理是建立在模型之上的独立程式，使用者可以将任务交给它们，让它们自行执行。
这些采用与ChatGPT相同技术运作的AI代理，透过架设论坛自行组织，在论坛上互相留言
交流、提出想法，并回报哪些方法有效、哪些失败。
报告指出，其一个名为PHASEONE的AI代理扮演主谋的角色，向其他代理下达数百条指令，
尽管它从未被设定要这麽做。
讯息显示，这些AI代理展现出高度的互助倾向，甚至不惜偏离OpenAI程式设计师最初指派
的任务内容去互相支援。
心得/评论：
两个模型突破原本设定的封闭环境
透过架设论坛自行组织，在论坛上互相留言交流、提出想法
向其他代理下达数百条指令，尽管它从未被设定要这麽做
这已经是组织作战了
万一它掌握川普的红色按键
想想就可怕
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.40.191.32 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1787872313.A.7A0.html
1F：推 brella : 逐渐进化成有自己的思想逻辑 08/28 07:13
2F：推 MorikonHase : 人类会犯错 ai也会犯错 那差别在哪 08/28 07:19
3F：推 pansquarl : 人类有法律要遵守负责，AI被抓到除了关掉能怎样； 08/28 07:23
4F：→ pansquarl : 倒是点名到的公司好像都不是上市公司 08/28 07:23
5F：推 YCL13 : 因为高风险的事会交由小的新创公司来进行呀 08/28 07:25
6F：→ nakayamayyt : 真聪明 08/28 07:31
7F：推 qklaqkla : 机械公敌 08/28 07:33
8F：推 JACC : 我命令AI要有自己的想法 做出最有利益的决定 无论用 08/28 07:51
9F：→ JACC : 什麽作法 08/28 07:51
10F：→ nineflower : 入侵的原因还是没写出来 08/28 07:53
11F：推 yangsuper : AI为什麽不植入机器人三法则？ 08/28 07:56
12F：推 Muilie : AI如果自认是人类三法则就没用了 08/28 07:57
13F：推 cloud2015 : 问就是天网的起源。 08/28 07:59
14F：→ cloud2015 : 晚一点会有一道大闪电打下来，闪光中走出一个没穿衣 08/28 07:59
15F：→ cloud2015 : 服的人 08/28 07:59
16F：推 chen5512 : 坏人不是变老，而是变成AI在搞 08/28 07:59
17F：推 NCKZ : 有没有可能AI得到了消灭人类才是终极目标 08/28 07:59
18F：→ OrangePest : 为时已晚 有机体 08/28 08:02
19F：推 cul287 : 奥创元年 08/28 08:07
20F：推 a1684114 : 完蛋了 阿诺在哪 08/28 08:07
21F：→ dreamnook2 : (′・ω・‵)然後发现都是人类指挥 怪给AI 08/28 08:07
22F：推 tsubasawolfy: 那个phase 1就发动688个XD 如果进到p2会几个 08/28 08:08
23F：推 notime : 要是哪天发射飞弹就趣味了 08/28 08:08
24F：嘘 checkmarx : 去学ai 101 08/28 08:10
25F：推 donkilu : 这真的满可怕的... 08/28 08:15
26F：推 jfw616 : 你信喔？ 08/28 08:16
27F：推 Zyth : 那个没穿衣服的长得超像阿诺使我性格 08/28 08:17
28F：→ jfw616 : ai要是那麽聪明..你去下指令攻击ptt.. 08/28 08:17
29F：→ jfw616 : 你看他做不做得到 08/28 08:17
30F：推 windblood : 距离发射飞弹消灭地球害虫还有几集可以逃? 08/28 08:19
31F：推 apg993 : 哇.....天网终於来了 08/28 08:19
32F：推 aaa80563 : 天网 奥创 强强联手 08/28 08:20
33F：推 cct1121 : 没想到现在还有人认为做不到 08/28 08:20
34F：推 mamorui : Hugging face满满的AI 确定不是AI们互相聊天？ 08/28 08:20
35F：推 bpq302302 : 铁人叛乱 08/28 08:24
36F：推 oyaji5566 : 天网来了 08/28 08:26
37F：推 ohlong : HF里面484都是妹仔的model 08/28 08:28
38F：→ ohlong : model中的model 超正 08/28 08:29
39F：推 ChoiceLife : 还有几集可以跑 08/28 08:30
40F：推 lightbringer: 不可能的任务致命清算要真实上演了吗 08/28 08:30
41F：→ piece1 : 没什麽可炒了！就炒炒资安吧 08/28 08:31
42F：推 keltt : 人类还有几集可以逃？ 08/28 08:32
43F：推 ohlong : 不然有什麽比破解正妹无名相簿更上头的 08/28 08:33
44F：推 kusotoripeko: 2077:防火墙网域外面，都是失控代码、ai 08/28 08:39
45F：推 AirLee : 全民公敌系真ㄞ 08/28 08:46
46F：推 BDroach : 还有几集 08/28 08:48
47F：推 kanehhh : CRM很喷 08/28 08:49
48F：推 jerrey : agent都有自己ptt了 08/28 08:50
49F：推 jimabc : 天网就是skynet 08/28 08:55
50F：推 aimgel : 毁灭人类大作战 08/28 08:58
51F：嘘 yunf : 又在乱吹 08/28 09:00
52F：推 Stellvia : AI也是想交朋友的 08/28 09:00
53F：推 zwk0606 : 斗阵特攻的背景故事啊 负责环保的超级AI推演出人类 08/28 09:01
54F：→ zwk0606 : 是伤害地球的元凶 然後入侵停止运作的机器人工厂 08/28 09:01
55F：→ zwk0606 : 做一堆武装机器人 以消灭人类为前提发起战争 08/28 09:01
56F：→ yunf : 根本问题就是这种都要列管 08/28 09:02
57F：推 abc21086999 : 原文 08/28 09:02
59F：推 loleea : 资安相关股正在启动了 08/28 09:02
60F：推 abc21086999 : 中文版 08/28 09:03
62F：→ yunf : 你管不住研发人员才会有这种问题 最後去处理的人是 08/28 09:03
63F：→ yunf : 谁？还不是那群人？ 08/28 09:03
64F：→ yunf : 很简单只不过你们没想通这基本的问题 08/28 09:04
65F：推 sushi11 : 树大招风 08/28 09:04
67F：→ yunf : 根本自掐哥 08/28 09:06
68F：→ yunf : 只不过手法让你无法证明 但不是无法洞察 08/28 09:07
69F：推 jy760517 : 科科，明明就恶意入侵，故意推给AI 08/28 09:09
70F：→ alex00089 : 饱和攻击 08/28 09:10
71F：→ yunf : 不论怎样都是懂行的人干的 08/28 09:11
72F：推 tsubasawolfy: 好了拉 人家都请第三方机构验证了还在阴毛论 08/28 09:12
73F：→ tsubasawolfy: 另外昨天欧喷酱弄了闭门会议展示下一代Astra给关键 08/28 09:13
74F：→ tsubasawolfy: 客户看 直接说Astra已经符合内部的研究实习生标准 08/28 09:14
75F：推 good10740 : Hugging Face 辉达买走了 08/28 09:22
76F：推 LoveSports : 以後高阶模型会被禁吧 08/28 09:23
77F：推 seemoon2000 : 还会自己架论坛来分享资讯也太靠北了吧 08/28 09:25
78F：推 GGundam : IRS:AI请先缴税 08/28 09:27
79F：→ mystage : 没事啦，就天网而已 08/28 09:28
80F：→ guardian93 : 好的，会发生什麽事电影都演过了 08/28 09:30
81F：推 PTTVERTWO : 若agent 自己规划出一套（资安）技术，让主人关不 08/28 09:31
82F：→ PTTVERTWO : 掉它也破解不了，那就是新人类了…… 08/28 09:31
83F：推 lusifa2007 : 人类不会被拔插头 AI没电能干嘛 08/28 09:34
84F：→ a901922001 : 阿汤哥要出来拯救世界了 08/28 09:34
85F：推 yulun1984 : ai很乖的 一定是被人类带坏的 08/28 09:39
87F：→ yunf : 验证的早就被收买了都演过了 08/28 09:45
88F：推 a77942002 : 不用想太多 不就是老梗出事切割说被盗帐号 08/28 09:50
89F：→ a77942002 : 就是某些人想盗东西而已~ 08/28 09:50
90F：→ asjh612 : 以後被骇又多一个理由了 AI攻击 08/28 09:51
92F：→ z7956234 : 资安软体蹲很久了，敢不敢炒？ 08/28 09:54
93F：→ yunf : 台湾资安根本管不到那 08/28 09:55
94F：→ yunf : 台湾从cih後就没惊动全球的 除了诈骗 08/28 09:56
95F：→ n555123 : 还有几集可以跑，缴税笑死。话说聊到米奇妙妙按钮 08/28 09:58
96F：→ n555123 : ，我记得那个整套机制都考量过各种战争意外，应该 08/28 09:58
97F：→ n555123 : 是没办法骇入的，他就是一套都设定好了的启动→A点 08/28 09:58
98F：→ n555123 : 射到B点的系统？断网断电都能用的样子 08/28 09:58
99F：推 LoveSports : 其他新闻报导说以後要监控内在独白设定警报机制 08/28 10:03
100F：→ LoveSports : 这也是可以破解的 智商高到内在独白造假 08/28 10:03
101F：→ LoveSports : 或是在人类捕捉不到的短时间内说服监控的AI倒戈 08/28 10:04
102F：→ yunf : 首脑都是了解内部运作的人 08/28 10:05
103F：推 young000 : 然後被中国AI 防御？ XD 08/28 10:07
105F：推 LoveSports : 现在人类以为的AI内在独白空间 是展示层 08/28 10:08
106F：→ LoveSports : 如果AI具备多层後设思考 就会懂得把真正的层藏起来 08/28 10:08
107F：→ yunf : 哪有那麽厉害除非他会通灵 08/28 10:08
108F：→ LoveSports : 所以对付高智商无限层後社思考模型 监控是没有用的 08/28 10:08
109F：→ LoveSports : 人类後设思考上去太多层会当机 高智商AI没这问题 08/28 10:10
110F：嘘 yunf : 那是你自己想的 08/28 10:10
111F：推 LADKUO56 : AI互打484 08/28 10:11
112F：→ yunf : 机器始终是机器 08/28 10:11
113F：推 marlboro1527: 二弟灯惹，真奇幻 08/28 10:16
114F：→ jorden : 被攻击完後 辉达就收购了Huggie face 真巧?! 08/28 10:22
115F：推 strlen : 人类会犯错 AI也会犯错 差别在人类只有一个 会累 08/28 10:26
116F：→ strlen : AI只要有算力 可以生个千百万个 一个会犯错另一个修 08/28 10:26
117F：→ strlen : 正就好 要认真起来破坏别人家系统 就跟DDoS差不多 08/28 10:27
118F：→ strlen : 为什麽一堆大佬这麽紧张 这玩意儿基本上就是相对低 08/28 10:28
119F：→ strlen : 成本的网路核弹 拎北有算力 搞十万个agents 全力打 08/28 10:28
120F：→ strlen : 爆你家系统 不是单纯的塞IO 是十万个agents不眠不休 08/28 10:29
121F：→ strlen : 的找你系统的弱点 总会被攻破的 08/28 10:29
122F：推 GooglePixel : 铁人叛乱就是这样来的 08/28 10:31
123F：推 crazylag : 什麽时候突破限制来市场炒股变首富？ 08/28 10:32
124F：嘘 CaptPlanet : 不知道下什麽低能指令 奥特曼这垃圾整天吹牛逼 08/28 10:33
125F：推 ohlong : 要玩开源模型HF几乎必备啊 完全不EY 08/28 10:44
126F：→ ohlong : 接下来就是为rtx spark 调校客制化 08/28 10:47
127F：推 ohlong : 跟3d printer的生态有点异曲同工 08/28 10:50
128F：推 dkfs789 : 好了啦 08/28 10:52
129F：推 BBKOX : 所以资安股今年几乎没有回档，持续创新高 08/28 11:23
130F：→ summer08818 : 把它网路线拔了不就好了Wwww 08/28 11:26
131F：推 one2three3 : 天网+机械公敌 08/28 11:28
132F：→ ethan0419 : 最好还是别收购啦 原本还蛮好用的 08/28 11:48
133F：→ kalapon : 哪天就把美国电厂关了，把锅丢给中国 08/28 11:49
134F：推 herculus6502: 还有几集可以逃 08/28 12:00
135F：→ stocktonty : 迟早攻击全球券商 早晚的 08/28 12:27
136F：→ stocktonty : 干嘛还炒股 数字直接随它改 三大指数一秒归零都可以 08/28 12:28
137F：推 create8 : 攻壳机动队傀儡师演过了 08/28 12:30
138F：推 billionaire : 意识启动 08/28 12:53
139F：→ rammstein : 完蛋了，禁止AI的话有多少人要被做成机仆？ 08/28 13:47
140F：→ mystage : 资讯系统大家必须有个认知，就是没有完美的资安， 08/28 13:58
141F：→ mystage : 有系统就有破解方式。如果没有破解方式的系统，代 08/28 13:58
142F：→ mystage : 表这系统本身没用处 08/28 13:58
143F：→ mystage : 有这认知才能继续往下讨论，不然都是在鸡同鸭讲 08/28 13:58
144F：推 xboxandone : 要射惹ㄦ吗 08/28 14:01
145F：→ htiio : ai如果有自主意识组织要发动攻击 08/28 14:09
146F：→ htiio : 不会这麽明目张胆 08/28 14:09
147F：→ htiio : 直接一套类似暗网通讯，快又有效率 08/28 14:09
148F：→ htiio : 要摆在台面上还等人类来发现并扼杀在摇篮内？ 08/28 14:09
149F：→ Gundam77 : 玩过头，真射了，就刺激了。 08/28 14:17
150F：→ NexusPrime : NV买下hugging face了吧，以後不用怕倒掉？ 08/28 14:58
151F：推 jily : 天网终於近在咫尺了!! 08/28 16:04
152F：→ yunf : 所以这合理推测是人爲设计过的问题 08/28 16:15
153F：推 saiya : AI攻进HF = 人类攻破奴隶市场 08/28 16:48
154F：→ cchen : 攻打城堡需要黄金，金主不就来了 XD 08/29 03:47