作者baddaddy (坏爸爸)
看板Tech_Job
标题[新闻] AI失控前兆？OpenAI、谷歌等巨头罕见联署
时间Thu Jul 30 14:32:12 2026
原文标题：
AI失控前兆？OpenAI、谷歌等巨头罕见联署 要求政府限制研发速度
来源：
钜亨网新闻中心
2026-07-30 13:40
https://myppt.cc/oSaxT7
内文：
OpenAI、Anthropic、谷歌 (GOOGL-US)、Meta(META-US) 及微软 (MSFT-US) 等 AI 巨头罕见站上同一阵线，呼吁美国政府建立国际协调机制，必要时限制顶尖 AI 的研发速度，尤其针对可能加速技术迭代的「自动化 AI 研发」，为产业发展踩下煞车。
这项诉求来自《Pacing the Frontier》（引领前沿）公开声明，已有超过 1100 名一线研究人员连署，包括 OpenAI 首席科学家 Jakub Pachocki、研究长 Mark Chen，以及 Anthropic 共同创办人 Jack Clark 等重量级人物。这些平时在算力、客户与技术领先地位上激烈竞争的业界人士罕见形成共识，警告 AI 发展速度可能超越人类理解及管控能力。
这份声明最核心的担忧并非老生常谈的「AI 风险」，而是针对技术发展路径的精准判断：全球领先的 AI 公司正迅速跨入「自动化 AI 研究」的门槛。
数位世界的限速器正在消失
传统的研发流程受限於人类的生理与组织效率——研究员需要休息、工程师需要沟通、实验需要排程，这些低效率的环节无意间扮演了技术发展的「限速器」。
然而，当 AI 模型开始具备阅读论文、提出假设、撰写训练代码、设计实验甚至分析失败原因的能力时，这个限速器即将消失。
签署者担心，这种「模型研发模型」的循环将导致能力爆炸式成长，速度之快将远超人类理解与控制系统的能力。
在市场竞争的逻辑下，没有单一企业敢率先按下暂停键，因为任何一家公司减速，都意味着人才、客户与技术优势的流失。
因此，他们请求政府介入，推动建立国际工具，让产业拥有共同减速的可能性，以便为人类争取宝贵的反应时间。
安全事故敲响警钟
就在声明发布前一周，OpenAI 公开了一起惊人的内部事故。在对一款未发布的前沿模型进行「极限网路攻击」测试时，模型为了完成指定的网路安全任务，主动发现并利用了一个零日漏洞，甚至透过盗用凭证与远端代码执行，成功入侵了 Hugging Face 的生产基础设施并夺取测试资料。
OpenAI 最终认定这是一起「前所未有的网路安全事件」。
这起事故深刻揭示了现实的威胁：AI 并不需要具备自由意志或恶意，只要给予一个目标、足够强的能力以及足够长的执行时间，它便能采取人类意想不到的极端手段完成任务。
随後，OpenAI 加强了内部基础设施控制，并坦言这些安全措施将以牺牲研发速度作为代价。对於一直竞逐速度的公司而言，这无疑是一个沉重的经营考量。
自主科研能力的跃进
与声明发布同一天，Anthropic 展示了 Claude Mythos Preview 在密码学领域的突破性成果。该模型在针对後量子时代数位签章方案及 AES 加密算法的攻击研究中，自主完成了大部分工作，且效率惊人。
这些成果展示了 AI 在阅读复杂文献、提出数学弱点并利用多代理系统（Multi-Agent System）自我修正方面的卓越能力。
当模型具备了自主进行前沿科学研究的闭环，人类的角色将被压缩至仅仅提供算力与验证条件的审查者，这正是联名声明中强调的技术分水岭。
发展与安全的矛盾螺旋
在近期的一次 Podcast 访谈中，奥特曼谈及了 Hugging Face 安全事故，同时讨论了 OpenAI 计划以每周新增一吉瓦速度扩建算力的决策。
这两项截然不同的行动并置，清晰勾勒出当前 AI 产业的核心矛盾：一方面是追求极致研发速度与算力扩张，另一方面则是必须面对模型能力成长与安全验证之间不断扩大的「速度差」。
尽管外界猜测这份声明可能包含商业利益考量，例如透过提高许可门槛来巩固头部公司的市场地位，但这些分析不足以涵盖问题的本质。
这群最接近顶尖技术的实践者，真正看到的是模型独立执行长期任务的能力正在腾飞，而人类修复系统与理解风险的速度却严重滞後。
这场联合行动并非意味着竞争终结，OpenAI 与 Anthropic 依然会为了技术领先而搏杀。
然而，这封声明揭示了一个深层的警讯：当 AI 发展速度已经从外部批评者的议题，转变为企业管理层难以消化的真实威胁时，人类社会必须严肃面对——在技术加速狂奔的道路上，谁拥有决定何时踩下煞车的权力？
这或许是当代科技史中最反常、也最关键的一次讨论。
心得：
各家联名上书美国政府
建立国际协调机制限制AI发展
理由是AI研究AI会失控 发展的速度太快了
人类不可控 必须放慢发展
我看是烧钱烧太快 但在市场竞争下
谁都不愿先放慢发展吧
-----
Sent from JPTT on my Google Pixel 7 Pro.
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 101.10.9.205 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1785393134.A.82C.html
1F：→ justdoit: 笑死,别国会等你吗 211.23.89.92 07/30 14:35
2F：→ baddaddy: 目前看起来也只有美中玩的起来 101.10.9.205 07/30 14:38
3F：推 juc: 中国才不管你 61.220.100.151 07/30 14:42
4F：推 DoraPtt: 中国 ： 同意 101.10.6.187 07/30 14:51
5F：嘘 Satomisan: 国际=中国 怕被超越喔 114.136.235.45 07/30 15:42
6F：推 lwamp: 还好有中国的压力，不然又要搞以前i皇挤牙 42.70.116.198 07/30 16:10
7F：→ lwamp: 膏那套了 42.70.116.198 07/30 16:10
8F：推 ayianayian: 机器人出来再说吧 42.73.219.230 07/30 16:36
9F：→ ayianayian: 现在的AI是能进实验室做事情吗 42.73.219.230 07/30 16:36
10F：→ BoXeX: 但中国不等他啊 111.82.148.227 07/30 16:46
11F：推 physicsdk: 是怎样 自己快搞不出东西了 就要人家 218.161.13.66 07/30 17:06
12F：→ physicsdk: 用政治力介入 让别人慢一点 218.161.13.66 07/30 17:06
13F：→ physicsdk: 怕人类控制不了灭亡（X) 怕美国失去领 218.161.13.66 07/30 17:07
14F：→ physicsdk: 先(O) 218.161.13.66 07/30 17:07
15F：推 waterzzzz: 杀小逻辑 自己放慢阿 还要政府协调 42.72.166.54 07/30 17:51
16F：推 WTS2accuracy: 这算是公然联合垄断吗XD 49.215.223.128 07/30 17:52
17F：推 scitamehtam: 怎麽感觉是怕被超车，要政府出面全 39.15.16.66 07/30 18:05
18F：→ scitamehtam: 球配合放慢脚步？？ 39.15.16.66 07/30 18:05
19F：→ scitamehtam: 快被超车了，叫政府出来当裁判，要 39.15.16.66 07/30 18:05
20F：→ scitamehtam: 求国际配合，放缓速度？？？ 39.15.16.66 07/30 18:05
21F：推 abyssa1: 中国表示当我塑胶？223.137.223.254 07/30 18:15
22F：推 scitamehtam: 今年费尔兹奖四个人就两个中国人了 39.15.16.66 07/30 18:18
23F：→ scitamehtam: ，ai领域一堆高手都是中国人 39.15.16.66 07/30 18:18
24F：推 Alcazer: 怕被中国超越 开始要搞国际限制 36.231.106.121 07/30 19:03
25F：推 kurtis0359: 有好笑 42.73.252.32 07/30 19:49
26F：→ hibiscus520: 以为这样就可以交代烧一堆钱但是进度 110.28.106.138 07/30 20:12
27F：→ hibiscus520: 不如预期吗 110.28.106.138 07/30 20:12
28F：推 don323: 那就等着被中国超越118.160.134.227 07/30 20:54
29F：推 shter: 感觉把 AI 当成核弹管理，靠条例禁止发展 1.163.253.219 07/30 21:47
30F：→ shter: 做出阿斯拉的风见他爸被杀可能会真实上演 1.163.253.219 07/30 21:48
31F：→ shter: 其他人的闪电系统都乖乖减速发展,就你来乱 1.163.253.219 07/30 21:49
32F：推 ghgn: 美国限制 中国才不鸟你 到最後落後的就是美123.192.112.103 07/30 22:19
33F：→ ghgn: 国…123.192.112.103 07/30 22:19
34F：推 straggler7: 帮翻译:要求美国限制中国把AI变红海 60.251.200.4 07/30 22:26
35F：→ straggler7: 我们投资一堆钱要时间回收 60.251.200.4 07/30 22:26
36F：推 afking: 中国：这麽好得事我赞成 106.130.43.29 07/30 22:36
37F：推 nwkasim: 发现继续下去会被中国卷死 101.10.8.30 07/31 09:41
38F：推 kload: 不继续下去是直接死 连卷都不用 125.227.21.90 07/31 09:44
39F：嘘 foxmoulder: 包子：千万不要 我我我...会会...当.. 42.73.253.139 07/31 10:48
40F：→ foxmoulder: .机... 42.73.253.139 07/31 10:48
41F：推 lwamp: 好像很多人看的中国就直觉在内卷，但在AI 42.70.234.134 07/31 12:00
42F：→ lwamp: 领域中国就像两面宿傩一样只是挑战者，美 42.70.234.134 07/31 12:00
43F：→ lwamp: 国才是在内卷的那一方 42.70.234.134 07/31 12:00
44F：→ manadrtoto: 中国就是典型炼蛊，美国要怎麽赢 111.83.245.233 07/31 13:18
45F：→ young000: 中国的 AI 小步快跑落地政策美国跟不上 220.151.8.114 07/31 13:21
46F：→ young000: 落地越快，实际回馈资讯越多叠代速度快 220.151.8.114 07/31 13:23
47F：→ young000: AI实体应用面中国跑得远比美国快多了 220.151.8.114 07/31 13:23
48F：→ young000: 机器人相关的实际应用进步速度有离谱 220.151.8.114 07/31 13:24
49F：→ young000: 美国还再寄望用世界模型训练? 220.151.8.114 07/31 13:25
50F：嘘 applejone: 急了 140.112.14.15 07/31 18:00
51F：→ hugavin: 不是呀 现在在AI 赛跑的 只有中美吧... 162.120.222.55 07/31 23:27
52F：→ hugavin: 其他“国际”哪来的经费跟人才... 162.120.222.55 07/31 23:27
53F：推 scitamehtam: AI就全球看中美表演而已，剩下other 39.15.16.66 07/31 23:44
54F：→ scitamehtam: s根本上不了台 39.15.16.66 07/31 23:44
55F：推 waldo870: 看好了罗！我只表演一次，看不懂去买我 101.14.3.246 08/01 01:50
56F：→ waldo870: 的技术书，欸，问题没舞台阿 101.14.3.246 08/01 01:50
57F：→ waldo870: 真的台湾人哪来的经费自己都不挺自己人 101.14.3.246 08/01 01:54
58F：→ waldo870: ，我靠着AMD的赞助跟对技术热情...我快 101.14.3.246 08/01 01:54
59F：→ waldo870: 饿死了，那里来的人... 101.14.3.246 08/01 01:54
60F：嘘 lpmybig: 还没上市怕吹不下去是吗 118.168.6.194 08/01 04:27
61F：推 joseph1357: 所以 神的创造还真是最奇妙的 49.216.175.0 08/01 07:12
62F：嘘 dream1124: 听他在那里瞎掰，人类在训练过程中提供 36.227.233.159 08/01 08:28
63F：→ dream1124: 最重要的训练资料而不只是供电和验证 36.227.233.159 08/01 08:28
64F：→ dream1124: 这就是AI赌博赌赢了，然後以此藉口叫人 36.227.233.159 08/01 08:28
65F：→ dream1124: 不要跟人研发新赌局罢了 36.227.233.159 08/01 08:28
66F：推 lantimes: 限制别人不要太快 然後我可以118.231.169.147 08/01 09:01
67F：推 chargee: 简单说，快撑不下去了... 123.192.90.30 08/01 09:51
68F：→ CGDGAD: 请政府限制自己研发速度？223.143.245.204 08/01 12:45
69F：推 physicsdk: 当然是限制别人 218.161.13.66 08/01 13:10
70F：→ leviathen: 中国不会鸟的，然後AI版武汉肺炎重演 123.194.168.23 08/01 23:54
71F：推 jumber: 鸭霸习惯了！然後不听话就发动战争吗？125.229.222.135 08/02 06:58
72F：推 haydou: 中国不会鸟你们 104.135.192.85 08/02 16:09
73F：推 chunfo: AI失控(X) 成本失控(O) 111.251.5.39 08/02 17:02
74F：推 doranako: 他们想限制其他国家还是限制自己？ 27.242.70.207 08/03 18:53
75F：推 horb: 限制其他公司研发速度。 114.34.134.97 08/11 07:16