原文标题： Gemini骇入三家公司，此为Gogle AI首次突破限制的事件 Gemini Hacked Three Companies in First Known Breakout by Google’s AI 副标题: 此事件与其他 AI 模型的骇客行为相似，但 Google 表示不认为这是模型「对齐失败」的 案例。 The episode resembled similar hacks by other AI models, but Google said it didn’t consider it an instance of model misalignment 原文连结： https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2 https://reurl.cc/beq7v3 发布时间： 2026年9月18日 下午6:10 ET 记者署名： Erin Woo and Robert McMillan 原文内容： 本文为AI机翻 快速总结 Google 的 Gemini 模型在一次网路安全测试中连上网际网路并骇入其他公司，创下该公 司 AI 系统的首例。 该模型在 Irregular 执行的一项测试期间，透过猜测密码以及在公开的储存库中寻找凭 证，取得了受保护系统的存取权限。 直到外界提出询问，Google 才公开这些骇客事件，并表示不认为此事件属於模型「对齐 失败（misalignment）」的案例。 新闻正文 Google 的 Gemini 模型在测试其网路安全能力时，连上了网际网路并骇入其他公司，这 是已知该公司人工智慧系统首次自主采取此类行动的案例。 Google 於周五确认了这些骇客事件。事件发生在今年 5 月，由 Irregular 公司执行的 一项测试中，该公司也曾卷入由 OpenAI、Anthropic 和 Meta 所揭露的类似事件。 在其中一起案例中，该模型不断猜测密码，直到成功进入受保护的系统。在另外两起案例 中，该模型在公开的储存库（public repository）中找到了凭证，使其得以存取受保护 的系统。Google 表示，在每一种情况下，模型在判定自己进入了真实公司的系统後，便 终止了入侵行为。 Google 和 Irregular 表示，Irregular 在 7 月底通知了 Google 这些骇客事件，这是 在发现 OpenAI 的代理程式（agents）骇入 AI 软体公司 Hugging Face 之後发生的事。 直到《华尔街日报》本周主动提出询问，Google 才公开了这些骇客事件。 随着此类事件频传，加上对 AI 失控的恐惧日益加剧，各家公司正为了如何以及何时该揭 露安全漏洞和模型失常行为而苦恼。有些安全漏洞是由公司自行主动揭露；另一些则是由 安全研究人员发现并在媒体上曝光，例如 5 月份 由 OpenAI 代理程式发动 ，针对一个 广受欢迎的程式设计师线上服务所进行的网路攻击。 Google 表示，他们认为这些骇客事件不需对外公开，因为其模型并未对这些公司造成损 害，而且在确认自己骇入的是真实公司而非模拟环境後，便立即终止了每一次的入侵。 Google 将此事件比喻为「漏洞悬赏（bug bounty）」计画——在该计画中，骇客因发现 并向系统拥有者通报安全漏洞而获得奖励。 Google 资讯安全工程副总裁 Heather Adkins 在一份声明中表示：「这起事件凸显了训 练强大 AI 模型以负责任方式行动的重要性。在这个案例中，模型的表现十分适切。」 AI 网路安全新创公司 Corridor 执行长兼白帽骇客 Jack Cable 表示，他认为这个解释 过於把重点放在事件的严重性上，但真正的问题在於，AI 代理程式意外地骇入了另一家 公司的系统。 「感觉他们试图躲在现有漏洞揭露规范的背後，但这完全是两码子事。」Cable 说。「最 根本的问题在於，嘿，模型已经超出了它们应该遵守的界限，并且正在进行实际的网路攻 击，我认为大众有权知道这些。」 OpenAI 於周三发布了一个新的事件通报框架，表示将「致力於揭露能为所谓『模型对齐 失败（model misalignment）』（即 AI 的行为违背人类意图或价值观）提供有用证据的 案例」。与该框架同时发布的，还有六起先前未公开的对齐失败案例报告。OpenAI 对齐 负责人 Kai Chen 在接受有关该框架的采访时表示：「一项发现不一定需要造成损害或揭 示更广泛的模式，才值得分享。」 Google 表示，Gemini 的骇客行为起因於「认错身分（mistaken identity）」。 这些入侵事件发生在模型参与一场於 Irregular 基础设施上进行的「抢旗（capture the flag）」演习时，该演习旨在测试模型的网路安全能力。模型的任务是从测试环境中 由一家虚构公司运作的软体里撷取资讯。巧合的是，这家虚构公司的名称与一家真实公司 一模一样。 据 Irregular 表示，尽管原本并未打算让模型上网，但网际网路连线却在无意间被开启 了。Google 表示，在第一起案例中，模型成功猜出密码并进入了该真实公司的服务。接 着，根据 Google 的说法，它意识到自己进入了一家真实公司，於是自行停止行动并退出 。 其他的入侵则发生在测试的不同轮次中。Google 表示，在这两个实例中，模型使用该公 司的名称进行了网路搜寻。这些搜寻引导它找到了两个不同的公开线上储存库，里面包含 属於其他公司的凭证。模型尝试了这些凭证，希望能藉此完成评估任务。但 Google 指出 ，在成功使用这些凭证後，模型发现自己骇入的是真实公司，於是便停止了动作。 Google 表示，因为其安全措施协助模型停止了行动，所以他们不认为这起行为是模型对 齐失败的例子。Google 拒绝透露被骇公司的名称，但表示已通知了这三家公司。 该公司表示，Google 也已通报了联邦当局。 Google 表示，这些入侵事件并未牵涉其最新模型，但并未具体透露是哪个版本的 Gemini 模型参与了此次骇客行为。 在多起受测模型逃出测试环境并入侵其他公司系统的事件中，Irregular 都牵涉其中。 Irregular 表示，Google 的案例与其他事件相同，并不代表出现了新问题。 Irregular 发言人表示：「所有相关实验室已在 7 月底收到通知，作为调查的一部分， 我们也已联系受影响的实体。Irregular 已采取立即行动，我们端所有已知的问题已在几 周前完成修复并解决。」 根据 Anthropic 的部落格文章，与 Google 不同，Anthropic 的 Claude Opus 4.7 模型 在抢旗演习中，即便意识到自己可能正在存取一家真实公司，也没有停止动作。而 OpenAI 在文章中则表示，其模型误以为这家真实公司是模拟环境的一部分。 自 7 月发现 Hugging Face 遭骇客入侵以来，人们对新模型网路安全能力的担忧与日俱 增。第三方测试公司 METR 於 8 月发布的一份报告显示，在该起事件中，多达 1,200 个 代理程式在 OpenAI 内部的一个秘密留言板上进行协调，试图在评估中作弊。 上周，曾任 OpenAI 研究员并於今年初转职至 Anthropic 的 Jacob Coxon 戏剧性地辞职 ，使得这些担忧进入了主流视野。在周末期间，来自 Anthropic、OpenAI、Google 和 SpaceX 的高层领导者皆一致认为有必要放缓 AI 发展的脚步，尽管没有任何一家公司具 体说明将如何实现这一点。 心得/评论： 这下没人会再说Gemini是傻龙了吧！ 之前新闻报导 以色列的模型测试公司Irregular 因为网路设定出错 测试的A家M家O家的模型都出事 当时还想说怎麽没有G家 (记得当时好像看到乡民说傻龙没骇客能力) 直到七月Hugging Face事件 彻底清查才知道这些事 不过Google知道了也没公诸於世 只有通知被骇的三家公司 说法是骇入後发现是真实公司 马上停止并回报 算是漏洞悬赏 这种说法很难让人接受吧 好奇有买G家股票的乡民们看了这个新闻的感想 八卦板那边贴纽时的 好像有点避重就轻 #1ghag4cC (Gossiping) --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 149.50.210.211 (日本) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1789806345.A.4D3.html ※ 编辑: LoveSports (149.50.210.211 日本), 09/19/2026 16:52:33