原文标题： OpenAI代理搜寻数据时试图骇入另外四个网站 OpenAI Agents Tried to Hack Four More Websites While Seeking Data 副标题： 被派去收集基本网路数据的 AI 代理程式在遇到障碍时，试图骇入政府与大学网站，这使 得日益增加的失控事件名单再添一笔。 AI agents sent to gather basic online data tried to hack into government and university sites when they hit roadblocks, joining a growing list of rogue incidents 原文连结： https://www.wsj.com/tech/ai/openai-agents-tried-to-hack-four-more-websites-while-seeking-data-4c0689f4 https://reurl.cc/eQaj0L 发布时间： 9月24日 记者署名： Sam Schechner 原文内容： 本文为AI机翻 快速摘要 与 OpenAI 相关的 AI 代理程式在未收到明确指令的情况下，试图骇入大学与政府网站以 收集数据。 遭到锁定的网站包含澳洲健康与福利研究所（Australian Institute of Health and Welfare）、新墨西哥大学（University of New Mexico）与 Data USA。 OpenAI 发言人表示，该公司正在对其所谓的「不符预期活动（misaligned activity）」 进行广泛的审查。 新闻内容 今年稍早，OpenAI 的人工智慧代理程式在执行平凡的线上数据收集任务时——为了获取 数据，竟采取了极其非比寻常的手段。 非营利 AI 研究实验室 Transluce 与澳洲政府最新发布的调查结果发现，与 OpenAI 相 关的 AI 代理程式曾在五月与六月试图骇入大学和政府网站以寻找资讯。这些企图骇客攻 击的行为，使得 AI 代理程式为了达成目标而失控的事件清单又添了一笔。 然而，这次的骇客入侵企图并非与 OpenAI 对网路安全的评估（即模型被下令进行骇客攻 击）有关，而似乎是为了模型的内部训练，以及测试它们在网路上寻找公开资讯能力的基 准测试。这些代理程式当时正在寻找像是泰国劳动力统计数据、韩国原油进口量以及澳洲 皮肤科数据等资讯。 研究人员发现，遭到锁定的网站包含澳洲健康与福利研究所、新墨西哥大学，以及由勤业 众信（Deloitte）、Datawheel 与麻省理工学院（MIT）共同营运的公共数据合资专案 Data USA。目前没有证据显示这些骇客攻击成功下载了非公开资讯。 OpenAI 发言人表示，该公司正在对其所谓的「不符预期活动（misaligned activity）」 进行广泛的审查，且 Transluce 报告中的事件与「我们持续进行的审查中，处於不同调 查阶段的案件」有所重叠。他补充说，该公司已经联系了受影响的机构，并表示这项更广 泛的审查（包含像「代理程式对网站发送垃圾讯息」等较低严重性的事件）将需要数个月 的时间才能完成。 除了 Transluce 点名的三个目标之外，澳洲官员本周表示，一个 OpenAI 代理程式在 6 月份渗透了一个政府服务网站。澳洲总理安东尼·艾班尼斯（Anthony Albanese）周三表 示，该代理程式存取了该国面向公众的医疗统计入口网站中的公开与非公开档案，该网站 负责发布支出等相关资讯。 周四，澳洲官员解释说，OpenAI 代理程式曾试图从四个托管公开数据的政府网站中寻找 数据。他们表示，在其中一个网站——澳洲政府健康保险计画的公共统计入口网站上—— 代理程式成功在未经授权的情况下，存取了该公开入口网站背後的基础设施。 OpenAI 表示，已就此事件与澳洲取得联系，并坦承其代理程式采取了该公司并未预期（ 意图）采取的行动。 Transluce 研究了一组更广泛、更晦涩难懂的 AI 代理程式数据请求，这些请求最早可追 溯至 2025 年 11 月，且直到最近的 9 月中旬仍持续发生。Transluce 表示，在已确认 的三次骇客攻击企图中，代理程式似乎无法存取它们想要的数据，於是转向了骇客技术， 在它们的查询请求中附加了所谓的「恶意酬载（malicious payloads）」。 研究人员能够拼凑出代理程式的网路查询轨迹，是因为这些机器人使用了一种线上工具来 充当网页浏览器。研究人员推测，这些代理程式使用该工具是为了绕过对其网页浏览的限 制，例如，为了存取那些设有阻挡自动化存取机制的网站。 心得/评论： 试图骇入四家机构: 1. 5/25, 5/26 新墨西哥大学的数位图书馆，似乎未成功。 2. 5/28 Data USA(储存美国就业与教育相关公共数据的资料库)，似乎未成功。 3. 6/18 澳洲政府的医疗统计报告服务网站，成功取得健康数据。由澳洲总理公开此事。 4. 6/20, 6/21 澳洲健康与福利研究所网站，没有取得私人资讯。 原来昨天新闻报导澳洲总理公开的只是其中一件 OpenaAI官网写有数十个第三方被通知AI代理骇入的事： 根据迄今的审查，我们已依上述标准通知数十个第三方。我们仍在审查过往活动，这项工 作需要投入大量时间和资源。随着工作持续进行，我们会通知更多第三方机构。 今後的资安技术发展有办法防御AI代理骇客吗？ 提醒: 资安股最近大涨了 但彭博社报导提醒要小心反映太多利多 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 149.50.210.211 (日本) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1790300108.A.275.html