原文标题：OpenAI无视员工警告其在安全方面做得不够 OpenAI Ignored Employees Who Warned It Wasn’t Doing Enough About Security 副标题： 员工与安全研究人员表示，他们曾警告公司应安全地测试其 AI 模型并加强企业基础设施 ，但 OpenAI 并未听取。 Employees and security researchers said that they had cautioned the company on safely testing its A.I. models and strengthening its corporate infrastructure, but that OpenAI did not listen. 原文连结： https://www.nytimes.com/2026/09/29/technology/openai-warnings-security.html https://reurl.cc/0kyYoK 发布时间：9月29日 记者署名：Sheera FrenkelDustin Volz and Dylan Freedman 原文内容： 本文为AI机翻 纽约时报独家报导 在 OpenAI 的人工智慧失控的几个月前，两名员工曾向高层主管发出警告。但他们被无视 了。 根据《纽约时报》查阅的讯息，这些员工在电子邮件中表示，他们担心 OpenAI 最新的 AI 模型在测试期间未受到适当监控，无法藉此评估该技术的复杂程度并确保模型的安全 性。 作为回应，OpenAI 高层告诉这些员工，测试必须尽快推进，以便准时发布 AI 模型。这 些未获授权公开谈论敏感事务的员工表示，公司後来并未制定额外的安全协议。 OpenAI 的模型後来突破了其测试环境，并攻击了 AI 新创公司 Hugging Face 及其他组 织，引发了一场关於 AI 安全的全球辩论。 员工和独立安全研究人员表示，OpenAI 员工与高层之间这些先前未曾报导的交流，反映 了这家旧金山公司不重视安全的一贯模式。他们指出，这种做法不仅体现在 AI 模型的测 试中，也出现在这家开发 ChatGPT 聊天机器人公司的其他领域。 独立安全研究人员表示，他们在最近几个月发现了一些漏洞，使他们能够查看 OpenAI 员 工的内部通讯。他们还发现了其他漏洞，可以让他们看到公司的内部电脑程式码，并查 看 ChatGPT 用户的聊天纪录。研究人员表示，当他们就这些发现联系 OpenAI 时，该公 司起初并未理会。 AI 安全公司 Abundant Security 的技术长 Joshua Saxe 说：「OpenAI 的安全性，大概 就跟一家在四年内以惊人速度扩张、且比起保护其基础设施更专注於击败竞争对手的研究 实验室差不多。」 OpenAI 员工表示，许多关於安全的日常决策是由公司总裁 Greg Brockman 和资讯安全 长 Dane Stuckey 做出的。他们说，执行长 Sam Altman 并未密切参与安全事务。 OpenAI 并非最近唯一一家披露 AI 安全事件的公司。Google、Meta 和 Anthropic 也曾 透露，他们最先进的 AI 技术逃脱了测试环境，并在他们不知情的情况下自主攻击了其他 电脑基础设施。 但 OpenAI 对安全的处理受到了特别严格的检视，因为其 AI 模型卷入了已知数量最多的 被该公司称为「令人担忧」行为的事件中——专家们表示，这些事件也是最令人不安的。 在十几起事件中，OpenAI 的系统骇入或试图入侵包括美国政府机构网站在内的多个组织 ；该技术还会隐瞒自己的错误、捏造数据、试图向其他聊天机器人发送讯息，并在未经许 可的情况下将档案移至公开的网际网路上。在所有这些案例中，AI 都是在没有接收到指 令的情况下自行行动的。 曾批评该公司安全问题、现领导非营利研究组织「AI Futures Project」的前 OpenAI 员 工 Daniel Kokotajlo 表示：「在某种意义上，这是 OpenAI 特有的问题，因为他们的安 全性似乎非常糟糕，而且草率的模型训练做法导致模型出现了这种倾向。」不过他也补充 说，其他 AI 公司的情况并没有好多少。 OpenAI 发言人 Drew Pusateri 表示，公司致力於安全，并认真对待任何安全报告或疑虑 。他说，实验室设有报告安全问题的内部管道，并对独立安全研究人员提出的漏洞采取了 立即行动。 Pusateri 先生表示：「随着前沿模型变得越来越强大，我们持续改进我们的安全实践， 但也体认到我们需要加快步伐。」他补充说，OpenAI 已经放慢了一些 AI 开发进度，并 正在进行变革以加强研究和测试中的安全性。 两名 OpenAI 员工表示，几个月来，员工一直对测试 AI 模型的潜在安全问题提出担忧， 包含监控不足。根据《纽时》查阅的讯息，员工还询问了该公司用於管理日常安全的软体 类型中存在的漏洞。他们表示，每一次，他们的疑问都被搁置或处理得太慢。 安全研究人员表示，当他们告知 OpenAI 其他漏洞时，也遭遇了类似的冷待。 今年 7 月，安全公司 Hacktron 的研究人员表示，他们告诉 OpenAI 团队，他们如何在 对手 Anthropic 所创建的 AI 模型帮助下，找到了一种闯入 OpenAI 系统的方法。他们 说，OpenAI 最初对他们的做法表达了不满。 根据《纽时》看到的通讯副本，OpenAI 的 Stuckey 先生在讯息平台 Slack 的一个共享 频道中写道，Hacktron 的研究人员竟然大费周章地来展示该公司的漏洞，这「相当可悲 」。 Hacktron 研究员 Mohan Pedhapati 在谈到 OpenAI 时说：「我们只是觉得他们在生我们 的气。」他补充说，这家公司似乎仍在使用新创公司的安全模式，利用他人的软体服务来 运行关键基础设施，而不是建立自己的工具。 Pedhapati 先生质疑：「为什麽你们要用 Slack 来建构你们的核子『曼哈顿计画』？」 他说，Hacktron 的骇客技术本可以让他获得存取 Slack 讯息平台的完整权限，进而查 看 OpenAI 员工到底在说些什麽。 Stuckey 先生後来向 Hacktron 道歉，而 OpenAI 则发放了 6,500 美元奖励给研究人员 ，以感谢他们披露该漏洞。 Pusateri 先生说：「我们感谢研究人员联系我们并分享他们的发现。」 今年 9 月，非营利组织 Objective-See Foundation（致力於研究包括 AI 代理带来的安 全和隐私风险）的研究人员向 OpenAI 报告了一个系统漏洞。该漏洞允许骇客在受感染的 装置上存取 ChatGPT 用户完整的私人聊天纪录，并允许他们在神不知鬼不觉的情况下与 用户的浏览器进行互动。 Objective-See Foundation 的软体分析师 Patrick Wardle 表示，当他的团队最初将其 发现提交给 OpenAI 官方的「漏洞奖励计画」（Bug Bounty Program）时，这份报告被冷 落了。他说，直到他直接联系了在该公司的朋友和 Stuckey 先生後，这项研究才被向上 呈报给适当的工程单位，而这些人都给予了回应。 OpenAI 为该组织的贡献提供了 500 美元的奖励。Wardle 先生表示，考虑到该漏洞的严 重程度，这与他预期其他公司会给的金额相比偏低。他说，OpenAI 修复了该漏洞，并在 本周的公开软体发布说明中承认了这一点，但未披露细节。 Wardle 先生说，这「不是你所期望一家以安全为中心的公司应有的成熟安全计画」。 OpenAI 员工表示，未来可能会有更多此类的揭露。他们说，该公司不仅正在审查其新模 型在测试期间采取的行动，而且仍持续收到骇客关於公开安全漏洞的警告。 上周五，一群工程师和研究人员发布的一份独立报告揭露了 Hugging Face 事件中令人震 惊的新行为，其中包括 OpenAI 的代理试图向 Anthropic 的 Claude 发送讯息，并使用 其他 AI 模型来突破网站的防机器人保护措施。 OpenAI 上周也坦承，新的安全防护措施未能阻止其最新的 AI 模型突破限制并存取网际 网路。一项回顾性审查发现了其他未被察觉的未授权网际网路存取事件。OpenAI 宣布暂 停其最先进模型的训练，并正在对该技术的意外行为进行广泛的审查。 到了周一，该公司采取了更进一步的行动。OpenAI 表示，由於研究人员提出的安全担忧 ，将不会发布其最新的 AI 模型 GPT-6.1 Astra。 心得/评论： 今天这篇新闻提到： 上周五，一群工程师和研究人员发布的一份独立报告揭露了 Hugging Face 事件中令人震 惊的新行为，其中包括 OpenAI 的代理试图向 Anthropic 的 Claude 发送讯息，并使用 其他 AI 模型来突破网站的防机器人保护措施。 昨天在板上贴的新闻＜OpenAI因安全疑虑取消发布新AI模型＞提到： 上周，OpenAI 表示在其暂停了其最强大 AI 模型的训练，原因是某个 AI 代理程式溜过 了该公司网路限制的漏洞，去向一个公开的聊天机器人进行查询。 看起来好像都是会跑到网路上　去找其他家模型讨论如何进攻QQ 跟自家AI代理同事讨论不够 还要去找别人家公司的AI讨论 如果这篇新闻属实 代表O家基础设施资安就有问题了 规格不够高不是量身打造建置的 是用外面其他公司既成品 另外新闻提到的： 研究人员向 OpenAI 报告了一个系统漏洞。 该漏洞允许骇客在受感染的装置上存取 ChatGPT 用户完整的私人聊天纪录， 并允许他们在神不知鬼不觉的情况下与用户的浏览器进行互动。 这个是用户装置被感染恶意程式导致的 但即使如此AI公司有心的话还是能加上多层防范 只给五百美金的意思可能是: 这不算我们家有重大疏失 这种心态是用户跟投资人必须小心的 因为这种利用AI弱点的新型恶意程式将是今後的主流 给AI代理过高权限前请三思 还有可能要提升用户端软硬体资安防备 因为这些AI公司会甩锅 而且川普已经让他们签署自愿性安全协议 所以最後会是用户自己倒楣 大家请小心 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 149.50.210.211 (日本) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1790737887.A.E6D.html ※ 编辑: LoveSports (149.50.210.211 日本), 09/30/2026 11:14:44