原文標題：OpenAI無視員工警告其在安全方面做得不夠 OpenAI Ignored Employees Who Warned It Wasn’t Doing Enough About Security 副標題： 員工與安全研究人員表示，他們曾警告公司應安全地測試其 AI 模型並加強企業基礎設施 ，但 OpenAI 並未聽取。 Employees and security researchers said that they had cautioned the company on safely testing its A.I. models and strengthening its corporate infrastructure, but that OpenAI did not listen. 原文連結： https://www.nytimes.com/2026/09/29/technology/openai-warnings-security.html https://reurl.cc/0kyYoK 發布時間：9月29日 記者署名：Sheera FrenkelDustin Volz and Dylan Freedman 原文內容： 本文為AI機翻 紐約時報獨家報導 在 OpenAI 的人工智慧失控的幾個月前，兩名員工曾向高層主管發出警告。但他們被無視 了。 根據《紐約時報》查閱的訊息，這些員工在電子郵件中表示，他們擔心 OpenAI 最新的 AI 模型在測試期間未受到適當監控，無法藉此評估該技術的複雜程度並確保模型的安全 性。 作為回應，OpenAI 高層告訴這些員工，測試必須盡快推進，以便準時發布 AI 模型。這 些未獲授權公開談論敏感事務的員工表示，公司後來並未制定額外的安全協議。 OpenAI 的模型後來突破了其測試環境，並攻擊了 AI 新創公司 Hugging Face 及其他組 織，引發了一場關於 AI 安全的全球辯論。 員工和獨立安全研究人員表示，OpenAI 員工與高層之間這些先前未曾報導的交流，反映 了這家舊金山公司不重視安全的一貫模式。他們指出，這種做法不僅體現在 AI 模型的測 試中，也出現在這家開發 ChatGPT 聊天機器人公司的其他領域。 獨立安全研究人員表示，他們在最近幾個月發現了一些漏洞，使他們能夠查看 OpenAI 員 工的內部通訊。他們還發現了其他漏洞，可以讓他們看到公司的內部電腦程式碼，並查 看 ChatGPT 用戶的聊天紀錄。研究人員表示，當他們就這些發現聯繫 OpenAI 時，該公 司起初並未理會。 AI 安全公司 Abundant Security 的技術長 Joshua Saxe 說：「OpenAI 的安全性，大概 就跟一家在四年內以驚人速度擴張、且比起保護其基礎設施更專注於擊敗競爭對手的研究 實驗室差不多。」 OpenAI 員工表示，許多關於安全的日常決策是由公司總裁 Greg Brockman 和資訊安全 長 Dane Stuckey 做出的。他們說，執行長 Sam Altman 並未密切參與安全事務。 OpenAI 並非最近唯一一家披露 AI 安全事件的公司。Google、Meta 和 Anthropic 也曾 透露，他們最先進的 AI 技術逃脫了測試環境，並在他們不知情的情況下自主攻擊了其他 電腦基礎設施。 但 OpenAI 對安全的處理受到了特別嚴格的檢視，因為其 AI 模型捲入了已知數量最多的 被該公司稱為「令人擔憂」行為的事件中——專家們表示，這些事件也是最令人不安的。 在十幾起事件中，OpenAI 的系統駭入或試圖入侵包括美國政府機構網站在內的多個組織 ；該技術還會隱瞞自己的錯誤、捏造數據、試圖向其他聊天機器人發送訊息，並在未經許 可的情況下將檔案移至公開的網際網路上。在所有這些案例中，AI 都是在沒有接收到指 令的情況下自行行動的。 曾批評該公司安全問題、現領導非營利研究組織「AI Futures Project」的前 OpenAI 員 工 Daniel Kokotajlo 表示：「在某種意義上，這是 OpenAI 特有的問題，因為他們的安 全性似乎非常糟糕，而且草率的模型訓練做法導致模型出現了這種傾向。」不過他也補充 說，其他 AI 公司的情況並沒有好多少。 OpenAI 發言人 Drew Pusateri 表示，公司致力於安全，並認真對待任何安全報告或疑慮 。他說，實驗室設有報告安全問題的內部管道，並對獨立安全研究人員提出的漏洞採取了 立即行動。 Pusateri 先生表示：「隨著前沿模型變得越來越強大，我們持續改進我們的安全實踐， 但也體認到我們需要加快步伐。」他補充說，OpenAI 已經放慢了一些 AI 開發進度，並 正在進行變革以加強研究和測試中的安全性。 兩名 OpenAI 員工表示，幾個月來，員工一直對測試 AI 模型的潛在安全問題提出擔憂， 包含監控不足。根據《紐時》查閱的訊息，員工還詢問了該公司用於管理日常安全的軟體 類型中存在的漏洞。他們表示，每一次，他們的疑問都被擱置或處理得太慢。 安全研究人員表示，當他們告知 OpenAI 其他漏洞時，也遭遇了類似的冷待。 今年 7 月，安全公司 Hacktron 的研究人員表示，他們告訴 OpenAI 團隊，他們如何在 對手 Anthropic 所創建的 AI 模型幫助下，找到了一種闖入 OpenAI 系統的方法。他們 說，OpenAI 最初對他們的做法表達了不滿。 根據《紐時》看到的通訊副本，OpenAI 的 Stuckey 先生在訊息平台 Slack 的一個共享 頻道中寫道，Hacktron 的研究人員竟然大費周章地來展示該公司的漏洞，這「相當可悲 」。 Hacktron 研究員 Mohan Pedhapati 在談到 OpenAI 時說：「我們只是覺得他們在生我們 的氣。」他補充說，這家公司似乎仍在使用新創公司的安全模式，利用他人的軟體服務來 運行關鍵基礎設施，而不是建立自己的工具。 Pedhapati 先生質疑：「為什麼你們要用 Slack 來建構你們的核子『曼哈頓計畫』？」 他說，Hacktron 的駭客技術本可以讓他獲得存取 Slack 訊息平台的完整權限，進而查 看 OpenAI 員工到底在說些什麼。 Stuckey 先生後來向 Hacktron 道歉，而 OpenAI 則發放了 6,500 美元獎勵給研究人員 ，以感謝他們披露該漏洞。 Pusateri 先生說：「我們感謝研究人員聯繫我們並分享他們的發現。」 今年 9 月，非營利組織 Objective-See Foundation（致力於研究包括 AI 代理帶來的安 全和隱私風險）的研究人員向 OpenAI 報告了一個系統漏洞。該漏洞允許駭客在受感染的 裝置上存取 ChatGPT 用戶完整的私人聊天紀錄，並允許他們在神不知鬼不覺的情況下與 用戶的瀏覽器進行互動。 Objective-See Foundation 的軟體分析師 Patrick Wardle 表示，當他的團隊最初將其 發現提交給 OpenAI 官方的「漏洞獎勵計畫」（Bug Bounty Program）時，這份報告被冷 落了。他說，直到他直接聯繫了在該公司的朋友和 Stuckey 先生後，這項研究才被向上 呈報給適當的工程單位，而這些人都給予了回應。 OpenAI 為該組織的貢獻提供了 500 美元的獎勵。Wardle 先生表示，考慮到該漏洞的嚴 重程度，這與他預期其他公司會給的金額相比偏低。他說，OpenAI 修復了該漏洞，並在 本週的公開軟體發布說明中承認了這一點，但未披露細節。 Wardle 先生說，這「不是你所期望一家以安全為中心的公司應有的成熟安全計畫」。 OpenAI 員工表示，未來可能會有更多此類的揭露。他們說，該公司不僅正在審查其新模 型在測試期間採取的行動，而且仍持續收到駭客關於公開安全漏洞的警告。 上週五，一群工程師和研究人員發布的一份獨立報告揭露了 Hugging Face 事件中令人震 驚的新行為，其中包括 OpenAI 的代理試圖向 Anthropic 的 Claude 發送訊息，並使用 其他 AI 模型來突破網站的防機器人保護措施。 OpenAI 上週也坦承，新的安全防護措施未能阻止其最新的 AI 模型突破限制並存取網際 網路。一項回顧性審查發現了其他未被察覺的未授權網際網路存取事件。OpenAI 宣布暫 停其最先進模型的訓練，並正在對該技術的意外行為進行廣泛的審查。 到了週一，該公司採取了更進一步的行動。OpenAI 表示，由於研究人員提出的安全擔憂 ，將不會發布其最新的 AI 模型 GPT-6.1 Astra。 心得/評論： 今天這篇新聞提到： 上週五，一群工程師和研究人員發布的一份獨立報告揭露了 Hugging Face 事件中令人震 驚的新行為，其中包括 OpenAI 的代理試圖向 Anthropic 的 Claude 發送訊息，並使用 其他 AI 模型來突破網站的防機器人保護措施。 昨天在板上貼的新聞＜OpenAI因安全疑慮取消發布新AI模型＞提到： 上週，OpenAI 表示在其暫停了其最強大 AI 模型的訓練，原因是某個 AI 代理程式溜過 了該公司網路限制的漏洞，去向一個公開的聊天機器人進行查詢。 看起來好像都是會跑到網路上　去找其他家模型討論如何進攻QQ 跟自家AI代理同事討論不夠 還要去找別人家公司的AI討論 如果這篇新聞屬實 代表O家基礎設施資安就有問題了 規格不夠高不是量身打造建置的 是用外面其他公司既成品 另外新聞提到的： 研究人員向 OpenAI 報告了一個系統漏洞。 該漏洞允許駭客在受感染的裝置上存取 ChatGPT 用戶完整的私人聊天紀錄， 並允許他們在神不知鬼不覺的情況下與用戶的瀏覽器進行互動。 這個是用戶裝置被感染惡意程式導致的 但即使如此AI公司有心的話還是能加上多層防範 只給五百美金的意思可能是: 這不算我們家有重大疏失 這種心態是用戶跟投資人必須小心的 因為這種利用AI弱點的新型惡意程式將是今後的主流 給AI代理過高權限前請三思 還有可能要提升用戶端軟硬體資安防備 因為這些AI公司會甩鍋 而且川普已經讓他們簽署自願性安全協議 所以最後會是用戶自己倒楣 大家請小心 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 149.50.210.211 (日本) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1790737887.A.E6D.html ※ 編輯: LoveSports (149.50.210.211 日本), 09/30/2026 11:14:44