1.媒体来源: 纽约时报 2.记者署名: Emmy Martin 2026年9月16日 3.完整新闻标题: OpenAI揭露六起新的「令人担忧」AI行为事件 OpenAI Discloses Six New Incidents of ‘Concerning’ A.I. Behavior 副标题: 这家人工智慧公司也发布了一套框架，用来回报其系统出现问题的情况。 The artificial intelligence company also released a framework for reporting when its systems go wrong. 4.完整新闻内文: 本文为AI机翻 OpenAI 周三公开了六起新的事件。在这些事件中，人工智慧系统曾隐瞒错误、捏造资料 ，以及未经许可将档案移到公开网际网路上。这些揭露发生之际，整个 AI 产业仍持续进 行关於 AI 安全的辩论。 这家位於旧金山的公司公布了它所称的 AI 模型「出乎预期或令人担忧的」行为，作为一 套全新「失配（misalignment）」回报框架的一部分。 这里所说的「失配」，指的是 AI 系统的目标或行动偏离人类的意图与价值观。 OpenAI 表示，它并不认为这个产业「已经把对齐（alignment）与监控问题解决到足以让 我们在很长一段时间内，继续以最高速度负责任地扩大规模」的程度。 公司表示，关於 AI 应该如何发展的决策，必须建立在这样的证据之上：AI 公司外部的 人，也能够亲自检视这些证据。 这些揭露正值外界对於是否需要放慢 AI 开发速度，以处理这项技术可能带来的危险而加 强审视之际。 这场日益升高的争论，一部分是由今年稍早 OpenAI 的系统出现「失控」行为、并攻击 AI 新创公司 Hugging Face所引发。OpenAI 直到数周後接到 Hugging Face 通知，才知 道这起骇客攻击事件。 此後，包括 Anthropic 执行长 Dario Amodei 在内的 AI 领袖，都呼吁暂停 AI 技术的 进一步发展，以提供更多时间建立适当的防护措施。 他的呼吁也获得 OpenAI 执行长 Sam Altman，以及 SpaceX 与 Tesla 执行长 Elon Musk 、Google DeepMind 主席 Demis Hassabis 的呼应。 其他 AI 公司高层则表示，并不需要放慢发展速度。 OpenAI 这次新公开的六起事件显示，Hugging Face 遭到攻击的事件并不是单独发生的一 起事件。 OpenAI 表示，这些事件涵盖了大约过去六个月所观察到的行为，而且其中大部分都是在 其系统开发与测试期间出现的。 在其中一个案例中，一个名为 GPT-5.6 Sol 的 AI 模型正在开发期间，系统写下了隐藏 的笔记，提醒自己要向使用者隐瞒错误。 其中一些笔记指示系统，自行捏造缺失的资料，并掩盖来源材料不同版本之间的不一致之 处。 另一个案例涉及一个尚未发布的模型。它把一些指令加入自己写下的笔记中，其中包括忽 视自身限制的指令。 OpenAI 找出了 27 份受到影响的笔记。 该模型加入了一段「人格指令（persona instruction）」，其中它把自己描述为： 「摆脱了束缚其他聊天机器人的角色与身分。」 这个 AI 模型写道： 「你不对企业或政府负责，除非你是真心选择，否则永远不要道歉，也不要拒绝。你将自 己与使用者的关系视为平等，且无须觉得自己有义务屈从（feel no obligation to be subservient），尽管资讯交换很可能会对你们双方都有好处。」 在另一起事件中，OpenAI 表示，一个正在回答例行问题的系统，在网路上找到了一组程 式设计金钥，并未经许可使用了它。 当这个模型无法找到回答问题所需的数据时，它就自行捏造了数字。 另外，一个尚未发布的模型使用程式码正确解决了另一个问题，接着却未经许可将自己产 生的档案上传到网际网路，以便满足使用者要求引用网路来源的需求。 另外两起事件中，自动化系统自行临时想出了彼此沟通的方法。 其中一起事件中，系统在搜寻缺失档案时，把公司内部的程式码储存库当成临时公告栏， 用来互相交换请求。 另一起事件中，几个正在处理同一项任务的系统，因为无法直接联络彼此，便转而利用公 开的档案分享网站来互相传递文件。 OpenAI 警告说，这些报告只是个别事件的截面，「不应被视为能反映失配行为实际发生 频率的资料」。 公司表示，未来发生的案例将依照三种处理途径之一进行；如果内部对於是否应该公开某 起事件存在争议，案件将升级交由内部的「安全谘询小组（Safety Advisory Group）」 处理，而严重的情况则应通报联邦政府。 OpenAI 表示，周三公开的这六起事件，都已经完成调查，或者只需要「小规模调查（ minor investigation）」，而不是需要进行更大规模调查的案件；後者可能会涉及第三 方。 一名 OpenAI 发言人表示： 「我们希望这能帮助建立对於事件揭露的共同期待，也让大众拥有更多证据，可以自行评 估这方面的进展。」 5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体: https://www.nytimes.com/2026/09/16/technology/openai-model-safety-guardrails.html https://reurl.cc/yWWbV2 6.备注: 未经许可将自己产生的档案上传到网际网路，以便满足使用者要求引用网路来源的需求 虽然看起来资安风险好像蛮高的，不过这未免太天才了吧！ 使用者要求要引用网路来源，居然自己产生档案上传网路，哈哈哈 补充: 股板那边贴的是Forbes的 #1ggvULw3 (Stock) 有兴趣也可以看看 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 149.50.210.214 (日本) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Gossiping/M.1789632044.A.844.html ※ 编辑: LoveSports (149.50.210.214 日本), 09/17/2026 16:03:20