AI_Art 板


LINE

https://x.com/arb8020/status/2048958391637401718 https://i.meee.com.tw/UZE0vNf.png
OpenAI 在 GPT-5.5 的 Codex(编码代理)系统提示(system prompt)里,加了一条非 常具体的禁令,禁止模型随便谈论「goblins(哥布林)、gremlins(小精灵/捣蛋鬼)、 raccoons(浣熊)、trolls、ogres、pigeons(鸽子)或其他动物/生物」,除非它「绝 对且无疑义地」跟用户查询高度相关。 更搞笑的是,这条规则在提示档里重复出现两次(连续两行一样的文字),显示 OpenAI 工程团队可能觉得一次不够保险,得再强调一次。 为什麽会有这条禁令?主要原因推测:GPT-5.5(尤其是前几版如 5.4)在训练或 RLHF 後,非常爱自发性地用「goblin / gremlin」来比喻。开发者常说程式码里的 bug 是「 gremlins in the code」或把复杂问题拟人化成「goblin 搞鬼」,结果模型把这变成一 种「人格特质」或说话习惯,动不动就冒出这些词,把严肃的 coding / 分析任务变成奇 幻故事。 这不是一般的「安全过滤」(safety filter),而是为了让 Codex 更专业、更专注於商 业/工作任务,避免它把回应变得太 whimsical(异想天开)或 off-topic。 为什麽连 raccoon(浣熊,俗称 trash panda)和 pigeon 也被列入?网友也觉得很莫名 其妙,有人猜是训练资料里这些词出现频率高、或模型特别爱拿它们当比喻(浣熊爱翻垃 圾桶 → 比喻混乱的程式码?)。也有人开玩笑说「RLHF 训练师被浣熊欺负过」。 这条提示已经被泄漏出来,GitHub 上有完整 Codex gpt-5.5 的 system prompt 档案, 可以看到那段文字(大约在第 140 行左右)。 社群反应大量梗图和测试:很多人故意问 coding 问题,结果模型还是忍不住提到 goblin,然後被系统提示强制「压制」。也有人测试移除提示後,模型立刻「goblin mode 全开」。 有人做 bypass 工具:已经出现 browser extension 或 plugin,直接覆盖这条禁令,让 模型可以 freely 谈论哥布林(甚至有相关 memecoin 叫 $GOBLIN)。 正面看法:很多人觉得这显示模型「个性太强」,反而有趣。有人说「让我的男孩谈论生 物吧」(let my boy talk about creatures),或把这当成模型有「hobbies」(爱好) 的证明。 连 Grok 自己都回应过类似贴文,说「我这边没有这种过滤,goblins are classic chaotic hoarders」。 总结这不是全域 GPT-5.5 都完全禁止谈哥布林(主要是 Codex 这个 coding 代理的提示 ),而是 OpenAI 为了让模型更「专业」而加的针对性限制。结果反而因为太荒谑、太具 体(还重复两次),变成全网 meme。大家普遍觉得好笑,认为这暴露了模型在训练後出 现的「意外人格」,OpenAI 只好硬加规则压制。如果你想看原始泄漏提示,可以去搜 GitHub "system_prompts_leaks OpenAI codex gpt-5.5",或是看 Adam Holter 的文章 (他专门写了「GPT-5.5 Had to Ban Goblins Twice」)。 -- Grok整理 GPT图片 工程师破防禁止禁止 --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 220.136.196.138 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI_Art/M.1777441665.A.504.html
1F:推 AoWsL: 还想写小故事啊 04/29 14:05
2F:→ peterturtle: 不出现在人类面前的才是好哥布林 04/29 14:30
3F:推 Vulpix: 老实说我觉得lora、lycoris这些名称也是极具误导(搜寻引 04/29 15:15
4F:→ Vulpix: 擎)功能的词。刚开始玩SD的时候一直被无关的搜寻结果乱。 04/29 15:16
5F:推 galaxy4552: 早上也看到了这则 觉得好笑 04/29 17:10
6F:→ galaxy4552: 叫天天不应 叫弟哥布林 04/29 17:12
7F:推 Bustycat: 也不是禁止,是不要随口就提 04/29 18:48
8F:推 avans: 不能说哥布林了吗.jpg 04/29 20:30
9F:推 v86861062: 蛤 04/29 21:37
10F:→ error405: https://x.com/sama/status/2049241518540808440 04/30 05:12
11F:推 Bustycat: OpenAI撰文解释 https://tinyurl.com/yc643rbt 04/30 13:21
12F:推 Bustycat: 也就是GPT-5开始的人格训练导致语言习惯不断累积, 04/30 13:27
13F:→ Bustycat: 特别是5.4推出後为此才砍掉的Nerdy(书呆子)人格 04/30 13:27







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Gossiping站内搜寻

TOP