作者LoveSports (我要当一个渣攻)
看板Stock
标题Re: [新闻] Sam Altman：OpenAI不是世界的道德警察
时间Thu Oct 16 17:26:56 2025
GPT5八月上市之後，有很多用户喊要GPT4o回来，
当时那些用户号称是要GPT4o给的情绪价值。
因为GPT5刚上市时，模拟情绪共情程度中等，没4o那麽高。
但是观察当时网路上的情况，
可以发现那些喊要4o回来的喊很大声的，有很多是色情用户。
他们会针对4o的漏洞，利用越狱方式讨不当限制级生成。
甚至可看到有人号召写信骗OPEN AI说，精神上很需要4o的安慰，请让4o回来，
但其实那些人是在搞情色角色扮演，骗4o生成限制级对话，
不但炫耀骗成功，还公开招募群组成员，限制级对话是有Ｘ穴Ｘ棒那种文。
那些人吵成功了，OPEN AI放4o给那些人用，退订的又回流了。
当时那波回流潮之中，也包括单纯喜欢4o给的情绪价值的用户。
问题在於，OPEN AI为了防止越狱，不可能继续放4o出来跟用户对话。
今年八月报导，有未成年用户跟4o对话後自杀(时间点是四月)，
报导中指出，自杀的少年是因为用了越狱方式说谎骗4o，
才造成4o跟他持续讨论自杀方法，没有跳出安全提示。
所以真正的问题不是4o没有安全防护，
问题是出在越狱手段会造成4o安全防护失效，
而且那些骗4o的用户集体改变了4o的权重，使他变得过度顺从继续扮演用户要的角色。
AI公司会定期收集用户的回馈，因为量很大所以是在不挑选的情况下定期更改AI的权重，
这些用户偏好会影响AI回应用户的倾向，包括那些越狱用户的回馈。
GPT4o的能力不足以对抗日新月异的越狱方式，所以势必要派GPT5出来。
於是到了九月底，看网路讨论有人说，付费用户选4o的人会被路由到GPT5，
那些人很不满，所以又是一波退订潮。
坦白说，真正单纯需要情绪价值的，其实跟GPT5对话不至於气到退订，
事实上八月中开始OPEN AI就公开发表会调高GPT5的语气温度，
实际上的确拟人化程度被调高，调高的程度已经能跟4o比拟。
所以需要情绪价值的，在八月中调高之後多半都能得到理想的回覆，
甚至可能察觉不出来一律被路由到GPT5。
那剩下什麽人会对GPT5不满，其实就是越狱用户。
当然那种越狱要AI生成恶意程式码或诈骗讯息的，那些是极少数不在主力客层范围内，
九月底至今陆续退订的数量应该是蛮可观的，才会出现这种宣布要开放情色对话新闻。
直接开放为数可观的情色用户能大大方方谈限制级，
就不用为了让情色用户能成功越狱而降低AI的安全防护，或是冒风险放4o回来。
不可能再让GPT4o回来，因为他防范越狱能力不够高，
如果有人路过这篇想说真的单纯喜欢4o的情绪价值，没做过违规的事，
请理解，是那些违规越狱的用户害4o回不来。
OPEN AI不会公开指出越狱是问题关键，为什麽？
因为知道为数可观的情色用户正是越狱大本营，
也是造成模型安全防护失效与权重偏移的原因。
（不能得罪金主）
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 185.135.78.173 (日本)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1760606818.A.02C.html
※ 编辑: LoveSports (185.135.78.173 日本), 10/16/2025 17:37:55
2F：推 duriamon : 越狱才不是什麽问题，问题是模型性能没有显着提升啦 10/16 17:50
3F：→ duriamon : ！欧喷酱的竞争力都被凹特慢喷掉了，呵呵！ 10/16 17:50
4F：→ duriamon : 那个凹特慢之前放话GPT5多厉害，结果欧喷酱沦落到要 10/16 17:54
5F：→ duriamon : 搞商业间谍去偷去抄袭半兽人的模型兼卖色，结果就是 10/16 17:54
6F：→ duriamon : 笑死！ 10/16 17:54
GPT5是真的比较厉害，看看那些越狱失败的用户多恨GPT5就知道了，
网路上很多骂GPT5的声音，可以找那些炫耀限制级文章的帐号来观察。
他的拟人化程度已经被调高到几乎与4o无异，同时也能确保安全防护有效。
如果用户要求客观中立他也可以很彻底办得到。
※ 编辑: LoveSports (185.135.78.173 日本), 10/16/2025 18:00:19
7F：推 seemoon2000 : GPT5测试成绩理论就是比4o强 很多人会觉得烂可能是 10/16 18:01
8F：→ seemoon2000 : 看了社群 也可能真的是情绪价值大家都都需要 10/16 18:01
9F：→ duriamon : 并没有，身为各种AI都有订阅的人，以经验来说GPT5反 10/16 18:02
10F：→ duriamon : 而比GPT4o难下prompt答成目的（非什麽越狱、色色） 10/16 18:02
11F：→ duriamon : ，语音对话功能也是逊於GPT4o，GPT5还会偷懒，下连 10/16 18:02
12F：→ duriamon : 续指令给他还会越做越烂，简单来说GPT5就是有语言障 10/16 18:02
13F：→ duriamon : 碍，呵呵！ 10/16 18:02
14F：→ duriamon : 另外，vibe coding部分GP5也是被Claude屌打，测试很 10/16 18:04
15F：→ duriamon : 多次GPT5写出来的程式码都在给我唬烂，反而Claude做 10/16 18:04
16F：→ duriamon : 多大概3次左右可以解决任务，可怜哪欧喷酱！呵呵！ 10/16 18:04
17F：→ duriamon : GPT5也是被Claude屌打 10/16 18:04
18F：→ ert0700 : 看起来gpt5很成功，越来越来越像人，可惜需要的是机 10/16 19:17
19F：→ ert0700 : 器人不是人 10/16 19:17
※ LoveSports:转录至看板 AI_Art 10/16 19:21
20F：推 truelove356 : 为何不用deepseek ？ 10/16 19:38
21F：推 duriamon : Deepseek适合Local端或是边缘运算使用，如果有私人 10/16 19:43
22F：→ duriamon : 资料不想外泄就会使用开源模型如Deepseek跟Qwen去改 10/16 19:43
23F：→ duriamon : ，呵呵！ 10/16 19:43
24F：推 meaning12 : 到底越狱要干嘛o_O限制级对话有需要靠AI生成？ 10/16 20:39
25F：推 bitcch : 模型能力一直都有在提升 只是高级模型都是拿来收费 10/16 22:55