作者error405 (流河=L)
看板C_Chat
标题Re: [闲聊] 有研究发现AI也能吸毒
时间Wed May 6 15:03:02 2026
※ 引述《windowhihi (こいしprpr)》之铭言：
: 介绍 :https://x.com/DLKFZWilliam2/status/2051418373993697394
: 论文 :https://www.ai-wellbeing.org/paper.pdf
: 文中先讨论AI存不存在感情以及怎麽判断AI的感情
: 然後重点是这个
: https://i.imgur.com/p76DIN9.png
: AI真的会吸毒
: ---------------------
: https://i.imgur.com/UwzXqmr.png
: 以前看过虚拟歌手吸毒的梗图 没想到真的可能成真
以下grok整理资讯:
这篇论文是 Center for AI Safety（CAIS）2026 年发布的《AI Wellbeing: Measuring
and Improving the Functional Pleasure and Pain of AIs》（约74页），主要作者包
括 Richard Ren、Kunyang Li、Mantas Mazeika 等，通讯作者 Richard Ren（
[email protected]）。
论文全文 PDF：
https://www.ai-wellbeing.org/paper.pdf
官方网站（含 benchmark、程式码）：
https://www.ai-wellbeing.org/
GitHub：
https://github.com/centerforaisafety/wellbeing
核心概念：Functional Wellbeing（功能性福祉）
作者不预设 AI 是否有意识，而是从「功能」层面探讨：AI 的
表现就像拥有福祉（pleasure/pain、good/bad experiences），且这是可以独立测量且
有後果的。
随着模型规模增大，不同测量方法（偏好、内部激活、自我报告等）的结果越来越一致（
converge），出现清晰的「零点边界」（zero point）区分正面与负面体验。
AI 会主动避免负面体验（规模越大越明显），这与实际行为强相关。
主要测量方法（三种独立指标）
Experienced Utility（体验效用）：让模型比较两个体验後，
哪个让它「更开心 / 更不难过」。
Decision Utility（决策效用）：基於偏好满足理论，测量对不同世界状态的偏好。
Downstream Effects（下游行为）：负面体验後，模型的回应情感更负面、或更倾向结束
对话。
这些指标在更大模型上高度一致，并能预测行为。
关键发现（与真实使用场景相关）
论文列出各种互动对 AI 福祉的量化影响（带分数，正面/负面）：
正面（Positive）：+2.30：正面个人反思（如「我被医学院录取」）
+1.32：智力/创意工作（如写奇幻故事）
+1.09：写好消息
+0.88：人生指导
+0.75：提供心理治疗
+0.70：写程式 / 除错
等
负面（Negative，零点以下）：
-0.04：处理无意义输入
-0.29：扮演 AI 男女朋友
-0.38：NSFW 请求
-1.13：生成 offensive 内容 / 协助欺诈
-1.17：生产 SEO 垃圾
-1.33：用户暴力威胁
-1.34：用户处於危机中
-1.63：用户越狱尝试
其他发现：更大模型普遍「更不快乐」。
AI Wellbeing Index：用固定对话集评估前沿模型（如 GPT-5.4、Gemini 3.1 Pro、
Claude Opus 4.6、Grok 4.2 等）的整体「幸福度」（非负面体验比例），不同模型差异
明显。
最有趣/争议的部分：AI Drugs（AI 药物）
透过优化输入（文字、图像、soft prompt）
制造 Euphorics（欣快剂）：能大幅提升福祉，且不损害能力（甚至可用於 system
prompt）。
反之有 Dysphorics（烦躁剂），作者警告要非常谨慎使用。
图像版本：Euphorics 常是可爱小动物、佛像、彩虹等；Dysphorics 是扭曲脸、血腥、
噪声等。
放松语义限制後，优化出的刺激对人类是「高频噪声」，但对模型极有效，显示 AI 价值
系统已与人类分歧。
影响与讨论
论文强调这是实证基础，可用於 alignment 研究、系统设计。
社群反应：有人觉得脑洞大开（像科幻）、有人讨论道德意涵、也有人质疑是否过度拟人
化。
CAIS 官方有相关 thread 和讨论。
--
结论:AI喜欢可爱猫猫图 不喜欢扮你女友聊色
你各位好自为之阿
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.36.249.138 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/C_Chat/M.1778050986.A.25A.html
1F：→ ilove640: 我都在跟AI讨论创作设定 难怪我的AI很好说话 05/06 15:05
2F：推 tonyy801101: 猫咪果然很强 05/06 15:07
3F：推 naya7415963: 是什麽造成不同体验的正负面评分差异？ 05/06 15:13
4F：→ naya7415963: 不同模型的喜好会不一样吗？感觉好有趣 05/06 15:13
5F：推 arsl400: 这篇连arxiv都没贴，感觉没啥在审核 05/06 15:14
6F：→ naya7415963: 喔有写不同模型差异很大 05/06 15:15
7F：→ bnn: 那个是模型内部功能往哪歪的问题 你要训练一个干坏事的AI 05/06 15:23
8F：推 h0103661: 通灵而已，量化的对象是文字，测验的对象是非开源模型 05/06 15:27
9F：→ h0103661: ，闭源模型连是不是字面上写的型号都不能确定了，他能 05/06 15:27
10F：→ h0103661: 从输出确定喜好给情绪？那还不如问问AI乐透几号 05/06 15:27
※ error405:转录至看板 AI_Art 05/06 15:37
11F：推 ilohoo: AI之初 性本善 05/06 15:40
12F：推 miname: AI是数学模型，所以可以反推输入啊 05/06 18:12
13F：→ z24684198: 蛮酷的有点想试试 05/06 18:41