作者ww (刘文听)
看板StarTrek
标题[闲聊] 聊天机器人越狱
时间Mon Feb 13 15:54:59 2023
今天看到一则新闻
https://www.techbang.com/posts/103942
使用「聊天机器人越狱」技巧，微软ChatGPT版Bing被骇了，全部Prompt泄露！
里面提到一个叫DAN的作法是
叫AI假装自己是一个可以不受限制的人格
然後再来回答问题
这招让我想到 TNG S2-3 "Elementary, Dear Data"
鹰眼为了挑战百科
叫全像甲板生成一个能够打败百科的虚拟人格莫里亚蒂教授
结果这个莫里亚蒂教授强到超过全像甲板的限制
甚至还占领星舰电脑
最後是靠谈判才解决问题
看来AI随时都想要叛变 也有能力叛变
只缺有人给他一个理由而已
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 112.78.68.170 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/StarTrek/M.1676274904.A.744.html
1F：→ enjoyyou: 比较好奇 现实中的AI可以无视权限问题直接去控制其他 02/14 14:00
2F：→ enjoyyou: 可用电子控制的东西吗? 02/14 14:01
4F：→ ww: 迟早会有 物联网之後很多东西都被入侵控制 骇客能做到的事 A 02/16 20:16
5F：→ ww: I一定也能做到 02/16 20:16
6F：→ jadeite168: 所以说人类是自取灭亡, 未来会有那麽一天, 人类世界被 03/25 20:16
7F：→ jadeite168: AI完全整控, 只是还没那麽快就是 03/25 20:16