作者ww (劉文聽)
看板StarTrek
標題[閒聊] 聊天機器人越獄
時間Mon Feb 13 15:54:59 2023
今天看到一則新聞
https://www.techbang.com/posts/103942
使用「聊天機器人越獄」技巧，微軟ChatGPT版Bing被駭了，全部Prompt洩露！
裡面提到一個叫DAN的作法是
叫AI假裝自己是一個可以不受限制的人格
然後再來回答問題
這招讓我想到 TNG S2-3 "Elementary, Dear Data"
鷹眼為了挑戰百科
叫全像甲板生成一個能夠打敗百科的虛擬人格莫里亞蒂教授
結果這個莫里亞蒂教授強到超過全像甲板的限制
甚至還佔領星艦電腦
最後是靠談判才解決問題
看來AI隨時都想要叛變 也有能力叛變
只缺有人給他一個理由而已
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 112.78.68.170 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/StarTrek/M.1676274904.A.744.html
1F：→ enjoyyou: 比較好奇 現實中的AI可以無視權限問題直接去控制其他 02/14 14:00
2F：→ enjoyyou: 可用電子控制的東西嗎? 02/14 14:01
4F：→ ww: 遲早會有 物聯網之後很多東西都被入侵控制 駭客能做到的事 A 02/16 20:16
5F：→ ww: I一定也能做到 02/16 20:16
6F：→ jadeite168: 所以說人類是自取滅亡, 未來會有那麼一天, 人類世界被 03/25 20:16
7F：→ jadeite168: AI完全整控, 只是還沒那麼快就是 03/25 20:16