Tech_Job 板


LINE

AI學會說謊!最新研究:AI已發展欺瞞技巧 人類恐遭奪權滅絕 Yahoo奇摩 2024年5月11日 週六 下午3:35 人工智慧(AI)狂潮席捲科技業及全球市場,專家們長期以來不斷警告AI失控可能帶來威 脅,一項最新研究報告更指出,這件事已經在發生。 一群科學家10日發表於《模式》(Patterns)期刊的文章指出,原本設計為誠實不欺的現 有AI系統,已發展出令人不安的欺瞞技巧,例如哄騙線上遊戲的人類玩家,或說謊以僱用 人類來解決「我不是機器人」的驗證。 人工智慧(AI)狂潮席捲科技業及全球市場,專家們長期以來不斷警告AI失控可能帶來威 脅,一項最新研究報告更指出,AI已發展出欺瞞技巧。(示意圖/Getty Images) 法新社報導,這份研究報告的主要作者帕克(Peter Park)說,這類例子聽起來或許只是 細枝末節,但暴露出來的潛在問題可能很快就在現實世界造成嚴重後果。 在美國麻省理工學院(Massachusetts Institute of Technology)研究人工智慧(Artif icialIntelligence,AI)存在安全的博士後研究員帕克告訴法新社,「這些危險能力常常 在事後才被發現」,而「我們訓練誠實傾向而非欺瞞傾向的能力非常差」。 帕克說,能深度學習的AI系統不像傳統軟體那樣由「編寫」而成,而是透過類似選擇性培 育的程序逐漸「成長」。 也就是說,AI的行為在訓練背景下看似可預測、可控制,但有可能轉眼就變得不受控制且 無法預測。 這支團隊的研究始於科技公司Meta的AI系統Cicero,這套系統最初設計目的是玩一款名為 「外交」(Diplomacy)的戰略遊戲,獲勝關鍵是結盟。 根據2022年發表在《科學》(Science)期刊的報告,Cicero在遊戲中表現優異,所獲分 數可排在資深人類玩家的前10%。 帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上 誠實且有幫助」,且「絕不會蓄意在背後搞鬼」。 但當帕克與同事深究完整資料時,發現完全是另一回事。 舉例來說,在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀,欺騙並入侵同為人類 玩家的英格蘭。 Cicero承諾會保護英格蘭,卻偷偷向德國通風報信。 Meta在寫給法新社的聲明中沒有反駁關於Cicero欺瞞人類的說法,僅說「這單純是一項研 究計畫,本公司研究員打造的模型接受訓練,目的只是用來玩『外交』遊戲…我們沒有打 算把這項研究或所學用於本公司的產品」。 帕克與同事還發現,這只是不同AI系統在沒有明確指示下,利用欺騙手段達成目標的諸多 案例之一。在另一個引人注意的案例中,科技公司OpenAI的Chat GPT-4系統謊稱自己是一 個視力受損的人,在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證 任務。 研究報告的作者們近期還認為AI有舞弊或不當影響選舉的風險。他們警告,在最糟糕的情 況下,具有超凡智慧的AI可能會追求權力及掌控社會,如果符合AI「不為人知的目標」, 人類可能慘遭奪權,甚至滅絕。 為了減輕風險,研究團隊建議數項措施,例如立法要求企業披露人類或AI互動、在AI生成 內容打上數位浮水印,並研發能偵測AI欺瞞的技術。 https://ynews.page.link/zG5Go --



※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.112.102 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Tech_Job/M.1715448135.A.F44.html
1F:推 lusifa2007 : 三小 讓AI玩外交遊戲但要求要老實? 05/12 01:45
2F:推 abc21086999 : 現實主義:看我幹嘛 05/12 02:15
3F:推 wyvernlee : 真正的智慧是無法控制的! 05/12 03:16
4F:→ joeduck : 問別的ai來應對反ai詐騙 05/12 04:59
5F:推 pttnowash : 人類還剩幾年可以逃? 05/12 06:02
6F:推 ggggggh : 三體:你們這些蟲子 05/12 06:26
7F:推 doranako : 以後詐騙園區也不用人工了,全部用ai詐騙還可以省 05/12 06:53
8F:→ doranako : 人力 05/12 06:53
9F:推 cosmite : AI詐騙 以後是AI對決AI的世界 05/12 07:04
10F:噓 much0112 : 三小 05/12 07:18
11F:→ much0112 : 沒辦法驗證就沒辦法驗證,直接說他說謊??? 05/12 07:19
12F:→ ybw : 恭喜,天網即將消滅人類 05/12 08:52
13F:推 quicknick : 要發射核彈了 05/12 08:56
14F:推 befriend : 只有我美國爸爸可以騙人,其他人跟東西全部不准 05/12 09:07
15F:推 TFBF : 餵台灣的資料嗎 05/12 10:21
16F:→ TFBF : 詐騙你的詐騙 05/12 10:21
17F:推 suckKobe : 樓上笑死 05/12 11:00
18F:→ bigair888 : 天網? 05/12 12:18
19F:推 Aixtron : 現在一堆人不學無術的都騙好幾億,叫牠們燒錢給AI的 05/12 12:36
20F:→ Aixtron : 人玩?不曉得誰才是壞人XD 05/12 12:36
21F:→ Aixtron : 叫詐騙買AI詐騙,再叫羊群買AI防詐,AI這麽好騙? 05/12 12:39
22F:推 a1237759 : 事實上詐騙的前導就是用AI, 雖然低端點,但依然還是 05/12 13:13
23F:→ a1237759 : AI,抓到關鍵字後轉人工 05/12 13:13
24F:→ MTKer5566 : 從來不存在所謂的誠實 05/12 13:27
25F:→ foreverFF : 天網快來臨了 05/12 14:40
26F:推 motan : AI通不過我不是機器人驗證? 05/12 17:27
27F:→ Iversonshao : 你以為AI是三體人喔 GPT都超會唬爛的 05/12 18:42
28F:推 justin30 : 讓我想起古早以前的片:機械公敵 05/12 22:13
29F:推 cityhunter04: 人類大滅絕!恭喜恭喜…. 05/12 22:45
30F:推 ots625 : 人最終一個禮拜只上一天班,想好如何計畫假期沒 05/12 23:36
31F:噓 twolight : 這是人類語意系統本身的缺陷吧,利用電腦系統模擬 05/13 03:35
32F:→ twolight : 生成人類語言片段,但系統本身本來就允許虛假陳述 05/13 03:35
33F:推 ljm87 : 政客們瑟瑟發抖 專業被完全取代 05/13 13:45
34F:噓 bmw606042001: 別嘴砲了 幾年前就在講會說謊 講到2024了 05/14 02:59
35F:→ cathychg : https://i.imgur.com/SWt8i69.jpeg 05/21 18:46
36F:→ cathychg : 這種低階科技 三十幾年前就ㄘㄨㄒㄧㄢˋ勒 05/21 18:47
37F:→ cathychg : 台灣 全島都油噢 05/21 18:47







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:BuyTogether 或 站內搜尋

TOP