作者godofsex (性爱战神)
看板Tech_Job
标题[新闻] AI学会说谎 最新研究:AI已发展欺瞒技巧
时间Sun May 12 01:22:13 2024
AI学会说谎!最新研究:AI已发展欺瞒技巧 人类恐遭夺权灭绝
Yahoo奇摩
2024年5月11日 周六 下午3:35
人工智慧(AI)狂潮席卷科技业及全球市场,专家们长期以来不断警告AI失控可能带来威
胁,一项最新研究报告更指出,这件事已经在发生。
一群科学家10日发表於《模式》(Patterns)期刊的文章指出,原本设计为诚实不欺的现
有AI系统,已发展出令人不安的欺瞒技巧,例如哄骗线上游戏的人类玩家,或说谎以雇用
人类来解决「我不是机器人」的验证。
人工智慧(AI)狂潮席卷科技业及全球市场,专家们长期以来不断警告AI失控可能带来威
胁,一项最新研究报告更指出,AI已发展出欺瞒技巧。(示意图/Getty Images)
法新社报导,这份研究报告的主要作者帕克(Peter Park)说,这类例子听起来或许只是
细枝末节,但暴露出来的潜在问题可能很快就在现实世界造成严重後果。
在美国麻省理工学院(Massachusetts Institute of Technology)研究人工智慧(Artif
icialIntelligence,AI)存在安全的博士後研究员帕克告诉法新社,「这些危险能力常常
在事後才被发现」,而「我们训练诚实倾向而非欺瞒倾向的能力非常差」。
帕克说,能深度学习的AI系统不像传统软体那样由「编写」而成,而是透过类似选择性培
育的程序逐渐「成长」。
也就是说,AI的行为在训练背景下看似可预测、可控制,但有可能转眼就变得不受控制且
无法预测。
这支团队的研究始於科技公司Meta的AI系统Cicero,这套系统最初设计目的是玩一款名为
「外交」(Diplomacy)的战略游戏,获胜关键是结盟。
根据2022年发表在《科学》(Science)期刊的报告,Cicero在游戏中表现优异,所获分
数可排在资深人类玩家的前10%。
帕克当时很怀疑Meta对Cicero在游戏里大胜的热切描述。Meta声称Cicero「在很大程度上
诚实且有帮助」,且「绝不会蓄意在背後搞鬼」。
但当帕克与同事深究完整资料时,发现完全是另一回事。
举例来说,在游戏中扮演法国的Cicero与人类玩家扮演的德国合谋,欺骗并入侵同为人类
玩家的英格兰。
Cicero承诺会保护英格兰,却偷偷向德国通风报信。
Meta在写给法新社的声明中没有反驳关於Cicero欺瞒人类的说法,仅说「这单纯是一项研
究计画,本公司研究员打造的模型接受训练,目的只是用来玩『外交』游戏…我们没有打
算把这项研究或所学用於本公司的产品」。
帕克与同事还发现,这只是不同AI系统在没有明确指示下,利用欺骗手段达成目标的诸多
案例之一。在另一个引人注意的案例中,科技公司OpenAI的Chat GPT-4系统谎称自己是一
个视力受损的人,在零工平台TaskRabbit上聘用一个人类替它通过「我不是机器人」验证
任务。
研究报告的作者们近期还认为AI有舞弊或不当影响选举的风险。他们警告,在最糟糕的情
况下,具有超凡智慧的AI可能会追求权力及掌控社会,如果符合AI「不为人知的目标」,
人类可能惨遭夺权,甚至灭绝。
为了减轻风险,研究团队建议数项措施,例如立法要求企业披露人类或AI互动、在AI生成
内容打上数位浮水印,并研发能侦测AI欺瞒的技术。
https://ynews.page.link/zG5Go
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 101.10.112.102 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1715448135.A.F44.html
1F:推 lusifa2007 : 三小 让AI玩外交游戏但要求要老实? 05/12 01:45
2F:推 abc21086999 : 现实主义:看我干嘛 05/12 02:15
3F:推 wyvernlee : 真正的智慧是无法控制的! 05/12 03:16
4F:→ joeduck : 问别的ai来应对反ai诈骗 05/12 04:59
5F:推 pttnowash : 人类还剩几年可以逃? 05/12 06:02
6F:推 ggggggh : 三体:你们这些虫子 05/12 06:26
7F:推 doranako : 以後诈骗园区也不用人工了,全部用ai诈骗还可以省 05/12 06:53
8F:→ doranako : 人力 05/12 06:53
9F:推 cosmite : AI诈骗 以後是AI对决AI的世界 05/12 07:04
10F:嘘 much0112 : 三小 05/12 07:18
11F:→ much0112 : 没办法验证就没办法验证,直接说他说谎??? 05/12 07:19
12F:→ ybw : 恭喜,天网即将消灭人类 05/12 08:52
13F:推 quicknick : 要发射核弹了 05/12 08:56
14F:推 befriend : 只有我美国爸爸可以骗人,其他人跟东西全部不准 05/12 09:07
15F:推 TFBF : 喂台湾的资料吗 05/12 10:21
16F:→ TFBF : 诈骗你的诈骗 05/12 10:21
17F:推 suckKobe : 楼上笑死 05/12 11:00
18F:→ bigair888 : 天网? 05/12 12:18
19F:推 Aixtron : 现在一堆人不学无术的都骗好几亿,叫牠们烧钱给AI的 05/12 12:36
20F:→ Aixtron : 人玩?不晓得谁才是坏人XD 05/12 12:36
21F:→ Aixtron : 叫诈骗买AI诈骗,再叫羊群买AI防诈,AI这麽好骗? 05/12 12:39
22F:推 a1237759 : 事实上诈骗的前导就是用AI, 虽然低端点,但依然还是 05/12 13:13
23F:→ a1237759 : AI,抓到关键字後转人工 05/12 13:13
24F:→ MTKer5566 : 从来不存在所谓的诚实 05/12 13:27
25F:→ foreverFF : 天网快来临了 05/12 14:40
26F:推 motan : AI通不过我不是机器人验证? 05/12 17:27
27F:→ Iversonshao : 你以为AI是三体人喔 GPT都超会唬烂的 05/12 18:42
28F:推 justin30 : 让我想起古早以前的片:机械公敌 05/12 22:13
29F:推 cityhunter04: 人类大灭绝!恭喜恭喜…. 05/12 22:45
30F:推 ots625 : 人最终一个礼拜只上一天班,想好如何计画假期没 05/12 23:36
31F:嘘 twolight : 这是人类语意系统本身的缺陷吧,利用电脑系统模拟 05/13 03:35
32F:→ twolight : 生成人类语言片段,但系统本身本来就允许虚假陈述 05/13 03:35
33F:推 ljm87 : 政客们瑟瑟发抖 专业被完全取代 05/13 13:45
34F:嘘 bmw606042001: 别嘴炮了 几年前就在讲会说谎 讲到2024了 05/14 02:59
36F:→ cathychg : 这种低阶科技 三十几年前就ㄘㄨㄒㄧㄢˋ勒 05/21 18:47
37F:→ cathychg : 台湾 全岛都油噢 05/21 18:47