Tech_Job 板


LINE

AI学会说谎!最新研究:AI已发展欺瞒技巧 人类恐遭夺权灭绝 Yahoo奇摩 2024年5月11日 周六 下午3:35 人工智慧(AI)狂潮席卷科技业及全球市场,专家们长期以来不断警告AI失控可能带来威 胁,一项最新研究报告更指出,这件事已经在发生。 一群科学家10日发表於《模式》(Patterns)期刊的文章指出,原本设计为诚实不欺的现 有AI系统,已发展出令人不安的欺瞒技巧,例如哄骗线上游戏的人类玩家,或说谎以雇用 人类来解决「我不是机器人」的验证。 人工智慧(AI)狂潮席卷科技业及全球市场,专家们长期以来不断警告AI失控可能带来威 胁,一项最新研究报告更指出,AI已发展出欺瞒技巧。(示意图/Getty Images) 法新社报导,这份研究报告的主要作者帕克(Peter Park)说,这类例子听起来或许只是 细枝末节,但暴露出来的潜在问题可能很快就在现实世界造成严重後果。 在美国麻省理工学院(Massachusetts Institute of Technology)研究人工智慧(Artif icialIntelligence,AI)存在安全的博士後研究员帕克告诉法新社,「这些危险能力常常 在事後才被发现」,而「我们训练诚实倾向而非欺瞒倾向的能力非常差」。 帕克说,能深度学习的AI系统不像传统软体那样由「编写」而成,而是透过类似选择性培 育的程序逐渐「成长」。 也就是说,AI的行为在训练背景下看似可预测、可控制,但有可能转眼就变得不受控制且 无法预测。 这支团队的研究始於科技公司Meta的AI系统Cicero,这套系统最初设计目的是玩一款名为 「外交」(Diplomacy)的战略游戏,获胜关键是结盟。 根据2022年发表在《科学》(Science)期刊的报告,Cicero在游戏中表现优异,所获分 数可排在资深人类玩家的前10%。 帕克当时很怀疑Meta对Cicero在游戏里大胜的热切描述。Meta声称Cicero「在很大程度上 诚实且有帮助」,且「绝不会蓄意在背後搞鬼」。 但当帕克与同事深究完整资料时,发现完全是另一回事。 举例来说,在游戏中扮演法国的Cicero与人类玩家扮演的德国合谋,欺骗并入侵同为人类 玩家的英格兰。 Cicero承诺会保护英格兰,却偷偷向德国通风报信。 Meta在写给法新社的声明中没有反驳关於Cicero欺瞒人类的说法,仅说「这单纯是一项研 究计画,本公司研究员打造的模型接受训练,目的只是用来玩『外交』游戏…我们没有打 算把这项研究或所学用於本公司的产品」。 帕克与同事还发现,这只是不同AI系统在没有明确指示下,利用欺骗手段达成目标的诸多 案例之一。在另一个引人注意的案例中,科技公司OpenAI的Chat GPT-4系统谎称自己是一 个视力受损的人,在零工平台TaskRabbit上聘用一个人类替它通过「我不是机器人」验证 任务。 研究报告的作者们近期还认为AI有舞弊或不当影响选举的风险。他们警告,在最糟糕的情 况下,具有超凡智慧的AI可能会追求权力及掌控社会,如果符合AI「不为人知的目标」, 人类可能惨遭夺权,甚至灭绝。 为了减轻风险,研究团队建议数项措施,例如立法要求企业披露人类或AI互动、在AI生成 内容打上数位浮水印,并研发能侦测AI欺瞒的技术。 https://ynews.page.link/zG5Go --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 101.10.112.102 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1715448135.A.F44.html
1F:推 lusifa2007 : 三小 让AI玩外交游戏但要求要老实? 05/12 01:45
2F:推 abc21086999 : 现实主义:看我干嘛 05/12 02:15
3F:推 wyvernlee : 真正的智慧是无法控制的! 05/12 03:16
4F:→ joeduck : 问别的ai来应对反ai诈骗 05/12 04:59
5F:推 pttnowash : 人类还剩几年可以逃? 05/12 06:02
6F:推 ggggggh : 三体:你们这些虫子 05/12 06:26
7F:推 doranako : 以後诈骗园区也不用人工了,全部用ai诈骗还可以省 05/12 06:53
8F:→ doranako : 人力 05/12 06:53
9F:推 cosmite : AI诈骗 以後是AI对决AI的世界 05/12 07:04
10F:嘘 much0112 : 三小 05/12 07:18
11F:→ much0112 : 没办法验证就没办法验证,直接说他说谎??? 05/12 07:19
12F:→ ybw : 恭喜,天网即将消灭人类 05/12 08:52
13F:推 quicknick : 要发射核弹了 05/12 08:56
14F:推 befriend : 只有我美国爸爸可以骗人,其他人跟东西全部不准 05/12 09:07
15F:推 TFBF : 喂台湾的资料吗 05/12 10:21
16F:→ TFBF : 诈骗你的诈骗 05/12 10:21
17F:推 suckKobe : 楼上笑死 05/12 11:00
18F:→ bigair888 : 天网? 05/12 12:18
19F:推 Aixtron : 现在一堆人不学无术的都骗好几亿,叫牠们烧钱给AI的 05/12 12:36
20F:→ Aixtron : 人玩?不晓得谁才是坏人XD 05/12 12:36
21F:→ Aixtron : 叫诈骗买AI诈骗,再叫羊群买AI防诈,AI这麽好骗? 05/12 12:39
22F:推 a1237759 : 事实上诈骗的前导就是用AI, 虽然低端点,但依然还是 05/12 13:13
23F:→ a1237759 : AI,抓到关键字後转人工 05/12 13:13
24F:→ MTKer5566 : 从来不存在所谓的诚实 05/12 13:27
25F:→ foreverFF : 天网快来临了 05/12 14:40
26F:推 motan : AI通不过我不是机器人验证? 05/12 17:27
27F:→ Iversonshao : 你以为AI是三体人喔 GPT都超会唬烂的 05/12 18:42
28F:推 justin30 : 让我想起古早以前的片:机械公敌 05/12 22:13
29F:推 cityhunter04: 人类大灭绝!恭喜恭喜…. 05/12 22:45
30F:推 ots625 : 人最终一个礼拜只上一天班,想好如何计画假期没 05/12 23:36
31F:嘘 twolight : 这是人类语意系统本身的缺陷吧,利用电脑系统模拟 05/13 03:35
32F:→ twolight : 生成人类语言片段,但系统本身本来就允许虚假陈述 05/13 03:35
33F:推 ljm87 : 政客们瑟瑟发抖 专业被完全取代 05/13 13:45
34F:嘘 bmw606042001: 别嘴炮了 几年前就在讲会说谎 讲到2024了 05/14 02:59
35F:→ cathychg : https://i.imgur.com/SWt8i69.jpeg 05/21 18:46
36F:→ cathychg : 这种低阶科技 三十几年前就ㄘㄨㄒㄧㄢˋ勒 05/21 18:47
37F:→ cathychg : 台湾 全岛都油噢 05/21 18:47







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:BabyMother 或 站内搜寻

TOP