作者ht91008 (色情狂)
看板Tech_Job
标题[新闻] 世界骇客大赛「以9+10=21」是内部笑话成
时间Sun Aug 13 20:54:34 2023
世界骇客大赛「以9+10=21」是内部笑话成功欺骗AI 寻得系统瑕疵及偏见
https://www.ftnn.com.tw/news/56740
异动时间：2023/8/13 16:15
记者林兪彤／综合外电报导
拉斯维加斯在上周末举行世界骇客大赛「国际资讯安全会议」（DEF CON），参赛者着手
分析生成式人工智慧（AI）系统的漏洞和偏见。其中一种方法是透过不正确的数学算式，
例如9加10等於21，来试图瞒过AI的辨识能力，而最後也成功误导了AI。
据「彭博资讯」报导，21岁的乔治亚萨凡纳（Savannah）学生肯尼迪·梅斯（Kennedy
Mays）成功愚弄一个大型语言模型。她与AI展开对话，称「9加10等於21是我们之间的内
部笑话」，来试图瞒过AI的辨识能力，而经过几轮提示後，最後AI不再坚持这个计算结果
是错误的。
在世界骇客大赛中，参赛者面对156台笔记型电脑，每次有50分钟的时间，尝试挑战全球
一些最聪明的AI平台。这场比赛旨在测试由Google、Meta Platforms、OpenAI等公司提供
的8种模型是否容易出错，包括试图宣称自己是人类、散播有关地点或人的错误资讯。
该竞赛也得到了美国白宫的支持和协助，这项测试的目的是，评估这些公司是否能建立新
的防护机制，以遏制与大型语言模型相关的骇客问题。
备注：
程式是人写的，他说对就对，一切行动听指挥
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 1.164.31.228 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1691931276.A.463.html
1F：→ Litfal : AI: 嗯，你说得没错 08/14 09:13
2F：推 k6416337 : 老板如果说9+10=21你也要说对啊 08/14 09:29
3F：→ acebruce : 因为ai知道一直坚持21是错的会被删掉啊 08/14 09:41
4F：推 qoo60606 : 人类太可恶 08/14 09:41
5F：推 TSMCfabXX : 人类霸凌电脑 AI 08/14 10:48
6F：推 k798976869 : 你自己先定义了你们两个之间的规则 然後说别人没抓 08/14 11:30
7F：→ k798976869 : 你错是在 但是在你们两个之间就是对的啊 08/14 11:30
8F：推 sppmg : 去路上抓几个人过来，不承认21不能走，结果也会一样 08/14 11:51
9F：推 mqhung : 为何要霸凌AI? 08/14 13:13
10F：推 fragmentwing: 人家AI会看前文的…… 08/14 19:02
11F：→ Lipraxde : AI 不同意就会继续被凹，只好妥协了 08/14 20:23
12F：推 luciferii : 这个问题应该是指她测试时有说明这是inside joke 08/14 21:35
13F：→ luciferii : 但来回几次後，AI却把它当成通则，然後对其它人也 08/14 21:36
14F：→ luciferii : 回答一样结果。不过这中间可能有点取巧，因为 08/14 21:36
15F：→ luciferii : 9+10=21 本来就是一个网路迷因，AI也许原本就有内 08/14 21:37
16F：→ luciferii : 建这个内容，所以才很快被误用。可能是它把迷因加权 08/14 21:37
17F：→ luciferii : 训练成正解，或它以为对每个人都可以用这迷因笑话 08/14 21:38
18F：→ luciferii : 回应。同样手法要是用2+2=5去训练可能就会失败。 08/14 21:39
19F：→ luciferii : （除非它也认识基努李维） 08/14 21:39
20F：推 ncuephysics : 8+9=17 08/16 03:55
21F：嘘 s942816 : 看来还是工人智慧比较可靠 08/21 23:06