作者pl132 (pl132)
看板Tech_Job
标题[新闻]微软高层：AI 聊天机器人须学会求助别编造
时间Mon Sep 2 20:21:20 2024
微软高层：AI 聊天机器人须学会求助，别编造答案
https://technews.tw/2024/09/02/vik-singh-generative-ai-learn-to-ask-for-help/
微软公司（Microsoft）副总裁辛赫（Vik Singh）表示，生成式人工智慧（Generative
AI）工具将为企业节省大量时间和金钱，但模型必须学会承认自身并非无所不能。
辛赫接受法新社访问说道，现在真正缺少的是，会有模型举手说「嘿，我不确定，我需要
帮助」。
从去年以来，微软、Google及其竞争对手一直迅速推出类似ChatGPT的生成式AI应用程式
，这些应用程式可以依据要求生成各种内容，给予用户一种无所不知的错觉。
尽管取得了进展，生成式AI应用程式依然「产生幻觉」或编造答案。
这是微软高层需要解决的重要问题，辛赫的企业客户无法承受微软AI系统出包的後果。
云端软体巨擘Salesforce执行长班纽夫（Marc Benioff）本周指出，他看到许多客户对微
软人工智慧辅助工具Copilot的胡言乱语愈来愈感到沮丧。
辛赫坚称，「真正聪明的人」正试图寻找方法，让聊天机器人承认「它不知道正确答案，
并寻求帮助」。
--
俗话说的好，君子坦荡荡，小人做日常。
举头望明月，低头做日常。
少壮不努力，老大做日常。
生自古谁无死，来生继续做日常
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 180.177.0.83 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1725279684.A.1DD.html
1F：推 KyuubiKulama: 那我花钱用AI 干嘛笑鼠 09/02 20:27
2F：推 imreader : 反向质询 09/02 20:38
3F：推 hank78321 : 问另一个ai 09/02 20:57
4F：推 sdbb : 若需真人客服，请按0，帮您转接中 09/02 21:06
5F：推 NDark : 404 not found. 09/02 21:06
6F：嘘 zxcvb1234522: 说谎AI，原来AI都是一场梦 09/02 21:18
7F：推 yudofu : 有的时候如果判断输入不足就该询问，而不是硬答一个 09/02 21:21
8F：→ dlhk3 : 没办法，现在的所谓的ai根本就不是真的ai，就没有 09/02 21:29
9F：→ dlhk3 : 任何智慧，只是利用大资料跟模型去算出可能的结果 09/02 21:29
10F：→ dlhk3 : ，模型好且资料正确也许算出来的会偏正确（但还是 09/02 21:29
11F：→ dlhk3 : 会充斥着错误），但如果喂给他很多错误资料或是烂 09/02 21:29
12F：→ dlhk3 : 模型，那算出来的结果就会是垃圾 09/02 21:29
13F：推 ghchen1978 : Ai你要会发问啊！都不说话我怎麽知道你哪里不懂！ 09/02 22:11
14F：→ ghchen1978 : 这样你长大怎麽跟欧美小孩竞争？ 09/02 22:11
15F：推 lusifa2007 : 我很难想想ai说你觉得呢？ 09/02 23:01
16F：推 cphe : 真正的人类也常常会不懂装懂，答非所问，很符合AI 09/03 01:18
17F：→ cphe : 行为 XD 09/03 01:18
18F：推 jatj : 不然八楼你以为AI是什麽？人类不就是从过去知识推导 09/03 01:24
19F：→ jatj : 出答案？AI不是也在做一样的事？ 09/03 01:24
20F：嘘 yunf : 他会编造答案不就原本程式设计的? 09/03 01:29
21F：→ yunf : 到最後又说他自己生成的 09/03 01:29
22F：推 wizozd84070 : 以前曾把C语言程式码丢给AIGPT查答案(自己会故意丢) 09/03 03:53
23F：→ wizozd84070 : 看完AI给的解答後，信任度大大降低。所以，不是很懂 09/03 03:55
24F：→ wizozd84070 : 为何这麽多人都喜欢开口闭口gpt来gpt去的 09/03 03:55
25F：→ kyosuke1 : AI 虽还不够好，但已经帮很多国高中英文老师省去出 09/03 04:44
26F：→ kyosuke1 : 题时间，我身边有一些朋友就是透过gtp 丢入文章，然 09/03 04:44
27F：→ kyosuke1 : 後出题XD 09/03 04:44
28F：→ houseguy : openAI做得会掰，比较讨喜 09/03 06:34
29F：→ Lhmstu : 求助谁？别的AI吗 09/03 08:24
30F：推 jobintan : M$FT是在偷臭ChatGPT吗… 09/03 08:24
31F：→ DrTech : 事实啊，本来就没那麽好用。一堆没用过chatgpt的人 09/03 08:25
32F：→ DrTech : 在嘴。昨天的chatgpt战胜棋王，设计硬体比台大硕士 09/03 08:25
33F：→ DrTech : 还强的文章，怎麽删文了。 09/03 08:25
34F：推 HaHaPoint : 就说是"生成"式AI 09/03 09:27
35F：推 auir : 现在无法分辨对错，组合出来就给 09/03 09:29
36F：嘘 Weky : 这id洗到这边来了 09/03 11:23
37F：→ twoboy : 唬烂式ai 09/03 12:55
38F：推 GiPaPa : system prompt里面设定一下就会反问user了 09/03 14:07
39F：推 mangoldfish : 人类也是会求证事实的，但目前的AI看起来没有完善 09/03 15:55
40F：→ mangoldfish : 的机制来辨别对错 09/03 15:55
41F：推 su35 : 他不是编造答案 而是选择最像答案 09/03 16:16
42F：推 jason222333 : 不动就要问啊 连这样都要问喔 自己查啊 09/03 17:15
43F：→ jason222333 : 我猜AI最後会被这样对待 09/03 17:15
44F：推 jamesho8743 : 需要AI的AI? 09/03 19:35
45F：→ jamesho8743 : 不编要问谁? 等等我问一下? 不知道不清楚不晓得? 09/03 19:37
46F：推 richies : 你等等我问一下别的AI 09/03 20:58
47F：推 wsad50232 : AI 只有资料汇整 没有对错的观念 09/04 07:12
48F：→ yunf : 瞎子摸象 09/04 09:02
49F：推 Prado4840 : 其实是老黄当年那句话害的：it’s iphone time…. 09/04 09:30
50F：→ Prado4840 : 信以为真的就快下车吧 09/04 09:30