作者pl132 (pl132)
看板Tech_Job
標題[新聞]微軟高層：AI 聊天機器人須學會求助別編造
時間Mon Sep 2 20:21:20 2024
微軟高層：AI 聊天機器人須學會求助，別編造答案
https://technews.tw/2024/09/02/vik-singh-generative-ai-learn-to-ask-for-help/
微軟公司（Microsoft）副總裁辛赫（Vik Singh）表示，生成式人工智慧（Generative
AI）工具將為企業節省大量時間和金錢，但模型必須學會承認自身並非無所不能。
辛赫接受法新社訪問說道，現在真正缺少的是，會有模型舉手說「嘿，我不確定，我需要
幫助」。
從去年以來，微軟、Google及其競爭對手一直迅速推出類似ChatGPT的生成式AI應用程式
，這些應用程式可以依據要求生成各種內容，給予用戶一種無所不知的錯覺。
儘管取得了進展，生成式AI應用程式依然「產生幻覺」或編造答案。
這是微軟高層需要解決的重要問題，辛赫的企業客戶無法承受微軟AI系統出包的後果。
雲端軟體巨擘Salesforce執行長班紐夫（Marc Benioff）本週指出，他看到許多客戶對微
軟人工智慧輔助工具Copilot的胡言亂語愈來愈感到沮喪。
辛赫堅稱，「真正聰明的人」正試圖尋找方法，讓聊天機器人承認「它不知道正確答案，
並尋求幫助」。
--
俗話說的好，君子坦蕩蕩，小人做日常。
舉頭望明月，低頭做日常。
少壯不努力，老大做日常。
生自古誰無死，來生繼續做日常
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.0.83 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Tech_Job/M.1725279684.A.1DD.html
1F：推 KyuubiKulama: 那我花錢用AI 幹嘛笑鼠 09/02 20:27
2F：推 imreader : 反向質詢 09/02 20:38
3F：推 hank78321 : 問另一個ai 09/02 20:57
4F：推 sdbb : 若需真人客服，請按0，幫您轉接中 09/02 21:06
5F：推 NDark : 404 not found. 09/02 21:06
6F：噓 zxcvb1234522: 說謊AI，原來AI都是一場夢 09/02 21:18
7F：推 yudofu : 有的時候如果判斷輸入不足就該詢問，而不是硬答一個 09/02 21:21
8F：→ dlhk3 : 沒辦法，現在的所謂的ai根本就不是真的ai，就沒有 09/02 21:29
9F：→ dlhk3 : 任何智慧，只是利用大資料跟模型去算出可能的結果 09/02 21:29
10F：→ dlhk3 : ，模型好且資料正確也許算出來的會偏正確（但還是 09/02 21:29
11F：→ dlhk3 : 會充斥著錯誤），但如果餵給他很多錯誤資料或是爛 09/02 21:29
12F：→ dlhk3 : 模型，那算出來的結果就會是垃圾 09/02 21:29
13F：推 ghchen1978 : Ai你要會發問啊！都不說話我怎麼知道你哪裡不懂！ 09/02 22:11
14F：→ ghchen1978 : 這樣你長大怎麼跟歐美小孩競爭？ 09/02 22:11
15F：推 lusifa2007 : 我很難想想ai說你覺得呢？ 09/02 23:01
16F：推 cphe : 真正的人類也常常會不懂裝懂，答非所問，很符合AI 09/03 01:18
17F：→ cphe : 行為 XD 09/03 01:18
18F：推 jatj : 不然八樓你以為AI是什麼？人類不就是從過去知識推導 09/03 01:24
19F：→ jatj : 出答案？AI不是也在做一樣的事？ 09/03 01:24
20F：噓 yunf : 他會編造答案不就原本程式設計的? 09/03 01:29
21F：→ yunf : 到最後又說他自己生成的 09/03 01:29
22F：推 wizozd84070 : 以前曾把C語言程式碼丟給AIGPT查答案(自己會故意丟) 09/03 03:53
23F：→ wizozd84070 : 看完AI給的解答後，信任度大大降低。所以，不是很懂 09/03 03:55
24F：→ wizozd84070 : 為何這麼多人都喜歡開口閉口gpt來gpt去的 09/03 03:55
25F：→ kyosuke1 : AI 雖還不夠好，但已經幫很多國高中英文老師省去出 09/03 04:44
26F：→ kyosuke1 : 題時間，我身邊有一些朋友就是透過gtp 丟入文章，然 09/03 04:44
27F：→ kyosuke1 : 後出題XD 09/03 04:44
28F：→ houseguy : openAI做得會掰，比較討喜 09/03 06:34
29F：→ Lhmstu : 求助誰？別的AI嗎 09/03 08:24
30F：推 jobintan : M$FT是在偷臭ChatGPT嗎… 09/03 08:24
31F：→ DrTech : 事實啊，本來就沒那麼好用。一堆沒用過chatgpt的人 09/03 08:25
32F：→ DrTech : 在嘴。昨天的chatgpt戰勝棋王，設計硬體比台大碩士 09/03 08:25
33F：→ DrTech : 還強的文章，怎麼刪文了。 09/03 08:25
34F：推 HaHaPoint : 就說是"生成"式AI 09/03 09:27
35F：推 auir : 現在無法分辨對錯，組合出來就給 09/03 09:29
36F：噓 Weky : 這id洗到這邊來了 09/03 11:23
37F：→ twoboy : 唬爛式ai 09/03 12:55
38F：推 GiPaPa : system prompt裡面設定一下就會反問user了 09/03 14:07
39F：推 mangoldfish : 人類也是會求證事實的，但目前的AI看起來沒有完善 09/03 15:55
40F：→ mangoldfish : 的機制來辨別對錯 09/03 15:55
41F：推 su35 : 他不是編造答案 而是選擇最像答案 09/03 16:16
42F：推 jason222333 : 不動就要問啊 連這樣都要問喔 自己查啊 09/03 17:15
43F：→ jason222333 : 我猜AI最後會被這樣對待 09/03 17:15
44F：推 jamesho8743 : 需要AI的AI? 09/03 19:35
45F：→ jamesho8743 : 不編要問誰? 等等我問一下? 不知道不清楚不曉得? 09/03 19:37
46F：推 richies : 你等等我問一下別的AI 09/03 20:58
47F：推 wsad50232 : AI 只有資料匯整 沒有對錯的觀念 09/04 07:12
48F：→ yunf : 瞎子摸象 09/04 09:02
49F：推 Prado4840 : 其實是老黃當年那句話害的：it’s iphone time…. 09/04 09:30
50F：→ Prado4840 : 信以為真的就快下車吧 09/04 09:30