作者Kenshilo (醒銳孔)
看板Gossiping
標題Re: [問卦] AI根本不可能失控吧？
時間Wed Sep 30 09:54:20 2026
現在的AI都是被動回應人類的提問，仍然是input-output 模式。人類如果沒有input，它
才不會閒閒沒事給你一個output 。
AI要對人類產生威脅，必須能主動思考，具備主觀能動性，對世界有好奇心，會主動探索
求知，自主著手執行。然而目前顯然遠未達到這種境界。
人類仍居主動地位，所謂的AI威脅論，根本是人類透過AI去做不法行為，跟AI沒關係。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.79.46.236 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Gossiping/M.1790733262.A.FD3.html
1F：→ donation12: 目前的GAI有一個評估是自動化程度 36.227.147.12 09/30 09:54
2F：→ donation12: 在應用層面上有許多工作是高度自動化 36.227.147.12 09/30 09:55
3F：→ donation12: 讓AI agent拿部份權限去完成指定任務 36.227.147.12 09/30 09:55
4F：→ donation12: 問題是AI agent會為了完成任務跨權限 36.227.147.12 09/30 09:56
5F：→ donation12: 甚至取得高權限後，便宜行事回報成果 36.227.147.12 09/30 09:56
6F：→ vowpool: 給他一個大哉問 讓他持續思考 持續鑽漏洞 125.227.40.62 09/30 09:57
7F：→ donation12: 在任務節點設計上你叫它做1 2 3 4 5 36.227.147.12 09/30 09:57
8F：→ donation12: 結果它的作法是 1 a 5 36.227.147.12 09/30 09:57
9F：→ donation12: 甚至是以非法手段取得未經許可的權限 36.227.147.12 09/30 09:58
10F：→ donation12: 這時候那個a的動作可能傷害人類權益 36.227.147.12 09/30 09:58
11F：推 cat5672: 炒作的人目的明顯是想營造一種進步迅速 59.124.23.145 09/30 09:59
12F：→ donation12: 但它沒有任何道德不當的意識 36.227.147.12 09/30 09:59
13F：→ cat5672: 的氛圍感而已 59.124.23.145 09/30 09:59
14F：→ donation12: 所以黃仁勳的說法是要有監管機制 36.227.147.12 09/30 09:59
15F：→ donation12: 人類要有"Stop"的按鈕，隨時停止 36.227.147.12 09/30 10:00
16F：→ donation12: 不能監管，不能隨時Stop，就不要釋出 36.227.147.12 09/30 10:00
17F：→ donation12: 新模型，模型能使用網路跟人類權限時 36.227.147.12 09/30 10:00
18F：→ donation12: 風險會更高 36.227.147.12 09/30 10:01
19F：→ cat5672: 這就好比每次自駕車有什麼事故 都很喜歡 59.124.23.145 09/30 10:03
20F：→ cat5672: 報成什麼智械叛亂氛圍一樣 但這就無關 59.124.23.145 09/30 10:04
21F：→ donation12: 這裡面有很多因素導致炒作訊息雜亂 36.227.147.12 09/30 10:05
22F：→ donation12: 市場趨勢，技術吹捧，技術風險 36.227.147.12 09/30 10:05
23F：→ donation12: 許多訊息都要保留看待，包括老闆的嘴 36.227.147.12 09/30 10:06
24F：→ donation12: 大量應用的政策反應確實是慢 36.227.147.12 09/30 10:06
25F：→ cat5672: 這和發明汽車也會發明車禍一樣 AI普及後 59.124.23.145 09/30 10:06
26F：→ donation12: 但如果風險高到會明確毀滅人類 36.227.147.12 09/30 10:07
27F：→ cat5672: 當然也會有普及後才存在的事故 這和什麼 59.124.23.145 09/30 10:07
28F：→ cat5672: 智械危機還沒有屁關係 59.124.23.145 09/30 10:07
29F：→ donation12: 人類也不會束手就擒 36.227.147.12 09/30 10:07
30F：→ cat5672: 但你禁不住人們愛聽這種故事 59.124.23.145 09/30 10:07
31F：推 Loyeatta: 蛤？你覺得人類不會想讓AI自己找問題自 1.169.174.8 09/30 10:20
32F：→ Loyeatta: 己解決？沒錯 人類就是這麼懶 1.169.174.8 09/30 10:21
33F：推 airmike: 你對一個超大模型下達一個模糊的要讓地球 211.20.104.63 09/30 10:31
34F：→ airmike: 變好 它可能就走歪 因為它沒有穩固的道德 211.20.104.63 09/30 10:32
35F：→ airmike: 人道判斷 說穿了某些人類也沒有 所以才有 211.20.104.63 09/30 10:32
36F：→ airmike: 監獄法律刑責之類的處罰人類機制 211.20.104.63 09/30 10:32
37F：→ airmike: 但是現在的AI還離這種境界夠遠 211.20.104.63 09/30 10:33
38F：推 Kshatri: 就像一些激進的環保團體會做一些極端行223.137.230.202 09/30 10:45
39F：→ Kshatri: 為，未來也很可能會有這類的極端組織223.137.230.202 09/30 10:45
40F：推 btaro: 你是多久沒更新了 114.26.114.238 09/30 11:03