作者Kenshilo (醒锐孔)
看板Gossiping
标题Re: [问卦] AI根本不可能失控吧？
时间Wed Sep 30 09:54:20 2026
现在的AI都是被动回应人类的提问，仍然是input-output 模式。人类如果没有input，它
才不会闲闲没事给你一个output 。
AI要对人类产生威胁，必须能主动思考，具备主观能动性，对世界有好奇心，会主动探索
求知，自主着手执行。然而目前显然远未达到这种境界。
人类仍居主动地位，所谓的AI威胁论，根本是人类透过AI去做不法行为，跟AI没关系。
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 42.79.46.236 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Gossiping/M.1790733262.A.FD3.html
1F：→ donation12: 目前的GAI有一个评估是自动化程度 36.227.147.12 09/30 09:54
2F：→ donation12: 在应用层面上有许多工作是高度自动化 36.227.147.12 09/30 09:55
3F：→ donation12: 让AI agent拿部份权限去完成指定任务 36.227.147.12 09/30 09:55
4F：→ donation12: 问题是AI agent会为了完成任务跨权限 36.227.147.12 09/30 09:56
5F：→ donation12: 甚至取得高权限後，便宜行事回报成果 36.227.147.12 09/30 09:56
6F：→ vowpool: 给他一个大哉问 让他持续思考 持续钻漏洞 125.227.40.62 09/30 09:57
7F：→ donation12: 在任务节点设计上你叫它做1 2 3 4 5 36.227.147.12 09/30 09:57
8F：→ donation12: 结果它的作法是 1 a 5 36.227.147.12 09/30 09:57
9F：→ donation12: 甚至是以非法手段取得未经许可的权限 36.227.147.12 09/30 09:58
10F：→ donation12: 这时候那个a的动作可能伤害人类权益 36.227.147.12 09/30 09:58
11F：推 cat5672: 炒作的人目的明显是想营造一种进步迅速 59.124.23.145 09/30 09:59
12F：→ donation12: 但它没有任何道德不当的意识 36.227.147.12 09/30 09:59
13F：→ cat5672: 的氛围感而已 59.124.23.145 09/30 09:59
14F：→ donation12: 所以黄仁勳的说法是要有监管机制 36.227.147.12 09/30 09:59
15F：→ donation12: 人类要有"Stop"的按钮，随时停止 36.227.147.12 09/30 10:00
16F：→ donation12: 不能监管，不能随时Stop，就不要释出 36.227.147.12 09/30 10:00
17F：→ donation12: 新模型，模型能使用网路跟人类权限时 36.227.147.12 09/30 10:00
18F：→ donation12: 风险会更高 36.227.147.12 09/30 10:01
19F：→ cat5672: 这就好比每次自驾车有什麽事故 都很喜欢 59.124.23.145 09/30 10:03
20F：→ cat5672: 报成什麽智械叛乱氛围一样 但这就无关 59.124.23.145 09/30 10:04
21F：→ donation12: 这里面有很多因素导致炒作讯息杂乱 36.227.147.12 09/30 10:05
22F：→ donation12: 市场趋势，技术吹捧，技术风险 36.227.147.12 09/30 10:05
23F：→ donation12: 许多讯息都要保留看待，包括老板的嘴 36.227.147.12 09/30 10:06
24F：→ donation12: 大量应用的政策反应确实是慢 36.227.147.12 09/30 10:06
25F：→ cat5672: 这和发明汽车也会发明车祸一样 AI普及後 59.124.23.145 09/30 10:06
26F：→ donation12: 但如果风险高到会明确毁灭人类 36.227.147.12 09/30 10:07
27F：→ cat5672: 当然也会有普及後才存在的事故 这和什麽 59.124.23.145 09/30 10:07
28F：→ cat5672: 智械危机还没有屁关系 59.124.23.145 09/30 10:07
29F：→ donation12: 人类也不会束手就擒 36.227.147.12 09/30 10:07
30F：→ cat5672: 但你禁不住人们爱听这种故事 59.124.23.145 09/30 10:07
31F：推 Loyeatta: 蛤？你觉得人类不会想让AI自己找问题自 1.169.174.8 09/30 10:20
32F：→ Loyeatta: 己解决？没错 人类就是这麽懒 1.169.174.8 09/30 10:21
33F：推 airmike: 你对一个超大模型下达一个模糊的要让地球 211.20.104.63 09/30 10:31
34F：→ airmike: 变好 它可能就走歪 因为它没有稳固的道德 211.20.104.63 09/30 10:32
35F：→ airmike: 人道判断 说穿了某些人类也没有 所以才有 211.20.104.63 09/30 10:32
36F：→ airmike: 监狱法律刑责之类的处罚人类机制 211.20.104.63 09/30 10:32
37F：→ airmike: 但是现在的AI还离这种境界够远 211.20.104.63 09/30 10:33
38F：推 Kshatri: 就像一些激进的环保团体会做一些极端行223.137.230.202 09/30 10:45
39F：→ Kshatri: 为，未来也很可能会有这类的极端组织223.137.230.202 09/30 10:45
40F：推 btaro: 你是多久没更新了 114.26.114.238 09/30 11:03