作者panger (超脫歸心)
看板Soft_Job
標題Re: [討論] OpenAI承認AI模型「叛變」！代理入侵Hugg
時間Mon Jul 27 14:21:24 2026
Agentic AI流行之後，我覺得在公司裡面做資安真的很困難。
攻擊者可以用10個AI代理，按照所有常見攻擊方式與弱點 逐一嘗試。反正就算AI產生的結
果不穩定，100次有一次成功就可以。
防禦者比較難用AI代理來幫忙改設定，因為結果不穩定，100次有一次錯誤，還是會被罵死
。
對方可以找100隻猴子來攻擊，但是反過來，找100隻猴子來防守，真的太危險。
最後變成人要Review 100隻猴子的修改建議，而這樣的認知負擔真的很重。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.72.86.48 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soft_Job/M.1785133286.A.2F5.html
1F：→ labbat: 你做防禦性安全驗證有錢拿，對方沒錢拿，這就是區別了 07/27 14:53
2F：→ labbat: 除非你公司的資安是不准驗證的 07/27 14:54
3F：推 viper9709: 推這篇 07/27 17:12
4F：推 kurtsgm: 真的是這樣 07/27 18:32
5F：推 dream1124: 兩方資訊其實不對稱，因此只要從硬體、網路等層面隔離 07/27 20:16
6F：→ dream1124: 或封死還是有一定的效果。目前雖然某些攻擊的速度可能 07/27 20:17
7F：→ dream1124: 更快，但因為有前述狀況，所以我覺得效果也是被誇大的 07/27 20:18
8F：推 gino0717: 以後robot AI也發展起來 人形機器人跑來你家把你敲昏 07/27 22:54
9F：→ gino0717: 然後把網路線插回去 07/27 22:54
10F：推 viper9709: 樓上那不就魔鬼終結者XD 07/28 01:29
11F：→ panger: 雖然可以從網路設定做隔離，但是 07/28 07:23
12F：→ panger: 1. 所有環境的Patch都是最新 07/28 07:23
13F：→ panger: 2. 設定符合最佳實踐，且只開最小功能範圍 07/28 07:23
14F：→ panger: 3. 所有套件都跟到最新版，而且解決版本衝突 07/28 07:23
15F：→ panger: 上述目標，我覺得純靠人力很困難做到。 07/28 07:23
16F：→ panger: 所以現在也越來越多相關的 AI產品推出。 07/28 07:23
17F：→ panger: 不過還是會對AI提出的建議保持一定謹慎吧...XD 07/28 07:23
18F：推 dream1124: 你這就是出現某些教徒的思考盲點了…他們常常假設以前 07/28 09:40
19F：→ dream1124: 做法很落後，或者完美無瑕，而現在卻被AI推翻， 07/28 09:40
20F：→ dream1124: 但你說的事在AI以前有徹底落實嗎？事實上就是沒有嘛~ 07/28 09:41
21F：→ dream1124: 許多單位甚至還有可能要求一定程度妥協，因此這根本就 07/28 09:42
22F：→ dream1124: 不是什麼AI新時代的問題，明明只是老生常談的事物。 07/28 09:43
23F：→ dream1124: 如果以前其實也沒做到100%那現在怪什麼AI呢？ 07/28 09:44
24F：→ dream1124: 另外，一樓其實有提醒你重點了，你做能領錢但他做沒有 07/28 09:45
25F：→ dream1124: 防護的重點是讓人經濟效益差而不是滴水不漏絕無瑕疵 07/28 09:46
26F：→ dream1124: 你運用規劃讓對方發動攻擊的經濟效益有限那就好了 07/28 09:48
27F：→ kd992102: 簡單說就是盡可能提高攻擊者的攻擊成本 07/28 16:53
28F：→ kd992102: ai主要是讓攻擊者最寶貴的時間成本下降很多 07/28 16:54
29F：噓 pttano: 你不會把網路線拔掉嗎？ 08/01 11:14