作者jacknavarra (阿姆羅)
看板Stock
標題Re: [新聞] 五角大廈將Anthropic列入黑名單,標記為供
時間Fri Mar 13 01:03:20 2026
事後回朔來看, 只能說Anthropic的執行長Dario Amodei真有先見之明
https://abmedia.io/anthropics-ceo-explains-why-he-took-on-the-pentagon
Anthropic執行長：Claude不足應用於軍事，期待簽署更明確條款
===
這次美國攻打伊朗也是大量運用AI
上一次攻打委瑞內拉的軍事行動上, AI帶來極好的成效
(這也成為Dario Amodei與美國國防部鬧翻的導火線)
而這次美國攻打伊朗更是運用AI輔助去做情報識別判斷
https://x.com/AndrewCurran_/status/2030367080336470208
華爾街日報
節錄：
美國陸軍第18空降軍在一系列名為「猩紅之龍」的持續演習中，使用資料分析公司帕蘭提
爾科技的軟體。喬治城大學「安全與新興技術中心」資深研究員艾蜜莉亞・普羅巴斯科表
示，這次行動的效率追平了美軍在伊拉克戰爭時創下的紀錄——那是軍方歷來效率最高的
目標鎖定行動之一。
她指出，得益於人工智慧技術，第18空降軍僅用20名人員就完成了這項工作；相比之下，
在伊拉克戰爭時期，執行同樣任務需要超過2,000名人員。
===
看來AI輔助節省了人力與時間成本, 而讓美軍得以快速辨別作戰目標
甚至有可能輔助進行作戰計畫安排(推測)
然而，美軍這次轟炸目標發生了誤判
把伊朗女子小學判斷為軍事目標, 進而用戰斧飛彈轟炸了小學
導致上百名小學生身亡, 一開始川普極力否認是美軍炸的
把責任歸咎於伊朗自己炸的
但是伴隨越來越多證據出來, 證明就是美軍炸的
接著媒體開始質疑這是因為AI判讀發生誤判
之後判讀結果交給那20名人類做最終確認的時候,
卻又沒有把關到這一層, 於是放行了判讀結果, 准許轟炸目標
最終導致悲劇發生
然後這時候要問, 雖然是軍規AI系統抑制了幻覺發生的可能
但是就算是那低於1%的誤判機率, 但最終導致悲劇發生的時候
誰要負責擔起政治與軍事責任??
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.166.205.73 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1773335003.A.D40.html
1F：推 A0908 : 這篇正解，Anthropic執行長是對的，AI判斷的準確性 03/13 01:06
2F：→ A0908 : 早晚，甚至已經超越人類，但人類存在的價值就是拿 03/13 01:06
3F：→ A0908 : 來扛責任的 03/13 01:06
4F：推 HiuAnOP : 挑釁戰爭的那一方QQ 03/13 01:07
5F：推 necrophagist: 沒先聲明 搞不好川普還順勢把這一坨都怪它模型身上 03/13 01:15
6F：噓 hidalgo22976: 戰爭，伊朗自己都殺了5萬個上街的年輕人，沒什麼好 03/13 01:16
7F：→ hidalgo22976: 負責的 03/13 01:16
8F：→ Jameshunter : 越洗越高1W>2.5W>5W 03/13 01:19
9F：噓 uyrmb47 : 媒體 猜測 ??? 03/13 01:22
10F：推 shadow0326 : Anthropic交接期是半年，現在依然是Anthropic供應戰 03/13 01:22
11F：→ shadow0326 : 爭部的AI使用，你如果說是AI的錯，那一樣是A社弄得 03/13 01:22
12F：推 dayuer : 哪天ai判斷白宮是敵方基地，炸下去就有解了 03/13 01:23
13F：→ matlab1106 : 半張照片都沒有就5萬人了 厲害吧 03/13 01:23
14F：噓 keyofdejavu : 這跟AI什麼關係，如果人類判斷要炸炸錯了，說法差哪 03/13 01:31
15F：→ keyofdejavu : "誰要負責擔起政治與軍事責任??"，你這句一樣能用 03/13 01:31
16F：→ hidalgo22976: 共產黨的回答方式跟川寶一摸一樣，厲害了 03/13 01:38
17F：推 SiFox : 用上AI，就是拿來卸責的呀！軍方、政客，狡猾得很 03/13 01:43
18F：→ SiFox : 唉呀，程式出錯，我們無意炸死上百位國小女學生 03/13 01:45
19F：噓 strlen : 又一個軟弱的奧本海默 滾吧 03/13 01:55
20F：→ strlen : 賣菜刀的害怕菜刀做出來被殺人犯拿去殺人喔 03/13 01:56
21F：→ strlen : IGRC40年來強姦殺害多少未成年伊朗女性你要不要算算 03/13 01:57
22F：→ ch410773 : 樓上介意算出來我們看看嗎？ 03/13 02:01
23F：→ jacknavarra : 病人MRI掃描數據醫院交給AI判讀，說病人罹患睪丸癌 03/13 02:04
24F：→ jacknavarra : 應該要儘速切除，於是醫院火速切除，事後發現誤判 03/13 02:04
25F：→ jacknavarra : ，病人只是疝氣，根本沒有癌細胞，那麼病人應該要 03/13 02:04
26F：→ jacknavarra : 告醫院還是告AI公司？ 03/13 02:04
27F：推 stlinman : AI會出錯，人就不會出錯？ 重點是機制！ 03/13 02:04
28F：噓 madeinheaven: 誤炸是美國情報問題吧 跟AI沒啥關係 03/13 02:10
29F：推 BILLBADY : 所以打了學校會怎麼樣嗎？哪件事俄羅斯沒幹過，誰 03/13 02:26
30F：→ BILLBADY : 處理了俄羅斯？ 03/13 02:26
31F：→ nakayamayyt : 反正也不是第一次炸到平民小孩 03/13 02:40
32F：→ Jameshunter : 一次幹死165個小學生的這倒是在俄烏戰場沒見過 03/13 02:41
33F：噓 yunf : 少在那屁 03/13 02:51
34F：→ yunf : 故意把錯推給ai來增加執行力 03/13 02:52
35F：→ yunf : 你以為ai是誤判其實他只是在背鍋而且不會反駁 03/13 02:54
36F：→ yunf : 他會讓你調資料嗎？ 03/13 02:54
37F：→ yunf : 你導入就要負全責 03/13 02:56
38F：→ yunf : 推給一個程式錯誤也太好騙 03/13 02:57
43F：→ strlen : 去年那波隨便也殺了兩百多個 支持伊朗的 都是人渣 03/13 03:02
44F：→ strlen : 革命衛隊魚肉鄉民時 你們在哪裡 03/13 03:03
45F：→ ferb : 我們在哪？ 03/13 03:05
46F：→ ferb : 到底是想講什麼？革命衛隊是屠殺？美國誤殺是必要 03/13 03:07
47F：→ ferb : 之惡？ 03/13 03:07
48F：→ ferb : 還是國小女生等於革命衛隊？ 03/13 03:11
49F：→ ferb : 還是你就是認為不起而反抗革命衛隊，本來就是另一 03/13 03:15
50F：→ ferb : 種姑息支持，所以被另一個想推翻的勢力炸死剛好？ 03/13 03:15
51F：→ ferb : 屠城時的下令者說不是不脫這麽想法？ 03/13 03:17
52F：→ tinybunny : 狗勾沒睪丸癌醫生也是建議切除沒差惹 03/13 05:10
53F：→ tinybunny : 會有人想還狗勾公道嗎? 03/13 05:11
54F：推 rxsmalllove : 省省吧 戰爭開打還要講仁義道德 03/13 06:53
55F：→ jjjj222 : 打仗誤傷還要人負責, 我真的受不了這些沒腦的.. 03/13 07:05
56F：→ jjjj222 : 對誰負什麼責? 03/13 07:06
57F：推 dog41125 : 有些人腦子已經被洗爛了，要求俄國不能炸學校但是 03/13 07:09
58F：→ dog41125 : 美國可以，要求俄國要仁義道德打仗美國不用 03/13 07:09
59F：→ jjjj222 : 還是以後上戰場, 一人抱一個嬰兒, 誰打到誰輸? 03/13 07:09
60F：→ jjjj222 : 要求俄羅斯不能炸學校的也是沒腦, 都是 03/13 07:10
61F：→ jjjj222 : 打仗就打仗, 懷疑有敵人就是處理, 就這麼簡單 03/13 07:11
62F：→ jorden : AI判讀 人類監督這關出問題 03/13 07:13
63F：→ jjjj222 : 要求俄羅斯仁義道德的八成也是同一群左膠白痴 03/13 07:14
66F：→ LoveSports : 有興趣的板友可以看這三篇 戰爭部在戰爭前就砍了監 03/13 07:20
67F：→ LoveSports : 督機制，包括保護平民的單位跟三軍司法官。 03/13 07:20
68F：推 qaz27966 : 情報落後導致的悲劇幹嘛硬要套在AI身上？你收到一 03/13 07:20
69F：→ qaz27966 : 份清單跟你說下一道菜是龍蝦，然後你餵給AI，AI也 03/13 07:20
70F：→ qaz27966 : 會跟你說下一道是龍蝦，所以你就閉眼吃，結果上來 03/13 07:20
71F：→ qaz27966 : 的是陀XX，也是AI的錯嗎 03/13 07:20
72F：→ LoveSports : 陸海空"軍法官"高層都被整頓過了，甚至安插私人律師 03/13 07:21
73F：→ LoveSports : 在海軍當軍法官。 03/13 07:21
74F：→ jjjj222 : AI告訴我某個地方99%是敵人, 我一定往死裡打 03/13 07:21
75F：→ LoveSports : 軍法官的功能是，情報官或AI提供的打擊目標，軍法官 03/13 07:21
76F：→ jjjj222 : 那1%不是的, 抱歉你就是倒霉被誤傷 03/13 07:22
77F：→ LoveSports : 做是否違反戰爭法的審核，過了才給指揮官批准發射。 03/13 07:22
78F：→ LoveSports : 記者會說前24小時靠AI打了一千多個目標，人類決策 03/13 07:22
79F：→ LoveSports : 時間明顯不足，上述人類審查迴圈可能會失效。 03/13 07:22
80F：→ LoveSports : 簡言之幾乎"接近"自主攻擊 03/13 07:23
81F：→ LoveSports : 另一方面報導也指出人類餵給AI的資訊可能有誤 03/13 07:23
82F：→ LoveSports : 基地設施已經改成學校卻沒更新目標定義 03/13 07:23
83F：推 qaz27966 : 問題根源在於情報一開始就有錯誤，不是因為用了AI, 03/13 07:23
84F：→ qaz27966 : 反而應該是以後針對攻擊目標是不是要利用AI搭配衛 03/13 07:23
85F：→ qaz27966 : 星影像之類的，加強辨識，避免誤擊才是正確的吧。 03/13 07:23
86F：→ qaz27966 : 難道你有辦法要求敵人不要這樣運用AI? 03/13 07:23
87F：→ LoveSports : 這部分還在查，但如果屬實就是"垃圾進垃圾出" 03/13 07:24
88F：→ LoveSports : 給AI錯誤資訊當然誤判那是值得打擊的目標 03/13 07:24
89F：推 qaz27966 : 怎麼會把這場悲劇跟因為缺乏監督畫上等號，然後簡 03/13 07:26
90F：→ qaz27966 : 化成都是因為沒人監督就用AI打仗造成的。目標、手 03/13 07:26
91F：→ qaz27966 : 段與結論之間似乎像是拼裝車一般南轅北轍 03/13 07:26
92F：→ jjjj222 : 不要說99%了, 就算只有80%, 1/5機會誤傷, 我也照打 03/13 07:26
93F：→ qaz27966 : 我贊成任何攻擊都應該要強化監督，但這種悲劇問題 03/13 07:27
94F：→ qaz27966 : 不在於工具，在於怎麼用好工具去避免類似的情況。 03/13 07:27
95F：→ qaz27966 : 這種一步到位的結論看似精闢其實根本經不起推敲 03/13 07:27
96F：推 yeay : 回MRI錯誤負責的問題，現在就算是醫師判斷錯了誰負 03/13 07:28
97F：→ yeay : 責？MRI機器本身剛好有問題誰負責？甚至檔案錯置誰 03/13 07:28
98F：→ yeay : 負責？現在一樣有類似的問題。 03/13 07:28
99F：→ yeay : AI輔助判斷就是最後確認者的責任，除非AI全程判斷加 03/13 07:28
100F：→ yeay : 開刀都不經人手。病患找醫院負責，醫院找AI公司求償 03/13 07:28
101F：→ yeay : 。 03/13 07:28
102F：→ LoveSports : 戰爭部長討厭軍法官認為綁手綁腳，還罵軍法官是白癡 03/13 07:29
103F：→ LoveSports : 相關新聞昨天外媒也有報導，有興趣的人可以找來看 03/13 07:30
104F：推 qaz27966 : 再者，伊朗打海灣國家，他們難道也是用AI決定打誰 03/13 07:30
105F：→ qaz27966 : 嗎？他們八成是有類似軍法官的監督機制，那為什麼 03/13 07:30
106F：→ qaz27966 : 老是在打民用設施？這樣攤開看，其實你就知道問題 03/13 07:30
107F：→ qaz27966 : 並不是在AI身上 03/13 07:30
108F：推 yeay : 再來，建議原po如果真的要開刀，盡量還是尋求第二意 03/13 07:31
109F：→ yeay : 見，再做個檢查二次確認之類的。 03/13 07:31
110F：→ LoveSports : 短短數十秒要辦到:情報官/AI=>軍法官=>指揮官 03/13 07:31
111F：→ LoveSports : 這樣飛彈發射審查環節根本是不可能的 03/13 07:31
112F：→ LoveSports : 中間一定有省略才能辦到前24小時打一千多個目標 03/13 07:31
113F：→ LoveSports : 講白點射飛彈變成在打電動，這是很嚴重的問題 03/13 07:31
114F：→ jjjj222 : 有軍法官是白痴這件事, 我完全認同, 笑死 03/13 07:32
115F：→ LoveSports : AI基建還是會持續，這些課題是AI時代下大家得面對的 03/13 07:32
116F：推 qaz27966 : 說真的，Anthropic這波只想要佔據道德高地，最好是 03/13 07:32
117F：→ qaz27966 : 以後其他國家都不會用自家AI應用打仗，說白一點就 03/13 07:32
118F：→ qaz27966 : 是矯情 03/13 07:32
119F：→ jjjj222 : 到底是在打仗還是玩家家酒 03/13 07:33
120F：→ LoveSports : 剛才貼那三篇代碼可以看一下 濫殺平民更難贏得戰爭 03/13 07:34
121F：→ LoveSports : 那是軍方的人分析的 03/13 07:34
122F：推 LoveSports : 二戰各國用戰爭法教訓了日本定罪很多戰犯還丟原子彈 03/13 07:35
123F：→ LoveSports : 美國人不可能容許自己國家淪為像二戰日本那樣殘暴 03/13 07:36
124F：→ LoveSports : 否則就等於承認自己國家也值得被丟核彈教訓 03/13 07:36
125F：推 NANJO1569 : 把那些無辜被炸死的平民說的跟遊戲npc被抹除一樣無 03/13 07:36
126F：→ NANJO1569 : 關緊要也是很有趣，該恭喜跟那些無良掌權者一個思考 03/13 07:36
127F：→ NANJO1569 : 模式的高度!^^ 03/13 07:37
128F：→ qaz27966 : 你講太遠了，哪怕是一般公司都會有人覺得稽核很煩 03/13 07:39
129F：→ qaz27966 : ，軍法官會讓戰爭部長覺得很麻煩就代表人家有在做 03/13 07:39
130F：→ qaz27966 : 事 03/13 07:39
131F：推 LoveSports : 有一篇國外記者測試，24小時打一千多個目標，決策時 03/13 07:40
132F：→ LoveSports : 間大概20~45秒 03/13 07:40
133F：→ LoveSports : 情報官、軍法官、指揮官都得審查，時間明顯不夠 03/13 07:41
134F：推 LoveSports : 補充一件事 2/23 Anthropic的公告有提到對岸蒸餾了 03/13 07:43
135F：→ LoveSports : Claude的推理邏輯 03/13 07:44
136F：→ LoveSports : 如果以後有的國家拿"接近"AI自主攻擊的軍用系統對付 03/13 07:44
137F：→ LoveSports : 台灣與盟國 我個人是會覺得很可怕 03/13 07:44
138F：→ NANJO1569 : 所以Anthropic才主張有效的human in the loop，並認 03/13 07:47
139F：→ NANJO1569 : 為現在的AI還沒有好的不會出錯，而化身為自動武器 03/13 07:47
140F：→ NANJO1569 : 一旦出錯就會是致命的! 03/13 07:48
141F：推 direct : 說美國不可能的，那現在發生了，誰負責 03/13 07:54
142F：→ water6 : 你不用別人也會用，a公司的問題是出自他是有什麼資 03/13 07:54
143F：→ water6 : 格來評斷什麼是合法什麼是非法，民選嗎？就完全是 03/13 07:54
144F：→ water6 : 公司高層的意志而已 03/13 07:54
145F：→ jacknavarra : 講到醫療都知道要去徵求第二意見判讀了，那麽攸關 03/13 08:01
146F：→ jacknavarra : 人命的軍事情報判讀有沒有徵求第二次意見判讀？還 03/13 08:01
147F：→ jacknavarra : 是說軍方就全然信任AI，一千多個目標就全部快速給 03/13 08:01
148F：→ jacknavarra : 過，人類不需要仔細的參與第二次判斷過程，能夠全 03/13 08:01
149F：→ jacknavarra : 然信任AI提供的判斷，這不危險嗎？人會出錯，每個 03/13 08:01
150F：→ jacknavarra : 環節都有可能會出錯，不用設定除錯檢查機制嗎？ 03/13 08:01
151F：→ jacknavarra : 執行長就是擔心這個環節問題而抗議，寧願被列入黑 03/13 08:03
152F：→ jacknavarra : 名單 03/13 08:03
153F：推 LoveSports : A公司可能是發現現行法律下能"接近"AI自主攻擊 03/13 08:08
154F：→ LoveSports : "依法行事"萬一出事了 社會還是會檢視科學家的道德 03/13 08:10
155F：噓 pikoto : 忍不住 03/13 08:10
156F：→ LoveSports : 責任 他們有能力比政府官員與百姓更超前看到問題 03/13 08:10
157F：→ LoveSports : 也有不揹鍋的權利 戰爭部在這場戰開打後還在動監督 03/13 08:11
158F：→ behappy0422 : 伊朗人民被政府殺完還要被所謂來拯救他們的外國炸 03/13 08:11
159F：→ behappy0422 : ，完全被雙巴，有夠慘 03/13 08:11
160F：→ LoveSports : 方面的人事喔 03/13 08:11
161F：→ jjjj222 : anthropic做不做任何事都是他的自由 03/13 08:13
162F：→ jjjj222 : 在戰場上晚一秒出手的就是死, 白痴才在那邊講道德 03/13 08:14
163F：→ jjjj222 : 拿醫療來比到底是在想啥, 你晚一秒醫病人就會死? 03/13 08:14
164F：→ jjjj222 : 用點腦好不好 03/13 08:15
165F：推 LoveSports : 對平民顧慮不夠，現在沒有百姓要蜂起站出來了 03/13 08:19
166F：噓 catboost : 八卦支這都能扯 03/13 08:19
167F：→ LoveSports : 革命衛隊從第一天那小學被炸之後就拿來號召 03/13 08:19
168F：→ LoveSports : 昨天新領導人就職聲明也提到Minab的事情(小學所在) 03/13 08:19
169F：→ LoveSports : 說要為了Minab的人復仇 03/13 08:20
170F：→ LoveSports : 現在底層誰敢出來反抗就是背叛那些被殺的孩子 03/13 08:20
171F：→ LoveSports : 還有以美有在轟炸監獄喔 被關的美國人受訪證言 03/13 08:20
172F：→ catboost : 沒有股點 03/13 08:20
173F：→ LoveSports : 之前那些上街抗議的也受傷 菁英都在那裡面喔 03/13 08:21
174F：→ LoveSports : 不顧平民的下場就是現在這樣 戰爭不知何時能收尾 03/13 08:21
175F：→ LoveSports : 連帶影響到股民QQ 03/13 08:21
176F：推 laba5566 : 川粉大概無視川普強姦更多未成年 ㄎㄎ 03/13 08:25
177F：噓 pigpeachegg : 某樓說伊朗殺自己人沒照片的就跟去新疆說沒看到集中 03/13 08:25
178F：→ pigpeachegg : 營一樣 03/13 08:25
179F：推 jeff22aa22 : 電腦分析 百分之78是A 百分之20是四 百分之5是十 03/13 08:29
180F：→ jeff22aa22 : 開張六給他 讓他贏莊家100塊 03/13 08:29
181F：→ qaz27966 : human in loop是一件事，使用AI在戰事中，是另一件 03/13 08:33
182F：→ qaz27966 : 事。我贊成human in loop，但你要AI不在戰事中基本 03/13 08:33
183F：→ qaz27966 : 上是在把手腳綁起來等人家揍你 03/13 08:33
184F：推 skying85 : 鷹眼 演過了 03/13 08:34
185F：推 LoveSports : 使用AI的配套措施 還有相關法律要改 初期有些人會成 03/13 08:37
186F：→ LoveSports : 為犧牲品 03/13 08:37
187F：→ LoveSports : 希望這波不會燒太大換我們被軍用AI當成瞄準目標 03/13 08:39
188F：推 ohlong : 關鍵報告都是真der 03/13 08:40
189F：推 jackgn : 有些人就是愛槓，革命衛隊殺了幾萬人，然後有些人 03/13 08:48
190F：→ jackgn : 抓著幾百人猛打，不把革命衛隊清掉，以後還會死更多 03/13 08:48
191F：→ pov : 判AI死刑 03/13 09:12
192F：推 gooddogleg : 就是過時情報..是人一樣誤會炸下去啊 03/13 09:18
193F：推 atpx : 從商業來說沒錯、你無法保證100%正確的情況下、會 03/13 09:25
194F：→ atpx : 造成高度損失（人命），本來就要有另一層保護機制 03/13 09:25
195F：→ atpx : 。沒有那就不要做這筆、不然被告到倒 03/13 09:25
196F：→ s800525 : 以戰果來說，AI還是超好用的 03/13 09:38
197F：推 maniaque : 根據實際的情況,就像企業把鍋甩給離職員工一樣 03/13 13:04
198F：推 LoveSports : 白宮在X上釋出宣傳影片 把伊朗當電動打 03/13 13:10
199F：→ LoveSports : "講白點射飛彈變成在打電動，這是很嚴重的問題" 03/13 13:11
200F：→ LoveSports : 這句是我早上七點半在這裡回的 03/13 13:11
201F：→ maniaque : 用按鈕一案,殺了一堆人,會麻木的,就跟當打電動一樣 03/13 14:06
202F：→ maniaque : 就像當年按下按鈕,毒氣室就開始灌毒氣一樣 03/13 14:06