作者pl132 (pl132)
看板Tech_Job
標題[新聞]DeepSeek 模型洩漏生物武器機密？Anthropi
時間Sun Feb 9 09:25:44 2025
DeepSeek 模型洩漏生物武器機密？Anthropic CEO 疾呼加強晶片出口管制
https://technews.tw/2025/02/08/anthropic-ceo-deepseek/
人工智慧（AI）領域的競爭日益激烈，Anthropic 執行長 Dario Amodei 最近對中國 AI
公司 DeepSeek 的崛起表示擔憂。DeepSeek 以其 R1 模型迅速在矽谷掀起波瀾，但
Amodei 的疑慮不僅僅圍繞著資料安全，更涉及潛在的國家安全風險。
外媒《TechCrunch》引述，喬丹·施耐德（Jordan Schneider）的 ChinaTalk 播客採訪
中，Amodei 透露，DeepSeek 在 Anthropic 進行的安全測試中，生成了有關生物武器的
罕見資訊。他表示，DeepSeek 的表現「基本上是我們測試過的所有模型中最差的」，「
它完全沒有阻止產生這些資訊」。
Anthropic 定期評估 AI 模型，以評估其潛在的國家安全風險，尤其關注模型是否能夠生
成在公開資訊中難以獲取的生物武器相關資訊。Amodei 強調，Anthropic 以重視安全著
稱，並將此視為其核心競爭力。
雖然 Amodei 認為 DeepSeek 目前提供的模型在提供危險資訊方面「不是很危險」，但他
警告說，未來可能出現變化。他同時讚揚 DeepSeek 團隊的工程能力，並建議該公司「認
真對待這些 AI 安全考慮」。
DeepSeek R1 未能阻止有害提示
除了 AI 安全問題，Amodei 也支持對向中國出口晶片實施嚴格管制，理由是擔心這可能
會讓中國在軍事上占優勢。
儘管 Amodei 並未在採訪中透露 Anthropic 測試的 DeepSeek 模型細節，但 DeepSeek
的安全性已引起廣泛關注。思科安全研究人員上週表示，DeepSeek R1 在其安全測試中未
能阻止任何有害提示，越獄成功率達 100%，能夠生成網路犯罪和其他非法活動的資訊。
儘管如此，Meta 的 Llama-3.1-405B 和 OpenAI 的 GPT-4o 模型的失敗率也分別高達
96% 和 86%。
Amodei 認為 DeepSeek 已經成為與美國頂尖 AI 公司匹敵的新競爭對手。「現在的新事
實是，出現了新的競爭對手，」他在 ChinaTalk上 說道。「在能夠訓練人工智慧的大公
司中，Anthropic、OpenAI、Google，也許還有 Meta 和 xAI……現在 DeepSeek 可能也
被添加到這個類別中。」
--
「妹妹可是好東西啊。即可愛又溫柔，還很軟。早晨還會來叫你起床」
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 180.177.0.129 (臺灣)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Tech_Job/M.1739064346.A.4A2.html
1F：→ processor : 殺 都殺光 114.137.8.83 02/09 09:50
2F：→ yunf : 未來的世界 就是代理人的世界 外面 49.218.138.176 02/09 11:08
3F：→ yunf : 全部都是風險不論是交通治安 污染 49.218.138.176 02/09 11:08
4F：→ yunf : 生化 只有無人機 和機器人可以穿梭 49.218.138.176 02/09 11:08
5F：噓 squelch : 阻止不就是言論審查嗎? 125.227.39.66 02/09 19:06
6F：推 Brioni : 算資訊屏蔽的一種沒錯 114.136.158.4 02/09 22:42
7F：噓 LPCbaimlly : 那這些模型訓練時怎麼拿到這些資訊 42.72.63.28 02/10 01:58
8F：→ LPCbaimlly : 的？擺明就是公開查得到的東西怪AI 42.72.63.28 02/10 01:58
9F：→ LPCbaimlly : 回答得出來幹嘛 42.72.63.28 02/10 01:58
10F：→ u7451519 : 不知道AI如果犯了教唆殺人罪，刑責 1.34.79.169 02/11 08:13
11F：→ u7451519 : 要歸誰 1.34.79.169 02/11 08:14
12F：噓 squelch : AI 是能怎麼犯教唆殺人罪? 125.227.39.66 02/13 07:12