我觉得大多数的报导跟讨论都没有搞懂这件事的核心问题 其实也不是特别复杂，就是一个东西，叫做Constitutional AI (CAI) 中文直翻叫做宪政AI，说白了就是在AI的思考基础上套上一个类似宪法的东西 传统的AI(如ChatGPT)是透过人类反馈来学习好坏(RLHF)。 但Anthropic认为，人类反馈太慢且容易有偏见 於是他们给AI写了一份「宪法」，让AI根据这份宪法自己训练自己 原则上听起来没什麽毛病，但问题在於这套宪法是Anthropic自己可以决定的 等於是在卖给国防部的AI上面加了一个上级机关：CAI 而这个机关直接接受Anthropic指挥，规则由Anthropic制定 这代表着这个AI将会有两个指挥官，一个是国防部，一个是总公司的CAI代码 小事听国防部的，大事听CAI的，然後CAI听Anthropic的 当然，CAI目前的框架就是一些基本的道德观念，比如说联合国公约，人权宣言等等 内容来说没有什麽问题，起码现阶段没有问题 总而言之，这件事的问题核心，不在於道德标准的内容 OpenAI跟Anthropic框架的内容都是一样的，国防部也是可以接受的 关键在於谁有权力制定以及控制这个道德标准 OpenAI的协议是，它跟国防部双方同意了这样的架构，就让AI照这样下去走 Anthropic的坚持是，它不相信国防部，甚至不相信自己AI的现在版本 所以它要保留未来改变及强化这个道德架构的权力 ※ 引述《chordate (にんきもの)》之铭言： : https://www.cna.com.tw/news/aopl/202603100013.aspx : Anthropic提告反击　要求五角大厦撤黑名单认 : （中央社记者张欣瑜旧金山9日专电）美国五角大厦和AI公司Anthropic间的军事伦理冲突 : 持续延烧。Anthropic今天就五角大厦将其列入黑名单的决定向法院提起诉讼，请求法院 : 撤销「供应链风险」之认定。诉状指出，相关措施危及公司数亿美元的营收。 : 总部位於旧金山的人工智慧（AI）新创公司Anthropic今天在提交给加州北区联邦地方法 : 院的诉状中表示，政府相关行动「前所未见而且违法」，正在对Anthropic造成不可挽回 : 的伤害。 : 美国媒体CNBC报导，Anthropic与川普（Donald Trump）政府在过去两周冲突急遽升温， : 双方争议焦点，在於Anthropic的AI模型能否、及如何被用於战场及其他用途。 : 在冲突公开升温之前，Anthropic是多个美国政府机构的早期合作夥伴，当时政府正试图 : 利用最先进的AI技术，快速升级其系统与能力。 : Anthropic坚持在技术中加入防护机制，但战争部则认为这些限制过於极端。 : Anthropic上周证实，公司已被正式认定为「供应链风险」企业。CNBC报导指出，这是一 : 项极为罕见的措施，过去通常只针对外国敌对势力；此决定要求国防供应商与承包商必须 : 证明，在与五角大厦合作的案件中没有使用Anthropic的模型Claude。 : Anthropic试图推翻联邦政府将其列入黑名单、认定其为「供应链风险」企业的决定。 : 诉状并指出，Anthropic与联邦政府的合约已经陆续遭到取消；目前及未来与民间企业的 : 合约也陷入不确定性，短期内恐危及数亿美元的营收。 : 此外，诉状表示，除了这些直接的经济损失，政府行动还损害公司声誉，并侵犯其受美国 : 宪法第一修正案保障的言论自由。若没有司法救济，这些伤害在未来数周与数月只会持续 : 扩大。 : Anthropic已请求法院撤销「供应链风险」企业之认定，并在案件审理期间暂缓执行相关 : 措施。公司也已在华盛顿特区的美国联邦上诉法院另外提出申请，要求对战争部的决定进 : 行正式审查。 : ------------------------------------------------------------------------------ : 如同之前大多数人所预料，进入法律战了， : 个人猜测甚至可能会打到美国最高法院。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 207.70.155.162 (美国) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Military/M.1773169690.A.F06.html ※ 编辑: Scion (207.70.155.162 美国), 03/11/2026 03:15:21