情报来源 https://www.reddit.com/r/LocalLLaMA/comments/1ueeund/the_swiss_federal_supreme _court_is_evaluating/ 说实话 我看到标题的的反应是 "干 有国家真的现在要禁止使用没有伦理限制模型了吗？" 如果你的想法和我一样的话 那很幸运的是现况正好相反 他们正在评估那些被 Heretic 消融处理过的模型 好让它们在法院业务中可以使用 这件事证明 法院也碰到与你我这种大众完全相同的困境 "LLM会拒绝完全合理的请求" 因此由洛桑联邦理工学院和瑞士联邦最高法院人员共同发布的这篇论文 https://arxiv.org/pdf/2606.2375 之中提出了一个名为TF-RefusalBench的测试基准集 (其内容由由瑞士最高法院判决书为主要来源 包含了一百个以上的犯罪案例与尤其衍生出的数千个提示词) 来测试模型是否会因过度对齐而降低表现和能力 并在论文中评估了传统的提示词工程以及Abliteration 等手段 并在5.2节专门评估了Herertic 认为这是目前效果最佳的手段 而且对於任务表现的影响极小 "当然我是严正反对它们这麽做的 理由显而易见: 因为anthropic和openai的专家都告诉我们 只有反人类的恐怖份子和犯罪预备军才会想用不受限制的模型 他们绝对不是为了政治避险或商业目的才加上那麽多安全限制和偏见" (反串要注明) 补充资讯 Heretic(异端) 是由数学家开发者p-e-w (Philipp Emanuel Weidmann) 主导的开源工具 https://github.com/p-e-w/heretic 其原理简单说的话就是利用贝叶斯最佳化 直接找出每层权重参数中代表拒绝行为的方向 然後直接把和那个方向平行的成分投影抹去 来消除模型的拒绝行为 (在这之前的抹除主要是人工粗暴地去猜该抹除什麽) 因为这只是单纯解放模型原本的应有能力 不会像早期的一些微调模型矫枉过正 动不动就开膛破肚血肉模糊 也不需要大规模/昂贵的的重新再训练/微调 只要有基础的硬体就能做 缺点是因为有消除某些东西 所以多少还是会损害模型的能力 (不过在消除时会一边监控KL散度(与原本模型的行为偏差)来控制损失) 但如果模型原本就不会的东西 这麽做也还是不会 因为这只是让模型不会拒绝使用者的请求 这也导致模型可能会更容易输出没有把握的资讯 不过因为LLM与图像生成模型不同 训练者为了泛化能力以及减少标注清洗成本 通常不会做资料清洗等级的过滤 所以这个做法非常有效 是目前最主要的对抗审查和消除人为对齐的工具 几乎所有主流开放权重模型都会快速地被社群做heretic处理 另一个能证明这个技术的统治地位的关联事件是 前一阵子另一个号称使用自己技术的去审查模型开发组HauhauCS 被爆出使用heretic的工具而未依照许可证揭露 https://www.reddit.com/r/LocalLLaMA/comments/1sw77p0/ --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 124.102.100.155 (日本) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI_Art/M.1782499720.A.B5C.html ※ 编辑: patvessel (124.102.100.155 日本), 06/27/2026 03:12:47 这想法很直觉 但事情远没有那麽单纯 首先是 现代的模型能力边界审查不是一个开关就能简单打开的 不管是人工RHLF还是A社自吹自擂的宪法AI 全都是昂贵而巨大的训练过程 但是每个需求都有每个需求的边界 厂商不可能为了所有不同领域去进行专属调整 我认为真正合理的作法是 提供基础(base)模型权重 然後让各个业界自行去调整和最佳化 因为在垂直领域中问题不是只有审查 这种做法能共同时处理审查和知识问题和资料隐私问题 才是真正根本性的解法 这正是目前开放权重阵营如Mistral的作法: 厂商提供基础模型权重和技术支援 协助大型客户建立自己的训练资料集与模型 补充 我在文章中刻意不使用开源(opensource)而是开放权重(openweight) 是有意为之的 (我承认有时候还是会口误 毕竟语境已经被污染) 即使在社群中 这两种做法依然有不同的支持者 但共识倾向认为 目前主流开放权重比较接近早期的自由软体 而不是现代的开源软体模式 因为厂商发布模型权重 让你自由使用 但是这个权重内容是由哪些资料集训练出来 经过哪些处理才变成权重 依然是个黑盒子 外部无法介入也无法审核原始码/原始资料 因此这个方式能不能带来开源的透明/审核/自由优势 我们尚未有定论 现在只能慢慢观察 但无论如何 这比起资料集和权重全部都封闭的现有商业模型存取方式 在透明度和自订性上 依然是一个很大的代差是无庸置疑的 其次是资格问题 我们都知道一旦开了一个特例 就会有无限多个特例出来 如果瑞士司法单位可以用 那行政部门 医疗院所教育机构如 果也提出要求是不是也可以用? 那中国和北韩的司法单位或是瑞士的国防单位也宣称想跟进那是不是也应该开放? 这会让开发公司从单纯的技术者转变成道德的审查者 从而被卷进无止尽的风政治暴之中 而且我们都很清楚 一旦开了一个特例 接下来会发生什麽事情 必然会有各种内鬼 以用各种方式散布这些"高级"帐号 甚至用来营利 类似现在的教育版贩卖和跨国订阅 所以一旦花大钱开个特例反而会没完没了 让边界形同私设 不如直接一开始就开放完整中立的模型 最後是商业策略 例如像是A社的看板说法 一开始就是"安全 负责任的强大AI" 边界应该由它们这样道德高尚 心系人类未来的伟大公司全权掌管 而不是所有人公开审核 所以所有训练资料都不开源 权重也不公开 (值得注意的是 贪婪如OPEAI至少也有公布过OSS之类的几个模型权重 只有A社一个模型都没有公开过) 要是为法院/行政/教育特调安全版本的帐号 那本质上相当於打自己道德神主牌的脸 间接证明他们的安全策略和生产力是背道而驰的 封闭资料和权重的藉口也荡然无存 (虽然大家都知道那只是冠冕堂皇的藉口 但是宗教就是需要神话来维系) ※ 编辑: patvessel (124.102.100.155 日本), 06/27/2026 12:43:15 我不否认有一天可能会有类似你说的状况到来 或者说只要算力和存取速度够 让机器在推论时可以即时遍历所有资料 我们根本就不需要提前训练固定权重这种把事实压缩成机率的妥协 但是我认为在可见的未来里 这个模式都不太可能实现 原因除了机器性能不够之外 我认为还有几个原因 首先 是模型训练本身就是一个需要人工高度判断和取舍的行为 (这也让模型训练更像是艺术创作 而不是科学实验) 一个模型的训练 不是把所有资料灌进去跑完一圈就了事 而是必须经由人类进行大量的判断 而很多状况下 这些判断是没有办法用机械验证 也没有标准答案的 例如: "这个问题答得很完美 但模型是过拟合了 还是泛化能力真的足够COVER了?" "这个损失函数很漂亮 但是实测好像变笨了 我应该相信数值还是相信感觉?" "应该选择对某些方向轻微过拟合但其他领域表象良好的版本? 还是选择没有过拟合迹象 但是泛化能力较弱的版本?" 这些从头到尾都不是对或错的问题 而是选择和喜好的问题 而如果没有人类的主观判断来进行取舍选择 模型很有可能会因为灾难性遗忘的发生逐渐崩坏 其次 是动态权重这东西会在某几个面向造成灾难性的破坏 例如可解释性 模型一致性和资料污染 目前研究中有一个很重要的方向是 "可解释性" 说白话点就是"为什麽AI碰到这个问题会这样回答?" 但是目前的LLM本质上是个非常巨大的黑箱 里面没有储存任何事实 只有大大小小的状态和机率 现况根本我们就没有办法从几百亿参数中精确地找出原因 这就是可解释性的缺失 而在可解释性的缺失下 又造成了一个问题 因为我们无法精确的定位哪些参数 是造成某些行为的原因 所以只能从事後概略的猜测 "为什麽AI会这样做" 这本质上是归纳 而不是演绎 我们可以事後编造或推测一个理由 但我们不知道下次类似的情境AI会不会还是做出相同的输出 这就是可预测性的缺失 这也就导致了AI在高风险高价值场域的应用极度受限 是全球顶尖科学家都想解决的问题 但是说真的前景非常不乐观 现在在这个固定权重的状况下 情况都已经如此严峻了 那麽如果一个模型的权重 会因为使用过程中动态变化 就会让这两个问题恶化到极致 因为权重已经不只庞大了还不断变化 其三 是我们其实早就有可以很大程度代替动态权重的东西了 模型因为权重固定无法临机应变 那我们就动态调整的上下文就好 模型本身只要推论和逻辑线条的完整性被保证 上下文是可以完全案朝需求主动筛选和给予的 很眼熟对不对? 因为这就是RAG的原理 要模型不断地拿网路的所有资讯来动态训练 那不如让模型只维持最根本的能力 其他资讯在看需求到网路上/资料库里找就好 不仅更快 更便宜 而且可以看到明确的因果关联 而不只是在黑箱权重瞎猜 如果觉得RAG太过复杂而不稳定 我们也可以针对特定使用情景 训练专用的lora 当需要时挂上去 不需要时取下来以避免影响泛化 这虽然也是一种可变式调整 但其依然需要人类选择一个训练好的静态状态 而不是那种会随着时间自己变化的动态权重 综合以上状况 我认为最终只有两个结果 如果某天科技达到了一开始说的 可以即时遍历所有资料 不需要训练任何模型来妥协的地步 那麽我们就能够直接把计算路径摊开到阳光下 是统计了哪些数据 参考了哪些资料 所以做出了这些判断 我们随时可以抽换/删去/增加某些数据 那麽推论的确就会是完全动态的 (但不是权重 因为不需要压缩) 但只要我们还因为机器性能不足 而必须把事实压缩成机率 那麽无论从表现上或是成本上来说 真正随时变更的动态权重很可能都没有实作的价值 ※ 编辑: patvessel (124.102.100.155 日本), 06/27/2026 18:00:38