ChatGPT公益私利之定位：科技教父的世纪官司 --Musk强势回归告Altman与OpenAI (系列 二 变调的AGI -- 从开放到封闭 v. 从公益到营利) 原文网址: https://bit.ly/3IAp64o 原文: 2024年闰二月的最後一天，电动车教父Elon Musk，向北加州旧金山地院，控告ChatGPT之 父Samuel Altman（另外还有OpenAI共同创办人Gregory Brockman、OpenAI及其8家关系企 业）违法，对於这个教父级别的世纪法律大战，本刊系列一已介绍其原委，本篇接着探讨 该案之核心争议。 AGI迭代发展沿革与OpenAI从开放到封闭之转折 因为之前Google已率先创建一个名为转换器 (Transformer) 的演算法，解决深度学习在 理解长文本序列时所面临的许多问题，该演算法是「大型语言模型」(Large Language Model) 的一个范例，能将文字从一种语言翻译成另一种语言，其工作原理是在来源语言 中形成单词间的建立联结，并将这些联结映射到目标语言。 OpenAI的人员当然也跟进研究此项发明，透过使用Google Transformer架构的前半部分， 很快得出一个令人惊叹的结果：深度神经网路可以在大型文本语料库上进行预训练，并用 於生成新文本。2018年1月OpenAI发布这个名为「生成式预训练转换器」(GPT: Generative Pre-Trained Transformer) 的原始码和训练模型，并附有一份描述该模型及 功能的详细论文。 2019年OpenAI推出第二代模型GPT-2，也附有一篇详细的论文描述该模型，指出与以往需 要针对特定任务进行训练的模型不同，「当大型语言模型在足够大且多样化的数据集上进 行训练时，它能在许多领域和数据集上表现良好」。这些模型被证明与先前的AI系统有很 大不同，其无需训练系统执行特定任务，而是只需简单地用自然语言来「要求」（即询问 ）系统执行一项新任务。尽管GPT-2可针对不当使用进行微调(fine-tuned)，而且供人检 测GPT生成文本具有挑战性，但OpenAI仍愿意公布GPT-2的开放版本，希望对未来强大模型 的开发者有所帮助 [1]。 2020年OpenAI宣布其模型的第三个版本：GPT-3，使用1750亿个参数，是之前任何非稀疏 语言模型(non-sparse language model)的10倍。同样的，OpenAI也发表一篇详细的论文 ，描述GPT-3内部结构和训练数据。2022年Google的研究人员借鉴这些结果，展示一个名 为「思维链提示」(chain-of-thought prompting)的小改变，可以使「大型语言模型执行 复杂的推理」，显示OpenAI的GPT-3，可以像人类一样，以按部就班方式对全新问题进行 推理。接着，GPT-3.5亦即ChatGPT於2022年11月30日发布。 2023年3月中，OpenAI再发布迄今为止，最强大新一代GPT-4的语言模型，具有优於一般人 之推理能力。根据OpenAI自己的客观衡量标准，GPT-4在各种任务上已具备超越人类的智 慧，研究界很重视这一发展 [2]。将GPT-4与基於GPT-3系统的性能进行比较，发现「 GPT-3的输出不如GPT-4」。Musk指出，连微软自家的研究人员也承认GPT-4「达到某种通 用智慧的形式」，并且「考虑到GPT-4功能的广泛和深度，它可以被合理地视为AGI系统的 早期版本（虽仍然不完整）」。换言之，GPT-4已达到AGI的门槛。 由以上可知，OpenAI最初的研究是公开进行的，提供对设计、模型和程式码的免费和公共 造访权限。OpenAI研究人员开发出的演算法，可以在没有任何明确训练的情况下，执行许 多自然语言任务，这些发表的论文证明，对未来大模型的开发者极有助益，这使得整个社 群如雨後春笋般涌现，以增强和扩展由OpenAI发布的模型，并逐渐蔓延扩展到开源、基层 开发组织及商业实体，使社群能完整借鉴，自行创建类似的模型。但特别的是，这次 OpenAI对於GPT-4不愿再发表任何相关之论文。 OpenAI授权予微软之范畴 Altman在2019年成为OpenAI的执行长，随着已迈入营利行列，2020年9月下旬OpenAI与微 软签署一份协议，专属授权 (exclusively licensing) 给微软使用其生成式预训练转换 器(GPT-3)语言模型。然而重要的是，Musk认为，微软取得的授权，仅适用於OpenAI若干 关於「AGI之前」(pre-AGI) 的技术，而非「AGI」技术，因此微软并未获得任何AGI的权 利。 Musk指控，为了与《创始协议》宗旨一致，OpenAI的网站中将AGI描述为，「在最具经济 价值的工作中，表现优於人类的一个高度自治系统」，「被排除在与微软的IP授权和其他 商业条款之外，这些微软的授权仅适用於pre-AGI技术」。至於OpenAI何时能达到实现AGI 之里程碑 (when attained AGI)，则将取决於OpenAI董事会，而不是微软。 Open Source变调成Close Source Musk指控，在GPT-4达到AGI的门槛後，延续《创始协议》宗旨，OpenAI开发目的本应是为 了造福全人类，而不是为了任何以营利为目的之公司或个人赚取利益，但透过对微软之专 属授权，Altman此时已彻底地背离《创始协议》使命，违反其对公众提供技术和知识的初 衷与向来做法，使GPT-4变成是一个完全封闭的模型，对GPT-4的内部设计完全保密，没有 任何程式码被公开，也没有发表任何科学论文描述其内部设计，有的仅是发布吹嘘宣传性 能的新闻稿，GPT-4的内部细节除了OpenAI和微软没有其他人知道，而这种保密主要是出 於商业而非安全考量。 尤其是，OpenAI的整个技术发展现在都处於保密状态，公众只能透过传言和零星的通信片 段，来了解接下来会发布什麽内容。虽然，GPT-4原来宗旨是想造福公众，但GPT-4现在实 际上已成为微软的专有演算法，被其整合到商用的Office软体套件中。因此，GPT-4已变 成「开放AI」的反面词，而且是出於商业上的原因而封闭：如果OpenAI按协议要求将技术 免费提供公众，微软是不可能透过出售GPT-4而大蒙其利。 OpenAI爆发经营高层政变 ChatGPT当红以来，一般人看到的是，Open AI和微软大蒙其利价值翻倍，使得Altman风生 水起成为全球AI新科技的领头羊，而让人诧异的是，正当他飞黄腾达不可一世的高光时刻 ，2023年11月17日，OpenAI董事会竟然决议将Altman解聘，然後在部落格中宣布此一政变 消息，并谓该去职是董事会经「深思熟虑」之审查程序後得出的结论，这让所有的人跌破 眼镜！其理由是，Altman在与董事会的沟通中未能一贯地坦诚(not consistently candid)，妨碍董事会履行职责的能力，因而董事会不再相信他有继续领导OpenAI的能力 ，故被解雇。 据路透社报导称，OpenAI目前正开发一种名为Q*模型(Q star) 的秘密演算法，虽然尚不 清楚具体内容，但将更贴近对AGI的诉求。OpenAI员工已警告Q*的潜在威力，似乎Q*可能 成为OpenAI开发更引人注目的AGI范例。因此Musk认为，Altman被解雇的部分原因，系由 於OpenAI在实现AGI方面已取得突破，导致OpenAI董事会成员和高阶主管之间，对安全问 题以及OpenAI下一代Q*构成之潜在威胁，存有很大的分歧，再者，AGI必须系为广大公众 的利益而提供，亦已超出OpenAI与微软的授权范围，这些分歧点才是政变主因。 当微软执行长Satya Nadella得知Altman被解雇时很生气，作为OpenAI的营利部门持股49% 的股东，他认为解雇前应谘询微软的意见。Nadella遂邀请Altman和Brockman，来领导一 个新的微软AI研究实验室，不受OpenAI人道主义使命的限制，但另一方面，微软也使出浑 身解数重新安排Altman回任。接下来几天，发生一连串戏剧般的事件，Altman和Brockman 与微软合作，利用微软对OpenAI的巨大影响力，使大多数OpenAI的董事会成员辞职，三天 後Altman在2023年11月21日恢复担任OpenAI的执行长。 Altman罢黜事件中微软之角色 在罢黜过程中，微软相信透过其在OpenAI营利部门掌握的所有权，如果该公司停业，它完 全可隔离OpenAI的研究。Altman被解雇後不久的一次访谈中，Nadella表示：「我们对自 己的能力极有信心，我们拥有所有的智财权和一切必要的能力。如果OpenAI明天消失，我 们的客户不需为此担心，因为我们拥有继续创新的所有权利。不仅可提供产品，还可以与 合夥同伴继续合作一直在做的事情。我们拥有人才、运算资源、数据，我们拥有一切。」 但Musk指控，其实微软对OpenAI及其董事会拥有相当大的强制影响力，在Altman被解雇期 间，执行长Nadella对微软与OpenAI的关系发示：「我们介入其中。我们在他们的下面、 上面、周围。我们进行核心优化，建构工具、基础设施。这就是为何很多行业分析师都说 ，这真的是微软和OpenAI间的联合项目。」不仅如此，在解雇期间，微软仅支付其对 OpenAI承诺之100亿美元投资中的一小部分，但这却使得微软对这家「独立」非营利性之 董事会，显见其拥有重大的影响力。另外，如果微软如禁止OpenAI使用其所依赖的微软云 端运算系统，公司将无法运作。基於来自微软对董事会的施压，Altman旋即恢复OpenAI的 执行长、Brockman重新担任总裁。 Altman被罢黜前旧的董事会 在OpenAI原来的董事会中，包含多位具有深厚AI政策经验的学者和公共政策专家，其中大 多数成员在公司中没有利害关系。这种选择是经过深思熟虑的，因为具有丰富的公共服务 经历，且不牵涉财务利益的董事成员，可确保董事会将非营利机构的主要受益者 -- 人 类 -- 置於经济利益之前。而制定这种保障措施，是为了进一步推动OpenAI的非营利使命 ，和基於《创始协议》在董事会中设立：安全创造有益於人类福祉的AGI，而不是为了营 利性公司的金钱利益。 在Altman被解雇後的几天里，OpenAI的董事会面临来自律师和包括微软在内主要股东的施 压，要求重新任命Altman。在恢复Altman的职位的运作中，OpenAI的律师曾告诉其中的董 事，如果OpenAI因Altman被解雇而失败，董事可能会面临违反对投资者受托责任 (fiduciary duties) 的指控，但实际上OpenAI的董事会，从未对投资者负有受托责任 [3]，因此律师的说法只是一种恐吓，而维持Altman的解雇，实际上将有助於推动公司促 进人类安全而非追求利益的使命，然而，所有这一切都无法阻挡微软推动Altman之复职。 Altman搬师回朝後新的董事会 Altman重返职位後，经过大地震的洗礼，当然要巩固政权避免再中剑落马，因此大幅换血 亲自挑选新的董事会，并获得微软首肯；但该新的董事会的成员组成，是拥有以利润为中 心的企业或政治领域上的经验，而不是在AI伦理和治理方面见长。 在设计上新成员缺乏类似的技术专业、或具备AI治理方面的实质背景，因此Musk指控，不 如前任董事会。随着Altman的复职和重组，OpenAI的公司结构，原本被设计为非营利部门 、营利部门、董事会和执行长之间所建立的一个制衡体系，以确保其非营利性质之使命得 以落实，已在一夕之间崩塌。OpenAI曾经精心打造的非营利结构，被一位纯粹以利益为导 向的执行长，和一个在AGI和AI公共政策方面技术专业能力较低的董事会所取代。 Musk还指控，新的成员因缺乏实质的AI专业知识，当然没有能力独立决定OpenAI何时达到 AGI，也无法判断OpenAI开发的演算法，是否超出微软取得的授权范围。甚者，董事会竟 然还专门为微软保留一个观察员席位，以便就近监管这只表面上是非营利性质的赚钱金鸡 母。公司原本的设计是，为全人类广泛福祉开发AGI之非营利使命，从而使其不致落入权 力过度集中的大型营利公司手中，然而很明显的，经过这次改组，现OpenAI已放弃此种使 命。 OpenAI董事会就AGI技术居关键地位 由於OpenAI前任董事会之大多数成员，已被迫在2023年11月22日辞职，其继任者是由 Altman和微软亲自挑选的。但OpenAI董事会在AI技术专长、中立性和对OpenAI非营利性使 命的承诺，对公司至关重要，尤其是对於与微软的授权协议，OpenAI是否已达到AGI将由 董事会决定。这意味着，董事会被赋予的任务是，决定OpenAI最强大和先进的技术，是否 被排除在微软的专属授权范围之外。 Musk认为，考虑到不对公众开放让微软拥有巨大的经济利益，这次OpenAI新成立、存在利 益冲突且顺从的董事会，在充满国王人马的情况下，投票表决部队将有充分的理由，延迟 认定OpenAI已实现AGI的结论（因一旦认定实现AGI，就非属於可授权予微软之标的）。导 致OpenAI实现AGI的时刻，将永远是「明天」之後遥不可及的未来式，以致微软将不断被 授权使用OpenAI的最新技术，而使公众被排除在外，而这当然与《创始协议》精神相悖。 Musk指控被告违反《创始协议》 Musk指控，2023年的事件已公然违反《创始协议》，被告基本上已将该协议推翻。讽刺的 是直到今天，OpenAI的网站仍然宣称，其章程是确保AGI「造福全人类」。然而实际上完 全与开源背道而驰，OpenAI早已变成全球最大科技公司微软的「闭源之事实上的附随组织 」(closed-source de facto subsidiary)。 在新的董事会领导下，它不是只在开发AGI，实际上更是在完善AGI以实现微软之货币化， 其已将GPT-4变成闭源 (closed-source) 的技术，主要仅是专为了服务微软的专有商业利 益 [4]，不图GPT-4用於人类福祉，反而将其专有技术当作为世界上最大的公司实现利益 最大化，被告自已违反《创始协议》。 对於当初所谓的「谨慎审查过程」到底揭示了什麽，才导致Altman被解雇，公众仍然一无 所知。然而，对Musk和大众来说有一点是明确的：OpenAI为了追求利益，已放弃「不可撤 销的」非营利性使命，许多意见领袖和知识分子评论，OpenAI已成为「封闭式的营利性AI 」[5]。因此Musk认为，提起本案是为了迫使OpenAI遵守《创始协议》，回归其为造福人 类而开发AGI的使命，而不能为被告个人和世界上最大的科技公司牟私人利益。 Altman强势回归後的OpenAI 一家非营利性消费者权益倡议组织Public Citizen的总裁，2024年稍早写了一封公开信给 加州总司法检察长，就OpenAI的营利子公司，是否对非营利组织的OpenAI施加不当管控， 或者原来非营利目的组织，是否在Altman和微软的领导下转向营利，表达了担忧。该函建 议，如果非营利性组织放弃其原始的使命，则应将其解散，并将所得款项捐给另一慈善事 业。 《WIRED》杂志於2024年1月进行一项调查发现，OpenAI最近关闭公众对先前可自由查阅「 关键文件」的造访权。根据OpenAI最初对透明度的承诺，OpenAI自成立以来就表明对国税 局 (IRS) 文件，任何公众都可以查看其治理文件、财务报表和利益冲突规则的副本。但 董事会改组後，当《WIRED》要求提供这些文件时，OpenAI却表示已更改政策。因此，尽 管OpenAI长期以来一直强调其透明度的承诺，但公众已无法获得有关2023年11月事件的资 讯。 获得查阅OpenAI文件的权限，可让大众了解该公司是否为迎合微软和其他股东，改变原先 规划的治理结构。目前至少看出，已做出为迎合微软在董事会的席次改变 [6]。此外，查 阅OpenAI是否遵循利益冲突政策非常重要，可以揭示董事会是否有能力控制Altman利用 OpenAI来谋求经济利益，而迄今为止，这些利益冲突似乎一直未受到检验。OpenAI虽然曾 经自许是以安全、负责理念，开发基於与大众开放交流之AGI的先驱，但曾几何时现在却 关闭大门，并将营利性子公司的最大投资者带入董事会，然而原先董事会只对人类负有唯 一受托责任，如任令其继续秘密朝利益中心的迈进，将可能对人类产生灾难性的影响。 Musk与Altman和Brockman共同创立并资助OpenAI，靠着《创始协议》以确保AGI将造福全 人类，而不是使其成为营利性公司。但随着2023年事件的发展，Musk对OpenAI的贡献已被 扭曲为，让Altman和世界上最大的营利公司谋利，这是对《创始协议》的严重背叛，并扭 曲原来OpenAI的神圣使命 [7]。 注解： [1] 这次发布同时还附有一份，由OpenAI科学家以及独立的社会和技术科学家合着的详 细论文，解释相对於维持模型的封闭保密，公开发布模型所带来的一些好处。 [2] 在一篇名为「人工通用智能的火花：GPT-4的早期实验」的研究分析中，微软的研究 人员指出，「GPT-4可以解决横跨数学、编码、视觉、医学、法律、心理学等多个领域创 新且困难的任务，而无需任何特殊的提示。而且，在所有这些任务中，GPT-4 的表现都非 常惊人地接近人类水平，并且远远超过先前的模型，例如以GPT-3.5基础之ChatGPT。」 [3] 事实上，营利部门的所有投资者先前都被告知，公司对其公共利益使命的责任，优先 於对投资者获利的责任，而且OpenAI的网站也清楚表明，公司只对「人类」负有受托责任 。 [4] 事实上，当2023年11月上演的戏剧性事件时，微软的首席执行官吹嘘说，即使OpenAI 明天消失也没关系….，我们拥有所有的智财权和所有的能力。…. 我们拥有人才，拥有 运算，拥有数据，拥有一切…. 我们在它们之下，在它们之上，在它们周围。 [5] 2023年11月29日，MIT的经济学家在《洛杉矶时报》上发表评论，其对OpenAI以利益 为导向的新方针表示担忧。他们说，「破坏和不受控制的成长，已经变成科技行业的信仰 ，而Altman一直是其最忠诚的大祭司之一」。 [6] 据报导，现在Altman正与中东投资者洽谈，拟筹集高达7兆美元的资金，开发AI晶片 制造工厂建构之全球网络。如果微软提供的100亿美元，足以让它在董事会中占有一席之 地，那麽不难想像，这些新的潜在投资将带来多大的影响。特别是当一个潜在投资者是阿 拉伯联合大公国的国家安全顾问，而由於阿拉伯与中国的关系，美国官员将感到担忧。此 外，Altman还讨论了将该大公国，打造成测试AI技术的「监理沙盒」(regulatory sandbox)的可能性。 [7] 试想，向一个声称以保护亚马逊雨林为使命的非营利组织捐款，但随後该组织却成立 一家营利性的伐木公司，反过来利用该捐款来清理亚马逊雨林，OpenAI就是这样的操作。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 203.145.192.245 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Patent/M.1710307735.A.48D.html