部落格图文版：https://maxjamesread.com/the-ambition-of-a-genius/ Podcast有声版：https://apple.co/4gSK68v 从封面的山姆．奥特曼与《天才的野心》这个书名，应该不难猜出这本书在谈什麽吧。没 错，它讲的正是当今人工智慧巨头 OpenAI 的崛起之路。 作者小林雅一身兼作家与记者，同时也是 KDDI 综合研究所研究员及资讯安全大学院大学 客座教授。身分多到不行，相当多才多艺（笑）。 在这本小书里，他先是简要回顾 OpenAI 以前的人工智慧开发史，接着依序讲述 OpenAI 的诞生、成长与爆发。读来就像是看故事一样，让我直往下翻。除了讲古外，书中也带入 许多 AI 的技术基础与应用层面的反思，激发了我不少思考。 关於故事的部分，就留给大家自行到书中享受。这篇文想和大家分享四个读後思考。 【非线性成长】 读这本书时，我一直有个很深的感受：技术的发展往往不是线性地缓慢爬升，而是像爬楼 梯一样，在某个关键节点後突然迎来突破。 比方说，早期 AI 的发展主要有两条路线： 1. 符号型处理 AI：让 AI 依照人类预先给定的知识与规则来处理资讯。 2. 神经网路：让 AI 从大量资料中自行学习。 放到今天来看，神经网路无疑是主流。然而过去它其实曾经历很长的一段黑暗期，甚至被 许多人视为没前途的研究领域。直到克里泽夫斯基（Alex Krizhevsky）与苏茨克维（ Ilya Sutskever）利用 GPU 训练出卷积神经网路 AlexNet 後，AI 的学习能力才迎来巨 大的跃进。拥有「AI 教父」之称的辛顿（Geoffrey Hinton） 甚至坦言，「深度学习」 （Deep Learning）就是为了摆脱神经网路过去的坏名声而想出来的名字。 後来大放异彩的大型语言模型（LLM）也是如此。早在 2012 年，苏茨克维便在辛顿的研 究室开发出早期的语言模型。当时虽然能产生语句通顺、符合文法的内容，但往往只是缺 乏实际意义的文字堆叠。（下图为当时辛顿发表的投影片，完全不知道在说啥……） 没想到之後的突破，居然是来自 OpenAI 的竞争对手 Google。2017 年，Google 团队发 表论文〈Attention Is All You Need〉（你需要的只是注意力），提出名为「转换器（ Transformer）」的新型神经网路架构，为大型语言模型开启了进化大门。 传统语言模型最大的问题之一，在於难以根据语境判断同一个词汇在不同情境下的意思。 举例来说： 1. 请买苹果和橘子。 2. 苹果发表了全新的 iPhone。 人类很容易理解两个「苹果」代表完全不同的概念，但早期语言模型却无法辨别。（如下 图） 而转换器的核心概念之一，就是让模型在处理文字时，能主动将「注意力」放在其他相关 词汇上。当它看到「橘子」时，便能推测这里的「苹果」是水果；看到「iPhone」时，则 能推测这里的「苹果」指的是公司。（如下图） 换言之，转换器可说是传统语言模型缺的最後一块拼图。当时已经是 OpenAI 首席科学家 的苏茨克维，在读完这篇论文後便表示：「这就是我们渴望已久的技术。」之後的故事大 家都知道了：ChatGPT 横空出世，彻底改变了 AI 发展的局势。 这种阶梯式成长的概念，也带给我一个很大的启发：现在落後，并不代表永远落後。 事实上，在 OpenAI 杀出来前，AI 领域的领先者其实一直是 Google。2016 年击败世界 棋王李世□的 AlphaGo，便是由 Google 旗下的 DeepMind 团队所开发。然而後来 Google 却被 OpenAI 超车。甚至在本书出版的 2024 年，Google 还在苦苦追赶。 不过到了 2026 年的今天，Google 已凭藉 Gemini 等产品重新站稳脚步。M 观点创办人 Miula 便曾说： 「AI 竞赛现在也只是三局上半，任何领先都可能被逆转。」 可以预见的是，在未来的几年，AI 巨头间的「量子纠缠」还会持续下去。 【AI 发展的那条线】 AI 发展的那条「线」，也是我在阅读本书时不断思考的主题。事实上，OpenAI 发展过程 中的许多重大事件，都与这条线的位置有关。 例如 OpenAI 创立之初，便获得了伊隆．马斯克的大力支持。而马斯克之所以想参与，很 大程度上源自他与 Google 共同创办人赖瑞．佩吉的一场争论。事情是这样：2015 年， 两人在一场生日派对上聊到 AI 的未来。佩吉认为，AI 终有一天会与人类融合，成为不 同形式的智慧生命，并透过物竞天择的方式，留下最能适应的物种。 马斯克无法接受这样的观点。他认为，这几乎等同於默许 AI 会让人类灭亡；而在他的价 值观里，「人类不能灭亡」是不可跨越的底线。但佩吉听完却反呛马斯克是「种族歧视者 」（speciesist），认为他过度偏袒人类这物种。 自那之後，马斯克开始相信，由 Google 主导 AI 发展是一件危险的事。因此，当奥特曼 找上他共同创立 OpenAI 时，他几乎立刻答应。 为了不重蹈 Google 的覆辙，OpenAI 一开始便以「开放」作为核心理念，希望透过分享 研究成果造福全人类。同时，马斯克与奥特曼也将 OpenAI 定位为非营利组织，以人类利 益为优先来发展 AI。 然而，如此「理想」後来却逐渐出现分歧。简单来说，OpenAI 内部存在两种不同立场： 1. 警戒主义者：认为 AI 可能危及人类生存，开发过程必须慎重再慎重。 2. 加速主义者：认为 AI 虽然存在风险，但其带来的好处远大於坏处，因此应该加速发 展。 奥特曼本身较接近加速主义的一侧；但公司内部许多重要研究者，则更倾向警戒主义。 例如，主导 GPT-3 开发的达里奥．阿莫迪在 2021 时便带着十五名研究人员离开 OpenAI ，并与团队创立 Anthropic。这家公司後来提出「宪法式 AI」的概念，希望建立更安全 、更可控的 AI 系统。 共同创办人苏茨克维同样对 AI 安全议题抱持高度警觉，也曾多次与奥特曼产生理念上的 冲突。最终甚至在 2023 年联合其他四位董事，将奥特曼赶下执行长大位。 从这些事件不难发现，每个人心中对 AI 发展的那条「线」其实都画在不同的位置。我觉 得或许可用一条光谱来表示： 其中，奥特曼的位置或许是最耐人寻味的。虽然在意人类利益，但对 AI 发展较「开放」 ，有时甚至会游走於侵害人的边缘。有人形容他的许多行为像是「纸张边缘划出的伤口」 ──虽不致命，却让人隐隐作痛。 这点从 GPT-4o 的 Sky 语音事件便可见一斑。当时 OpenAI 提供了五种语音，其中 Sky 的声线居然酷似史嘉蕾‧乔韩森。乔韩森随即公开提出抗议。虽然奥特曼强调 Sky 并没 有模仿乔韩森，但 OpenAI 最终仍将该语音下架。 而这争议，正好能带入下一个我想讨论的主题：AI 与着作权。 【AI与着作权】 AI 的着作权问题，是整个生成式 AI 发展过程中不可能绕开的一个点。小林雅一甚至将 其称为生成式 AI 的「原罪」。 事实上，GPT 等大型语言模型在训练时使用了海量的人类创作内容。然而，许多人并不知 道自己的作品被拿去「训练」。因此，许多 AI 公司都陆续被控诉违反着作权。例如， 2022 年，程式设计师兼律师马修．巴达立克与其他利害关系人，对微软、OpenAI 与 GitHub 提起集体诉讼，认为这些公司侵犯了数百万名程式设计师的权益。 在这些着作权的攻防中，有三个主要被讨论的点： 1. 合理使用：在某些条件下（如教育与研究），使用者可在未经着作权人许可的情况下 使用其作品。 2. 作品被修改到何种程度：只要充分改变原作并具备原创性，即使未获授权，也可能不 被视为违反着作权法。 3. 竞合性：若作品与原作不存在竞争关系，没有侵蚀原有市场，一般较不容易被认定为 侵权。 这边举「谷阿莫」的快速讲电影影片为例。首先，它很难被归类为教育或研究用途；再者 ，把作品片段直接剪进影片，也不太能算是充分修改；更重要的是，许多人看完影片後便 不再观看电影，因此有侵蚀原作市场的疑虑。综合以上，这类影片在法庭上通常较难站得 住脚。 那生成式 AI 呢？状况又有些不同。许多 AI 生成的作品确实不是单纯用於教育或研究； 从竞合的角度来看，也确实存在一些问题。例如，许多努力经营 SEO 的网站，在 Google 推出 AI 摘要功能後，流量便出现雪崩式下跌。许多艺术家与设计师也都面临类 似的状况。 但在「修改作品」这点上，就很有讨论空间了。比方说，奥特曼便主张，ChatGPT 这类大 型语言模型透过文字进行训练，其实就跟人类阅读书报、从中吸收知识一样。其产出的内 容是模型「内化」後的结果，与原作并不完全相同，因此理应不算侵权。 这点我觉得非常值得思考。确实，人类基本上也是在前人的肩膀上创作，但 AI 的规模化 速度与对原作市场的冲击，显然已非传统人类创作可比拟。这条合法与侵权间的界线究竟 该划在哪？老实说，我也还没有想得太清楚。因此，容我先停在这里，留给大家一起思考 吧！ 【AI 发展离不开「人」】 最後，想来聊聊「人」。 虽然 AI 发展有许多技术上的问题需要突破，但在阅读这本书时，我深深感受到，「人的 问题」同样是影响 AI 发展的关键要素。只能说，除了科技上的比拼，人与人之间也是斗 得很凶啊！ 前面提过，马斯克之所以力挺 OpenAI，某部分原因是不爽 Google 的佩吉。然而後来， 他也与奥特曼产生了激烈矛盾。主因在於 OpenAI 成立後的前几年始终没有太大突破；反 观 Google 旗下的 DeepMind，却靠 AlphaGo 大放异彩，让马斯克对迟迟拿不出具体成果 的 OpenAI 感到相当不满。 为了取得更多资源，马斯克与奥特曼等高层开始思考将公司转型为营利组织。这时，马斯 克顺势提出希望在公司转型後持有过半股权，并担任执行长的想法，但遭到反对而作罢。 之後，他又提出让 OpenAI 与特斯拉合并的方案，依然未能成功。最终，马斯克便与 OpenAI 分道扬镳。 时至今日，马斯克与奥特曼的恩怨情仇仍未落幕。2024 年，马斯克再度以违反契约为由 控告 OpenAI，理由是如今的 OpenAI 已完全成为有违公司名称的「封闭源」团体，实质 上更像是微软的子公司。 不过，这个理由其实不太站得住脚。毕竟，他自己过去也曾试图让 OpenAI 成为由自己主 导的公司。小林雅一就指出，马斯克其实也知道自己的胜算不大，但只要能透过诉讼拖 慢 OpenAI 的发展，对他而言就算成功了。（题外话，觉得这两人的纠葛还真的很适合拍 成影集（？）） 而前面提到的 OpenAI「宫斗剧」，其实也不单纯只是 AI 发展路线的分歧而已。事实上 ，许多人对奥特曼都颇有意见。例如，有些董事认为他刻意操弄董事会成员彼此对立；此 外，苏茨克维对奥特曼将 GPT-4 开发者雅克布．帕乔基晋升至与自己同等的研究总监职 位一事，也相当不满。种种因素累积起来，最终才导致了这场「政变」。 小林雅一对此有段很精辟的小结： 「虽然 OpenAI 一直高举『不是单一企业，以及为了全人类谋福利』这个崇高、远大的目 标，但这次的事件说明 OpenAI 与一般公司一样，都离不开人际关系的纠葛以及权力斗争 。」 这点不只适用於 OpenAI，我觉得放到整个 AI 发展史来看都成立。 不过，这些「斗争」似乎也不全然是坏事。OpenAI 在被马斯克抽银根後找上微软，最终 生出 ChatGPT；马斯克拂袖离去後，也打造出了 Grok；阿莫迪出走後，则推出了 Claude 。 或许某种程度上，要是少了这些冲突与火花，恐怕也不会有如今这样百花齐放的 AI 世界 吧。 【後记】 老实说，《天才的野心》这书名我觉得有点误导。乍看之下，会以为这是一本奥特曼的传 记。而日文原书名《イーロン・マスクを超える男 サム・アルトマン》则更浮夸，直接 把奥特曼形容成「超越马斯克的男人」。 但就如小林雅一自己在前言中所言： 「本书是以 OpenAI 为主轴，介绍微软、Google 这类主力玩家开发生成式 AI 的开发故 事。」 因此，实际上本书的内容算很中性，引用的也大多是公开资料。必须说，小林雅一整理得 很不错，不但流畅地带出了许多 AI 发展的重要细节，也把人与人之间的纠葛讲得十分清 楚，读来很畅快。 较可惜的是，小林雅一个人的观点相对少了一些。印象中，只有在「生成式 AI 训练资料 即将耗尽」这个问题上，有提出一点自己的看法。（这部分也很精彩，就留给大家自己去 看了。） 老实说，AI 这几年的发展真的快到令人眼花撩乱，怎麽追都追不上……而许多人也对这 项技术产生了不少担忧。例如最近美国年轻世代便出现了一股反 AI 浪潮，甚至有科技巨 头到大学毕典演讲时被嘘。 在这个时间点读到这本书，我觉得挺好的。正好可以停下脚步，回头看看我们已经走过的 路，也重新思考这一切发展究竟是为了什麽。 希望未来 AI 的发展，真的能对人类带来更多好处罗。 -- 姆斯的阅读空间 FB: https://www.facebook.com/maxjamesread/ IG: https://www.instagram.com/maxjamesread/ Podcast: https://apple.co/3THZYMo --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 27.240.33.223 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/book/M.1789917191.A.0F2.html