《连结》读後心得：六个重点看懂哈拉瑞新书谈 AI 资讯革命 《人类大历史》作者带我们从石器时代到AI纪元 图文好读 https://readingoutpost.com/nexus/ 有些书可以刷新我们的世界观。有些书用崭新的方式阐述一个重要议题。有些书启发我们 对未来的深刻思考。如果，有一本书可以三者兼具，那就是哈拉瑞的最新着作《连结》。 这本书在说什麽？ 《连结》的作者是哈拉瑞（Yuval Noah Harari），他是全球知名的历史学者和哲学家， 也是畅销书《人类大历史》系列的作者。他擅长以流畅、深刻、充满洞见的叙事方式，探 讨人类社会、科技和历史的关系，是我最喜欢的作者之一。他的书对我都有长远的影响。 这次他透过宏观的视角，从人类史前时代到当今的 AI 时代，探讨了资讯网路如何形塑人 类社会的发展。像是印刷革命虽然带来各种科学发现，但也带来了猎巫与宗教战争。报纸 与广播虽然有利於民主，但也遭到极权者的滥用。至於工业革命，也带出了帝国主义与纳 粹主义这样的灾难性实验。现在，AI 的出现更带来了新的挑战，特别是在真相、权力和 自由之间的拉锯战。 这本书最让我震撼的是，如果我们要看懂「未来」的 AI 发展，我们就必须先从「过去」 的人类资讯历史开始理解起。如果你对科技、历史和社会变革感兴趣，或是你特别关心 AI 趋势，这就是一本帮你「监往知来」的好书。 接下来我就分享为了理解这本书，我整理出来的六个重点。 一、从石器时代到资讯革命 哈拉瑞指出，整个人类历史就是一个「资讯网路」（Information Networks）的历史。 想像一下很久很久以前，在石器时代，人们没有电脑、手机，甚至连纸和笔都没有。他们 只能靠嘴巴讲话，把各种知识用「说故事」的方式传递传递给别人。当时，他们用这种「 口耳相传」的方法，建立了一个小型的「资讯网路」，范围大概就一个部落几十个人，了 不起上百个人。 後来，人类发明了写字的方法。他们开始在石头、树皮上刻字，记录事情，可以把更多的 资讯保存下来。这时候，部落的领导者们就发现了，他们可以用这些记录来管理更大的部 落，也就是一整个国家，这种人就变成了国王或皇帝，组成了国家政府，建立起一个更强 大的「资讯网路」。 如同作者指出：「资讯是让人类社会运作的黏着剂，正是透过虚构故事和幻想，人类建立 了合作的网路，并且累积了力量。」书中以基督教的《圣经》和犹太教的《希伯来圣经》 的起源故事，说明了资讯能藉由故事的传递创造出一种「全新的现实」，影响之後世世代 代的人类文明。 接着，随着国家变得更大、规则更多、组织更复杂，就演变出了大家常抱怨的官僚系统。 但是作者提醒我们，官僚系统是一种必要之恶，因为它创造了「秩序」。人们相信了由说 故事而组成的民族与国家，人们也需要官僚系统来让一切的运作保有秩序。 时间快转到现在，我们身处的数位网路时代，只要透过电脑和手机，就能立刻上网和全世 界的人分享资讯，让我们和别人建立起更大的合作网路。相反地，数位网路也让虚假资讯 、极端思想和歧视言论以惊人的速度传播，对社会带来负面的影响，让人们难以分辨真相 。 随着资讯更流通、更庞大，这个世界对於我们「个人」而言也变得前所未有的复杂。在未 来的 AI 时代，这个现象只会变得更严重。数位网路和 AI 就像一把双面剑，用得好可以 造福社会，用得不好也会带来巨大的麻烦。 二、资讯的双面刃特性 资讯是一种力量，而这种力量可以被不同的人以不同的方式使用。当资讯掌握在善良、有 同理心的人手中，它就能带来正向的改变。 比方说，医生会利用医学资讯来研究新的疗法，帮助更多人恢复健康；科学家利用数据来 找出解决环境问题的方法；老师则透过网路分享知识，让更多学生可以获得学习资源。这 时候，资讯就像是一股推动人类进步的力量，创造出一个让人类生活变得更好的现实。 但是，如果资讯落入极权者手中，情况就大不相同了。这些人可能会利用资讯来操控舆论 ，监控每个人的行为，甚至剥夺个人的自由。 例如作者就举了纳粹和史达林的案例，指出一个极权政府会如何使用各种资讯，来追踪人 民的生活，限制他们接触外界资讯的自由，营造出一个充满谎言、恐惧、不信任的社会环 境。这时候，资讯就成为了极权者用来控制和压迫人民的武器，创造出一个令人窒息和受 苦的现实。 哈拉瑞认为，像是古罗马和秦帝国，早在两千多年前就已经运用书写系统来建立官僚体系 ，透过资讯掌控人民的生活，维持他们的统治。 因此，作者指出：「资讯的本质既不单纯是好事也非坏事，它是一种能够创造新的现实的 力量。」透过资讯，我们建立了共同的信仰和价值观，形成了社会合作的网路。但同时， 资讯技术的革命也会打破原有的平衡，改变社会运作的方式，可能往好的、也可能往坏的 方向前进。 三、资讯并不是愈多愈好 有些人可能会认为，只要我们掌握足够多的资讯，就能找到世界上的真理和答案。所以资 讯应该愈多愈好、愈透明愈好，只要资讯够多、真相就会愈明朗，总有一天所有的事情都 能迎刃而解。这一派的人认为，得只要有足够的科学研究，就能解决所有问题，从治疗疾 病到消除社会偏见。 然而，作者提醒我们，这是一种「天真的资讯观」。这种观念忽略了资讯的真正作用。资 讯的目的并不是单纯去呈现「真相」，而是将不同的人事物「连结」在一起，创造出全新 的现实。 就像是占星术并不是科学，却能把恋人们放进「星座的组织」，让他们觉得自己与对方有 某种神秘的连结。再看看政治宣传，它透过资讯，让选民觉得自己和某个政党有共同的价 值观，凝聚成一个「政治的组织」；军队里面的军歌，则把士兵们团结在一起，形成一个 「军事的组织」。 这些资讯不一定有呈现出什麽真相，而是为了把人们连结和组织起来，让彼此产生一种共 鸣。资讯的价值并不完全在於它是否是真相，而在於它如何组织和影响我们的行为。 如同作者在书中所说：「虽然天真的资讯观以为只要有了强大的资讯科技，就必然能对世 界有更真实的理解，但事情实在没那麽简单。如果我们不付出额外努力，让天平往有利於 真理真相的方向倾斜，随着资讯增加得愈多愈快，就可能让相对稀少而昂贵的真实资讯， 被淹没在相对常见而廉价的资讯之中。」 这就是为什麽我们需要对资讯保持谨慎，不能简单地认为「资讯愈多愈好」。 四、AI会造成非人类智慧的挑战 书中也探讨到，现在 AI 人工智慧的蓬勃发展是一种全新的「资讯革命」。 人类历史里的石板刻字、印刷术、广播技术，充其量都只是一种「传递资讯的工具」，创 造出资讯的还是人类。可是自从「生成式AI」出现之後，一切都将变得不一样。这些 AI 能够撰写文章、创造音乐、编写程式码，它们自己就是「资讯的创作者」。而且它们正以 我们难以想像的速度，「加入」人类的资讯网路当中，甚至「取代」掉原本人类创作资讯 的角色。 因此，作者就指出，AI 最大的威胁不在於人类的智慧会导致自我毁灭，而在於 AI 这种 「非人类智慧」可能会创造出我们无法提前预见的问题。 AI 是一种完全不同於人类思维方式的智能，它不受人类情感、道德和价值观的限制，这 让它在处理资讯和解决问题的时候表现出超高的效率。然而，也正是这种「非人类」的特 性，使得 AI 可能作出一些人类无法理解，甚至无法预测的决定，并且可能等我们发现时 ，已经为时太晚。 这不是未来才会发生的事情，而是现在进行式。现在的 AI 已经开始掌控许多人类社会的 关键决策，书中引用大量案例说明事情的严重性，从银行贷款的核准到公司雇用员工，甚 至是司法系统判决是否将某人送进监牢。 像是被用来判断谁能够得到贷款的 AI，会根据你过往的数据做出决定，但它背後的演算 法和训练资料却可能存在着偏见。AI 可能无意中歧视某个族群或性别，让一些人无法获 得贷款的机会。更糟的是，因为 AI 的决策过程非常复杂，人类很难理解它为什麽做出这 样的决定。 书中也举了许多科技案例，像是 Facebook 和 YouTube 的推荐演算法。人类设定了「提 高使用者的参与度」的目标，结果演算法为了达到这个目标，发现那些会让人感到愤慨、 惊世骇俗、谎言连篇的内容参与度最高，所以就大力推荐这些有害的内容。随後引发的社 会悲剧和对人类的有害影响，在书中有更多的论述。 作者警告：「AI 有潜力成为新的网路，形成一个可能不利於人类的『虚构世界』。」真 正的世界末日可能不像是科幻电影演的那样，什麽机器人攻击人类之类的。更有可能的是 ，高度复杂的 AI 系统操纵着我们的生活，控制着我们的选择，影响着我们的价值观。它 不是单纯取代人类的智慧，而是创造出一个全新的现实，让我们陷入其中，无法自拔。 正因为这样，我们不能抱持天真的资讯观，认为只要有足够的资讯，AI 就会自动做出正 确的选择。如果我们对 AI 的运作原理和它的限制视而不见，就可能让它变成一种人类「 无法控制的力量」，给人类社会带来难以预测的危险。 五、资讯在民主制度的好处与隐忧 书中对於资讯和政府制度的讨论也非常发人深省。 以我们最熟悉的民主制度来说，很多人常见的误解，就是以为「民主等於选举」。这是一 个错的观念。很多极权国家也有选举，但那只是选一个仪式感而已。 民主到底是什麽？作者对民主制度的定义是「拥有强大自我修正机制的分散式资讯网路」 。 也就是说，在一个民主社会中，资讯能够自由流动，人人都有发声的机会，不同观点可以 相互讨论和挑战，并且纠正对方的错误。这种自我修正的机制，能够让社会在不断的实验 和错误当中学习，找到最符合公共利益的方向。正因为资讯是分散的，不会被少数人所垄 断，所以民主社会才能够反映多元的声音，避免极权带来的压制。 例如在民主国家里，媒体、司法、社群网路、独立组织都扮演着监督政府的角色。当政府 出现问题时时候，媒体和人民会发起讨论和批评，迫使政府进行自我修正。像是在新闻报 导揭露贪污腐败的事件後，社会舆论会推动相关部门进行调查，让真相可以公诸於世，确 保政府透明的运作。 但是，「大量的资讯」也可能成为民主的隐忧。 随着网路和社群媒体的兴起，资讯的传播速度和量级都达到前所未有的程度。问题在於， 当资讯太多而缺乏过滤和审查的时候，真相往往会被淹没在大量的错误资讯和噪音中。如 果没有足够的自我修正机制，这些资讯反而可能导致社会混乱，让人们迷失方向。 例如在社群媒体上，假新闻和阴谋论经常以惊人的速度传播。这些错误资讯透过煽动情绪 来吸引注意力，往往会比经过调查核实的真实资讯更受关注。当人们被这些虚假资讯误导 时，社会的自我修正机制便被削弱，民主的讨论也失去了基础，不再彼此信任，甚至可能 被利用来操纵民意。 如果一个民主社会不能保持「自我修正」的能力，那麽大量的资讯将成为民主最大的威胁 。如同作者的提醒：「如果要说民主的死亡，一种情况是人民没有了言论自由，那麽另一 种情况就是人民已经失去了倾听彼此的意愿或能力。」我们必须尽力避免情况演变成这样 。 六、资讯对极权主义的影响 作者指出，资讯对极权主义产生了巨大的影响，甚至可以说是极权政权的「武器」。极权 主义者利用资讯来操控人民的思想，控制社会舆论，并且强化他们的权力。他们监控人民 的行为，还透过筛选、操纵资讯，建立一个符合自身利益的「虚构现实」，让人民难以接 触到真实的世界。 书中举了希特勒和史达林利用资讯来巩固政权的经典例子。他们掌握了广播、报纸、电影 等各种资讯媒介，将宣传内容灌输给大众。他们制造各种谎言，煽动群众的仇恨和排外情 绪，宣扬自己的意识形态。这些资讯不但扭曲事实，还诱导人民接受偏激的思想，甚至支 持政府的暴行。 在极权者的手中，资讯网路带来的不是智慧，而是秩序；这套资讯网路没有找出关於人类 的普遍真理真相，反而是创造出一种新型的人类。例如前苏联的苏维埃人就被讽刺为： 「 一群奴性、悲观、不信任他人的人类，不论多荒谬的指令都会被动遵守，也对自己造 成的结果漠不关心。」 书中的论述让我最惊讶的一点，并不是极权者掌握 AI 之後就变得所向无敌。反而是这种 做法也有一个潜在的危险：AI 演算法可能反过来控制了极权者。 为什麽会这样呢？作者提醒我们，挡极权者使用 AI 来监控社会时，AI 是根据大量数据 和演算法进行决策的，甚至可以比极权者本身更有效率地执行任务。这看似是极权者手中 最强大的武器，但它背後隐藏的风险在於，AI 会逐渐成为一个「自我运行」的机器。 极权者可能最初设定了一个目标，例如维护国家安全或打击异议人士，但 AI 可能会按照 「非人类的方式」来达到这个目标，做出一些极权者都无法控制或预见的决定。这就导致 极权者被自己创造的工具反过来控制，无法掌握全局。 例如 AI 演算法给极权者一个建议，要他杀掉身边看似最忠诚的国防部长，因为这个部长 有造反的可能。请问他要杀、还是不要杀？如果他决定不杀，等於是还不够相信 AI，结 果可能真的被部长造反。如果他决定要杀，那就等於被 AI 操纵了。同样的道理，可以延 伸到更多层面。 最後，极权者可能失去对社会监控的主导权，反而被 AI 演算法的运作给影响。作者警示 道：「人类如果要对抗 AI，里面最弱的一环大概就是独裁者。AI 如果要夺取权力，最简 单的方法并不是逃出制造科学怪人的实验室，而是要赶快去讨好那几位偏执的独裁者。」 後记：人类抉择的关键时刻 《连结》这本书提醒我们，现在正是人类面临抉择的关键时刻。未来并不是一条固定的道 路，我们仍然有机会透过明智的选择来避免最糟糕的结果。当我们看懂资讯网路在人类历 史中扮演的角色，才能更清楚地知道未来应该何去何从。 如同作者所说：「资讯网路既可以赋予我们力量，也可能引领我们走向自我毁灭。」我们 不能过於乐观，放任不管让资讯网路自行发展；我们也不能过於悲观，因为资讯网路的进 步的确会促进人类社会的进步。关键在於，要对资讯保持清醒的反思，运用它来创造对人 类社会有益的未来。 总结来说，这本书提倡的核心思想是：「想要打造更有智慧的网路，需要的只是我们放下 天真与民粹的资讯观，摒弃想要绝对正确和不犯错的幻想，并且认真投入一项困难但平凡 无奇的工作：为各种机构制度打造强大的自我修正机制。」接受错误、修正错误，远比永 远坚持正确来得好。 就如同民主社会的修正制度一样，也要替 AI 建立一套可以「自我修正的机制」。也就是 说，我们需要不断反思和监督 AI 系统，设立监管机制，来确保它们的运作符合人类的利 益，而不是反过来操控我们。我们必须确保强大的力量能受到制约，能做出自我修正。 我非常推荐你找这本书来读，你会发现「原来一本好书可以带来这麽多的启发」。就像我 当初读完作者的《人类大历史》系列之後，受到巨大的震撼，用全新的视角看待这个世界 ，然後就彻底爱上了阅读。「读喜欢的书，直到爱上阅读」，这本书会让你爱上阅读的速 度更快一点。 -- 书评部落格「阅读前哨站」 https://readingoutpost.com/｜一个爱书人的阅读笔记 Podcast「下一本读什麽?」 https://readingoutpost.com/podcast/｜我的说书频道 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 1.164.99.7 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/book/M.1729392231.A.BAA.html