※ 引述《reader (读者)》之铭言： : ※ 引述《A1Yoshi (我是按摩棒...)》之铭言： : : 不过你这里最後三句则颇令人玩味。为什麽当一个系统处理复杂资讯的能力等 : : 於或大於人类时，我们就该考虑伦理问题？ : : 似乎你讲的理所当然，但在我看来这好像只是针对某类（或某个）哲学问题的 : : 一种主张而已。似乎你认为资讯处理能力是伦理规范对象判准中的一个？ : : 但为什麽它要在那判准里？ : : 我想如果你要回答这问题，可能还是得回到"What is the mind?"这问题以及 : : 进到伦理学或後设伦理学里头来讨论才行。 : 我的概念是，一个与人类共生的复杂系统，无论是动物还是机器，都会让 : 人产生情感依赖，如果能有可以独立解决复杂问题的机器出现，那麽机器 : 在伦理问题上的地位应该不亚於动物权问题。 第一个命题就有问题。为什麽一个与人类共生的复杂系统都会让人产生情感依赖？ 先不论情感依赖与动物权问题之间的相关性，那个稍後再谈。 你如何论证，当一个人与一个复杂系统共处互动时，就一定（或很高的比例）会产 生所谓的情感依赖？我质疑。我举AI那部电影为例。我把advantage给你。假设电影 里的小孩跟真的小孩几乎无异（除了物理组成或结构），真的所有人都会对它产生 情感依赖吗？（电影里那个小孩还是与真小孩有差别，但假设没差别，至少外显上） 拿爸爸来说，你确定爸爸就会因此把它当作是真小孩看待并与之互动吗？ 我之所以认为这问题还是要回到"What is the mind?"这问题，一个理由就是如果 说人们认为机器不可能有mind，即使功能上几乎等同，那麽，人们或许还是不会赋 予它们任何伦理道德上的地位。也就是说，它因为没有心灵或没有生命，所以跟一 颗石头无异，顶多只是一颗很聪明的石头而已。（很聪明在这儿还只是一种metaphor ，而非字面上真正的意思，不是作为心灵述词使用） 再来是情感依赖的问题。难道一个东西被赋予伦理道德地位，人与之产生情感依赖 是必要条件吗？我觉得不是耶。什麽是必要的？有没有生命、有没有灵魂（心灵） 才应该是必要的吧。 我不否认情感依赖搭配上其它更核心的必要条件时，或许有助於提昇某物的伦理道 德地位，但能让人产生情感依赖似乎不是那麽必要的东西。 假设现在世界上恋物癖的人很多，尤其是男性，所有男性都迷恋丝袜，成天抱着丝 袜上班、睡觉。难道法律会因此赋予丝袜「丝袜权」吗？好像不会吧。如果丝袜没 有心、没有生命，管它能让人产生多强的心理情感依赖，它就仍旧只是丝袜而已。 反过来说，一个有生命有心的东西，即使人类实在几乎不会与之产生心理依赖，还 是会有人主张它有一定的伦理道德地位，甚至扞卫它的权利。 我想，至少，如果你要说一定会，你欠一个论证。 : : 不过我不是很懂你这里「自我意识」的意思是什麽？我的理解是，就算人有一 : : 天像寄生虫一样也不表示人将因此失去自我意识啊。这两者有啥关连？ : 自我意识的强度和人类自主生存的能力有关。 : 当个人的自我意识弱化到一个程度，机器的决策权力强到一个程度，那麽 : 人与机器的分界，应该会出现问题。 那应该只是定义问题。在心灵哲学里，一般来说所谓自我意识（self-consciousness） 是指一种概念能力。哪种概念能力？简单说就是区分内外在，或者，区别「我」与 「非我」的概念能力。 有些人认为这种概念能力与语言能力密切相关。这种能力预设语言能力。故在这观 点下，没有语言能力的认知系统就没有自我意识。不过这部分是比较可争论的。 ---- 基於这样的理解，我才会觉得自我意识怎麽会和人类是否能够自主生存有关。一个 残废全身不能动的人，或者是一个在许多方面受限的被支配的奴隶，都还是有可能 保有自我意识。 不过我倒是从你那句「决策权力」延伸想到一个有趣的问题：假设有一天我们被电 脑主宰控制，包括我们身体的运动与知觉（也就是说，我想举起左手但左手动也不 动，或者，我觉得我的脚是平放的但我瞪眼看却发现他高举在头顶），我们的自我 意识会发生什麽样的变化？ 有的哲学家基於这样的思考，提出Embodied view of the self。 不过我想笛卡尔的我私故我在可能在此提供反驳的基础：即使运动知觉都不可靠， 我们只要还能够做思考，那麽，我就存在。 似乎有点道理。似乎还是有一块「纯粹的内在」或「主观观点」存在，而这就是 the self。这个纯粹的内在与思考或意志有关，而与感觉运动无关。 不过拉回来。我想请你说一下，你所理解的「自我意识」是什麽？因为显然和我 的不大一样。这个不谈清楚，我无法对你後半关於人和机器的分界那句下判断。 : : 至於「作出消灭人类才能更有效率工作的决策的电脑系统」是否蕴含该系统具 : : 有自我意识，我觉得这倒是一个不错的问题。可以挖挖看。 : 其实我这些说法，都预设了自我意识可能是一种个体与外界互动所产生的 : 复杂现象，需要有复杂资讯的处理能力，却未必要有一个实在的自我意识 : 产生机制存在。 : 一个在决策时会区别考量个体与外界的系统，可能就是自我意识的初始。 : 当然我不宣称什麽，只是个人直觉、没有足够思考的观点。 我怀疑你混淆了区分"the self"与"self-consciousness"两者。 我举猫做例子，区分两者。不晓得大家是不是有看过小猫咬着自己尾巴，一脸 痛苦但又彷佛不知道其实是「自己」的牙齿咬住尾巴所以痛？（也因此不晓得 其实只要嘴放开，牠的痛感就会消失了。） 在这例子里，猫会痛，表示有一个感觉主体或中心存在。但牠显然缺乏自我意 识，也就是缺乏区分所谓内外在的概念能力。 猫有内在，所以牠会痛；但牠不知道有内在与外在的区别，它并没有对於自己 的嘴以及自己的身体形成表徵，并进而了解这些表徵与痛的经验之间的因果关 连。 许多哲学家相信存在一个机制专门负责"the self"（不是self-consciousness） ，从我这例子可以理解。一个能够形成感知觉中心的系统可以不必然具有自我 意识，而自我意识可能与高阶的语言或表徵能力有关。两者至少在概念上是独 立的，两码子事。所以如果要找物理基础，势必两者的物理基础是不同的。自 我如果有基础，也一定是透过某种特别的机制产生。而自我意识，反过来说， 因为它与表徵能力有关，故反而比较可能与你所说的复杂资讯处理能力有关。 你的看法我认为有可能倒果为因。一个系统就算可以对所谓的内外范围形成表 徵，不表示因此就自然地成为一个具有感知觉中心的认知系统。你当然可以主 张前者与後者之间存在因果关连，不过我想你需要论证，而不能仅只是主张。 我现在的看法是，一个够格称之为有自我意识的系统，而非一个「拟似」具有 自我意识的认知系统，它必须先有自我，作为该自我表徵的对象。 否则，如果没有自我，那麽这表徵是一个假的表徵（某种幻觉的意思）。 而这区分导致，可能存在一个外显上和有真的自我意识的认知系统难以区辨的 系统。我们可能很难区辨，但这是方法学或知识论上的问题。重点在於，它的 自我表徵（或说，自我意识）是不是真的表徵到自我（the self）。 我举另一个更极端的例子：搞不好细菌也有自我，有感知觉，但它显然没有自 我意识。它显然没办法表徵自己，将自己表徵成作为一个与外界在某意义下割 离的东西。但它被盐酸溶解时可能会有感觉产生。 : : 如果是这样，那物理学家问宇宙起源问题....也不实在罗。 : 所谓的实在问题，是指我们「有能力」去回答的问题。现代的物理学家 : 问宇宙起源应该是一个实在问题，而古代人问宇宙起源则不是一个实在 : 问题，或许他应该更关心自己的生存状态问题。 典型的ad hoc说明。你如何可能抽离你身为现代人，只拥有现代人知识与能力 这事实，站在一个超然的角度评断现代的物理学家有，或没有能力问宇宙起源 问题？你那「额外的」判断能力哪来的？ 我们之所以可以判断古代是因为我们站在现代。这部分有道理，但我们如何站 在现代评断现在？ 如果把「能力」看的弱些，我想我们还是有能力回答心灵本质问题。事实是， 我们对该问题提出了很多版本的答案。这样看的话，我们难道没有能力吗？ : 因此相对上，研究复杂资讯处理，会比急着建立心灵本质的理论，更为 : 重要，至少单就电脑科学的研究而言。 我觉得就像我说的嘛。问题、目标，想要的东西根本不一样。 电脑科学如果是希望用电脑（广义的）作为了解心灵本质的模型，那麽它就必 然得涉入哲学范畴内来谈，并回答过往的无数哲学问题。 如果电脑科学不是要解决心灵本质的问题，只是想设计出一台可以消灭人类或 让人类难以区辨是否有心灵的超级智慧系统，那我想的确它就可以不回答心灵 本质的问题。 不过说实话我觉得这种目标有点无聊。很会算、算的很快很准，可以处理很复 杂的资讯，然後哩？除了对人类的实际生活面有工程面的影响以外，回答了什 麽关於这世界本质的任何问题吗？ 深蓝可以下赢棋王。然後呢？再多加一百种一千种一万种能力好了，然後呢？ 然後他可以上街行骗，骗人说它有心灵，是人。但对哲学家来说，这可能只是 因为人太笨了。比方说，我只要打碎它，看看它是不是脑做的我就知道（至少 有理由这麽说）它是真的人还是假的人，它有心还是没有心。 如果不是有着「以此为模型，了解心灵本质」这目的，这一切在知识上或学术 上或甚至哲学上，有意义吗？ : : 你能否举一个例子，怎样的哲学理论（处理哪一个或哪类哲学问题）被资讯 : : 理论和计算理论讨论？我没有怀疑或否定的意思，我只是想知道那个讨论大 : : 致长什麽模样而已。 : 从物件导向兴起以来，现代的计算观点就是「模拟世界、加以处理」。 : 人们想要在电脑中建立一个与真实世界对映和连结的空间，想要将真实世界的 : 事物「资讯化」，於是我们开始讨论各种事物的意义是什麽，它是由什麽样的 : 状态和性质组成的，可以怎麽分类，怎麽分类才是对的，而事物之间的关系是 : 什麽，有没有简化的可能，有没有自动化的可能，抽象化到最後是什麽东西， : 复杂行为或事物该怎麽描述... : 大致上就差不多都是形上学议题吧。落实到程式设计方法上，更是意识形态的 : 问题很大，例如早期就有是否应该建立唯一的根类别，以产生出所有的子类别 : 以建立物件的问题，然後有唯一根类别的系统跟其他有唯一根类别的系统，就 : 无法在程式码阶层相容，最後吵出了领域的概念，类别必须有归属的领域，以 : 避免同名的类别冲突。另外有一派则坚持最上层的类别必须是抽象性质，不能 : 汇聚为单一类别却没有性质，又有一派认为意义是流动的，功能必须先於类别 : 而存在，具有同一组功能的物件即为同一类别... 简直是宗教理论的大混战， : 人们必须先有一套完整的世界观，才能有效地设计程式而不发生矛盾问题。 : 而比较核心的议题，则是在规则的规则，或是如何发现资讯背後的规则之上。 : 其中又大量牵涉到资讯和程序的意义和分析问题。 ....我怎麽没看到形上学问题？我只有看到「复杂系统该如何设计」这问题而已？ 还是你觉得该怎麽设计复杂系统这问题等於形上学问题？ 我这样说当然有点故意。我并非没看出其中问题与回答问题时思维的相似。 不过我会倾向这样说：从如何设计复杂系统或许可以作为我们了解我们如何了 解世界、与世界互动（心灵本质这大问题底下的许多小问题）的一个好模型。 甚至，复杂系统本身就能使我们更了解这世界运作的方式与其本质。 ---- 说实话我可以理解你在想什麽。但我觉得你犯了一个我认为许多科学家都常犯 的毛病：冲太快，太过乐观，许多概念（或问题）的连结太草率。 我也晓得复杂动态系统或许是当今最好的心灵模型。我也打算因此去补足需要 的数学分析背景以便更了解这套模型（我相信很多国内连微积分都没修过的哲 学家是几乎不可能办到这点的）。但这不表示「答案就在这儿了！YA！就是他 了啦！没更好的选项了！就是它就是它了！」。至少哲学家不会这麽冲动地那 麽快就下结论。 别忘了，科学史上曾出现过不晓得多少次的这种「乐观」与「最棒的理论、最 好的模型」。 : : 有的哲学家可能会持赞成的立场，有的可能会反对。 : 这当然是哲学可以参与的地方，只是我觉得哲学应该能做更多事才对，只是 : 缺乏适当的交流互动和积极参与。 这点我绝对同意。不过据我所知，要能够成熟地讨论复杂系统，预设了数年的 数学分析训练。而这不是许多哲学家，尤其是国内哲学家可能办到的。国内的 许多哲学家从高中开始就数学不好啊....对物理化学的知识更是接近零。 : : 证心灵是不可计算的。故，可计算的系统绝对不可能有心。 : 在另一篇我提到了，现在的主流观点是建立一个架构在计算系统之上的复杂 : 系统，理想的状况可能是一个由预设规则和外来资讯共同决定的多层结构， : 固定的资讯形态在浅层即行处理完毕，愈特殊的资讯形态就可能进入愈深层 : 处理并影响系统状态和规则，能够在愈长的资讯序列中愈早发现资讯形态， : 其处理复杂资讯的能力就愈强。 : 这类型的系统应该没有那种规则运算的毛病，有限规则不能处理复杂资讯， : 这是混沌学开宗明义就建立的概念，只有复杂才能对应复杂。 我所知道的是这样的，或许相对粗浅了些，还请赐教： 所谓可计算，意思是说可以找到至少一种方法，依循该方法可有效的得到答案。 拿某一个系统在某时间t的总状态为例，如果存在一种方法使我们可以算出在t+1秒 时该系统的总状态（也就是状态向量中的各成分向量值），那麽，这个系统就是 原则上可计算的。反之，不存在这样的方法的话，那麽，该系统就是不可计算的。 我所知道的是，复杂系统好像可以依此大致分成这两类：可计算的与不可计算的。 因此，如果说心灵是不可计算的，那麽可计算的复杂系统就不够格成为心灵的模 型。故心灵是否是一个不可计算的系统是一个很重要的问题。 也因此我才想问你，你所谓「无法轻易」确定下一刻的状态是什麽意思？可能 只是因为很难算（相信国中学代数时都碰过自己解不出来的函数），但不代表 原则上就算不出来（根本不存在方法让你把值求出来，但就是会有一个（或一 组）值为真）。 : : 或者，至少无知也知道自己无知然後会赶紧去把需要的补起来。 : 我哪有那麽多时间，会看中文译作或中文写作的东西，已经比许多其他人都要 : 来得积极了。台湾的学者就算水准不够，那麽多翻译一些进步的作品也是功德 : 无量了。 哈！如果我上述的分析或理解没错，国内的哲学家是不可能有本事翻译关於讨 论复杂系统的哲学论文（书）的。理由很简单：因为光连什麽叫复杂系统都搞 不懂，更遑论是讨论那套理论的论文呢？ 但我可以说，有，而且为数很多。国外的哲学家一堆数学系物理系毕业的，要 学会复杂系统相对来说比较不困难。 简单讲：目前以及过去国内的情况，是不大可能养出两边都懂的人。 要有这种人，我这一辈的（或比我长五届以内的）或许会是第一批吧。 -- PTT2 自然就是美 => 百慕达群岛 => 漩涡 => PinkParties --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 210.201.190.211