※ 引述《reader (读者)》之铭言： : ※ 引述《A1Yoshi (宽广 无际)》之铭言： : 1. 在功能上，它们是否能完成人类的行为模拟。 : 2. 在结构上，它们是否有跟脑神经系统等同或超越的运算潜能。 : 3. 在运作上，它们是否能实现所有已知的脑神经系统机制。 : 如果只完成第一项，那麽说服力不太够，研发人员也不会满意，完成了 : 第二项，就是等待被认同的一天，也许很快也许需要很久，但是完成了 : 第三项，那麽研发人员就能够宣称人造心智的成功实现。因为它已经是 : 一个通过科学检验的成果。 : 而我目前看到的哲学上的批评，包括你在内，全都集中在功能面的近似 : 不能解决内在系统的等价问题。可是，我从来就没有宣称通过 Turing : Test, 人类无法从外在功能判定人造心智和人类的差异就完成了。 我怎麽会是集中在"功能面"的近似呢？这应该是你的主张吧？ 如果说你的"等价"包括了我所强调的主观感觉，然後你提出足够的证据证明 人造心智跟我们一样有主观感觉，那我想必须接受人造心智完美地成功。 问题是，你如何证明人造心智跟我们一样有主观感觉？就像你说的，真的要 怀疑，我连坐在隔壁的同学会不会有感觉我都无法确定。所以你只要宣称人 工心智跟我们一样会有痛的感觉，你就必须提出一个证明，证明她会痛。 你问我，那为什麽我不问坐我隔壁的人会不会痛？我的答案是，他跟我一样 都是人，由类似的材料组成，跟我一样有一个肉身一个肉脑。如果人工心智 用的是跟我们一样的材料，一样是碳基生命，那我根本不觉得那是所谓的人 工智能，你只是透过生物复制技术复制一个人，使一个人透过其它方式生出 来而已。如果这样就算人工智能系统，那试管婴儿也一样算是人工智能系统 。这不算人工智能系统，因为他不是人工的。大脑并不是人设计的，身体如 何长也不是人设计的。人工智能系统应该从每一个细节都是人工的，而且材 料也和我们不一样。它不一定非要是矽基，不一定要是金属，但它至少不该 是跟我们一样有DNA，蛋白质，碳水化合物，脂质。 还有"实现机制"这四个字怪怪的。一个系统可能有，或者没有某一个机制， 而不是实现或者没有实现一个机制。是我会这样说：要是人造心智有一天拥 有能够产生主观感觉的机制，那我接受人工心智完美成功。问题是，这个机 制到底是什麽，至少目前科学家还没有人能够提出理想的答案。 : 比较有趣的地方是，到最後会自然出现一些特别的、支援性的 s, 若是 : 经过它就代表会经过绝大多数的 s, 亦即几乎整个 S 都会收到 m. : 那麽，当 m(t) 进入 S 当中，在产生 v(t-1) 和 r(t) 之前，也就会有 : 让许多 s 处理的长路径 P 跟只经过少数 s 的短路径 p 的分别。全新 : 经验则往往是 P 而不是 p, 因为要大家一起协调处理未知的事物，例如 : 被针刺到就是，但如果你每天被刺几百次，刺上一年也就几近无感了。 : 於是 P 是意识, p 则是潜意识。两者的界限不明。经过 P 的 v 是感觉 : r 是有意识的反应。经过 p 的 r 是潜意识的反应，而 v 仍存在，只是 : 自己不太知道。 首先，每天被刺几百次，刺上一年会几近无感是一个经验问题，可以做实 验得知真还是假。不过我没看过这样的实验。而且我认为要是真的实验， 结果可能不会这样。我的理由很简单，痛觉的产生不需要经过学习，痛觉 天生就有。另一方面，就算你硬要一个人学会把痛觉消除，他也学不会。 他可以学会遇到滚烫热水但不把手缩回来，这可能可以学。但是你要他学 会在不缩回手的同时"没有感觉到痛"，我觉得这不大可能。这就好像我要 你硬去把视野中看到的正方形变成三角形是不可能的事情一样。 再者，你还是把两件事看成一件事。你讲了一堆功能状态，描述了讯息如 何流动，设计了很多次系统平行地或有顺序地处理讯息。问题是，你如何 证明这些讯息的流动就是会产生主观感觉？在这里，痛的感觉是不必要的 ，痛的感觉可以没有任何功能。 你可以设想这样的情况：一个人从出身到死从来没有痛过，但他功能很正 常，当他碰到滚烫的水，她会缩手，他也会记得下次不要再碰。他可以有 一切正常的功能，但就是没有痛的感觉。痛的感觉可以没有功能。 临床证据有很多这种例子，盲视(blind sight)就是一个。 你这里谈的意识，其实只谈到Ned Block所说的A-consciousness。A-consciousness 本来就是比较容易，甚至功能论可以处理的问题。难的问题是P-consciousness。 : 其实这用基因演算法会比神经网路好做，神经网路比较是底层的运作， : 或结合起来实作也不错。若用单个神经网路，不管结构如何，只怕不易 : 处理像是连续神经刺激讯号的抑制和触发过程。 : 当然这极为简略，疏漏也相当多，重点是，用神经网路加上基因演算法， : 是有可能做到，和目前已知的大脑神经机制和心理学机制相近的结果， : 而且也是最为自然的做法。只是光是要产生和大脑一样的复杂度以承载 : 可能高达六个层次的 s -> S 过程，最终成形为真正的自我整体意识， : 则远非现在能完成的。 我这样子说不知道会不会清楚一点。你只是制造出一台"能够功能上、外在 行为上"跟人类很接近的人工智能。她好像有自我，也会使用"我"这个字。 她好像有意识，你戳他他也会叫痛。 问题是，你怎麽知道她意识经验的"内容"不是一片空白？ 你可能是习惯用客观标准来定义、理解事情，因此习惯性地把无法客观定义 的现象给根本取消掉。很多中科学毒的学生都有这问题，得花很多时间告诉 他们什麽叫qualia。qualia其实超级简单，因为只要你在有意识的情况下睁 开眼，你就一定有视觉qualia。用英文讲，拿红苹果来说，所谓的qualia就 是"the feeling of the redness of the red apple"。 每一天其实跟你最 亲近的，就是那些丰富的qualia。 科学训练有一个很糟糕的地方，就是凡是都只讲求客观，因此无形中人也变 的"只懂得客观的事物"，而不大能理解关於"主观的现象"的词汇。这很奇怪 ，因为无论你看到、听到、闻到、碰到，产生的经验都是主观的经验。我只 不过是为那些丰富的感觉取了个名字方便称呼而已。但这就落入了你说的" 名词问题"吗？我想不会。主观感觉比什麽都真实，比什麽都直接。你也许需 要从课本上从老师那儿才知道地球是圆的，但你不需要别人告诉你你有痛的 感觉。你可以怀疑地球是圆的，但你不会怀疑你正在牙痛。 我用一些日常例子来协助了解到底什麽叫主观经验的内容，也就是qualia。 你想像一下你刚被针戳了一下。你觉得痛了一下。好，你因为一天到晚都被 针戳，所以你练就了一身功夫，被针戳了，眼睛不会眨，嘴巴不会张开，声 带不会振动，甚至，你也不会冒汗，不会因此心跳加速。 你满足了"客观定义下这个人不会痛"的条件，因此一堆心理学家对你说：嗯 ，你没有痛的感觉。你不要说谎了，我们知道你没有痛的感觉。 这是不是很奇怪？ 反过来说，心理学家依靠什麽判断这个人到底有没有痛的感觉？依靠的是主 观报告。主观报告依靠的是什麽？依靠的是受试者到底有没有痛的感觉，还 有他到底有没有诚实地报告她的感觉。 如果说有一个人他其实没有痛的感觉，但她说有，你没有任何客观理由可以 凌驾她的主观报告，说她说谎。你说：可是他没有流汗，没有心跳加速，没 有大叫，没有....等，对他的所有观察结果不满足"痛的客观指标"啊！ 嗯，听起来好像有道理。 问题是，这些客观标准怎麽建立的？这些客观标准建立在其它早期的受试者 的"主观报告"之上。当初有一堆受试者被针扎了，他们大叫，他们流冷汗， 他们某一个区域的脑活动旺盛....等。 科学家先假设A有痛的感觉P => 在A身上观察到一些客观现象（心跳、冷汗、 C-fiber firing等） 之後有一个B，在B身上都可以观察到这些客观现象，你可以因此说她有痛的 感觉？不可以，这些客观现象的观察结果最多只能说是痛觉P的必要条件，而 不是充分条件。 这告诉我们什麽？这告诉我们，当我们在谈主观感觉的时候，主观报告凌驾 任何客观标准。主观报告就是最强的证据，这个证据凌驾任何透过仪器、透 过观察提供的证据。如果你否认这一点，认为客观证据凌驾主观报告，就有 可能会发生以下荒谬的状况： 机器告诉我，或者科学家告诉我，我正在牙痛（或者，我正在性高潮），但 我明明就没有牙痛的感觉，我没有感觉到性高潮。可是机器是对的，科学家 的观察是对的： 结论：我正在痛，但我没有感觉我正在痛。 这也是为什麽我说如果人工智能"说"他感觉到痛，我不能够还是坚持他不会 痛。我只能说我不知道。我之所以相信我隔壁的同学会痛是因为他跟我有类 似的结构，加上她的主观报告，但现在这个人工智能跟我的组成结构不一样 ，所以我不知道他到底痛不痛。你要我相信人工智能也一样有痛的感觉，我 需要别的理由（比方说，关於痛的感觉的理论）。 这里我也附上一个临床的例子，省得你觉得我只是在进行哲学诡辩： 病人S，他进行全身麻醉，他通过所有检测意识是否消失的所有客观标准， 客观来说，他应该失去了意识，也就是说，乱割他身体他也不会感觉到痛。 但妙事发生了，这病人麻药退掉以後，第一件事情就是找医生算帐。 这病人并没有失去意识，但他在所有的生理指标上都显示他应该没有意识。 他记得所有的手术细节，最恐怖的是，他感觉到前所未有的痛。 有人argue说这是病人在作梦，或者是假记忆。问题是，这病人可以清楚的 描述手术过程，这不是梦，当然更不可能是假记忆。这病人之後还有PTSD， 这也可以作为不是梦、不是假记忆的佐证。 所以呢....研究客观存在的事物采取客观的定义、客观的方法、客观的标准 没有问题，但碰到主观经验的研究时，就会严重触礁。 : 我没有说这样的理论正确或完善，重点是，用现有已知的机器学习理论 : 机制，就可以趋近现有已知的认知科学结果。而这正可以给予科技研发 : 人员相当的信心。 : 若这个过程和真实相近，则要找出感觉就得找出 P 是从哪些 s 达成， : 而它可能是随机生成的，在生理上的差异可能极为微小，也就不易解释 : 为什麽通过 s 的讯息就往往可以形成感觉。直到我们能够建构出一个 : 人脑的完整讯息传播路径才能证实。 通过s的讯息为什麽一定就会产生感觉？他可以不产生感觉，但讯息一样 通过，功能一切正常。 : 不要跟我说什麽模型太粗糙，在网路上没查资料直接写的东西，能够有 : 什麽精致度可言，重点是它有没有一点点的发展潜力。 重点是这是一个典型的功能论model，而功能论本来就无法解决意识经验内 容的问题。否则你告诉我，为什麽这个模型就是会"产生"感觉？ : : 象的无能为力。 : 但 A 如果不先知道「高潮」是什麽? 她怎麽知道她有没有高潮? : 所以，主观和客观的差别，未必那麽巨大。差别也许在於精确和模糊的 : 名词定义上，而不是能否由他人验证上。 这个有趣。我们可能在经验过高潮之前，就先"知道"什麽是高潮吗？ 在这里，你所谓的知道到底是在说什麽？你这里的知道，到底是知道什麽？ 顺序应该是这样的：A在性活动过程中有了某一个特别的感觉经验，经过 别人告诉他，这特别的、强烈的感觉叫做性高潮。如果他生在美国，那他 不会懂"性高潮"这三个中文字，她会用英文orgasm。 会写性高潮三个字，知道性高潮是性过程中可能产生的感觉....等， 和"经验过"性高潮可是完全两码子事。类比的例子：就好像路考和笔考完全 两码子事一样。 这里和精确和模糊无关，关键在，那个人到底有没有经验过那样的感觉。 : : 这怎麽会是qualia呢？你讲的这个是心智系统的某一个功能状态。qualia : : 指的就是"那个"感觉，在痛的那一瞬间，"那个痛的感觉"。 : 於是就可以推论，感觉是一种意识。意识是一种可以控制身体绝大多数 : 动作的大脑功能，亦即多数神经系统处於单一控制下的状态，由於意识 : 不源於大脑的特定区域，即意识即大脑神经讯号普遍相互传达的状态， : 意识的层次可能有很多种，复杂的像人类的思考，但简单的，连狗都会 : 痛，这都是意识。而被敲膝盖则小腿弹起来的反射动作，则不是意识的 : 作用。 你谈到核心了。对，这就是意识问题。一个人不可能在无意识前提下感觉到痛。 但意识不必然就等於你所讲的"控制身体绝大多数动作的机功能"。 一个具有内在调控能力的复杂系统为什麽就会产生感觉？ 这里就是你应该要区分开来的地方。意识经验，和调控功能两者是两件事。如果 你要说她们是同一件事，你得提出理由。否则计算机会做算术，人也会做算术， 人有自己在做算术的意识，计算机也会自己在做算术的意识。 : : 我也没有否定科学，我只是想强调： : : 一切的谜底要解开，光靠眼前的科学是不大可能的事情。科学可以解决， : : 也确实解决了许多问题（包括许多哲学问题），但不代表与生命有关的一 : : 切的问题科学都可以解决。 : : 因此，我们可能需要新科学。 : 嗯... 那你心目中的新科学是什麽样子呢? Susan Blackmore, 2004, 'Consciousness -- An Introduction' 最後几章有谈到一些研究意识问题的第一人称approach。不会很令人意外， 这些方法包括了：打坐，meditation....等。 不过这些方法是否该被称做新科学，我觉得还很难说，但新科学主要是为了解决 意识问题，这点是肯定的。客观科学的客观研究法，漏掉了一大块这世界真实存 在的主观现象，新科学负责把这一大块也纳入科学的研究范畴内，试图了解到底 这些主观现象为什麽会存在，如何存在，还有存在所遵守的原理原则是什麽。 我心目中的新科学....至少该包含第一人称approach，也许也该把第二人称 approach给抓进来。 --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 140.129.70.52