※ 引述《flamerecca (werewolf)》之铭言： : 参加意识沙龙第二弹、周二(1/22)讲座「人工智慧有没有意识？」 : 蛮有趣的 可以从不同的角度看待这个问题 : 以下做点心得笔记 与大家讨论看看 : ======= : 首先 什麽是「具有意识」？ : 能与我谈话的人就是具有意识的吗？ : 可是有的人会幻想不存在的人存在 : 这个幻想中的人也是可以与他对话 沟通的 : 该幻想也是具有自己的意识的吗？ : 即使我们确知旁边的人存在 : 我们怎麽知道旁边说话的人确实具有意识？ : 就因为看起来具有意识 : 所以我们就可以说他具有意识吗？ : ========== : 今天假设我们把这问题舍弃 : 设定「只要功能与人没有差别 就视为具有意识」 : 把这些功能整体称为「意识功能」 : 那麽下一阶段：电脑有可能完全具有意识功能吗？ : 我们假设这边所说电脑的结构 : 还是传统的图灵机架构 : 这个机器有几个性质 : 1. 不存在绝对随机 : 2. 有无法计算的问题 : 人脑有这些性质吗？ : 换句话说 自由意识是物理上的必然还是随机的？ : 有没有人的意识绝对不可能处理的问题？ : 第二点需要解释一下 : 根据哥德尔不完备定理（取自维基百科） : 任何一个相容的数学形式化理论中，只要它强到足以蕴涵皮亚诺算术公理， : 就可以在其中构造在体系中既不能证明也不能否证的命题。 : 但是人却常常能想到新的理论 : 让他与原本的理论相容 却又能解决原本体系中既不能证明也不能否证的命题。 : 电脑能作到这件事情吗？ : ===== : 会上还有提到所谓「华语房间」的概念问题 : 这是反驳机器可能具有意识的思想实验 : （主要是反图灵测试 : 图灵测试是说 如果一个机器可以与人对答如流 : 与一般人无差别 我们就假设他是具有人类智慧的） : 我们可以假想 有一个房间 内外通个管子 : 外界看不到里面 只能丢纸条与里面的人沟通 : 房间里面 有一个说英文但是不懂中文的人 : 纸笔 以及一本指导手册 : 今天外面的人丢中文纸条（假设：「你好吗？」）进来房间 : 当然 房内的人看不懂中文 : 不过他有一本厉害的指导手册 : （If you see "你好吗？" , thew answer should draw like "我很好！".） : 因此他能在不理解中文的状态之下 如同懂中文一般的回答 : (当然这是简单的范例 实际上这本书一定很复杂也很大一本) : 问题来了 现在我们能说有谁在理解中文吗？ : 这整个房间只是模拟理解中文的假象 : 还是有个东西真的理解中文？ : 显然该人不懂中文 那是谁在理解中文？ : 有人提出 懂中文的人有学习能力与欲望 但是该房间没有 : 因此该房间事实上也不满足图灵测试 : （与一般人无差别 包括听到不认识的词汇 会去问与去学习） : 这问题确实被提出来过 : 如果该指导手册有扩充功能呢？ : （If you see something not in this book, you should draw : "请问什麽是", then draw the thing not in this book, later draw "？". : With answer, ignore "就是" on the left and "的意思" on the right, : find the page that have the symbol in between, and mark the unknown : symbol as the same symbol on the book. : 这样这本书就会在有人说不认识的单字「新警察」时 : 询问出「请问什麽是新警察？」 并且当对方回答「就是新来的的意思」时 : 将「新警察」视为与「新来的」是一样的） : 其实这下更好玩了 里面的人不知道自己画了些什麽 : 但是对外面的人来说 这里面却显然是个好奇的人 : 我们能说这本书竟然有学习欲望吗？ : ==== : 如果传统电脑无法作到这些事情 : 那麽量子电脑是否有可能作到这些事情？ : 第一点 绝对随机 显然是可以做到的 : 但是後者呢？ : 这又会牵涉到 我们的自由意识 : 是否还是一种物理状态？ : 希特勒的恶 史怀哲的善 : 都不过是物理的必然 最多只是量子的随机？ : 与各位板友讨论看看XDDD 这问题虽然有不少讨论，但这些讨论总觉得其实有点太早，因为现今 的人工智慧发展，并没有强到可能让我们担忧这个问题，也没有人能证明人工智慧 终究能达到人类的思考程度。 为什麽这样说，因为人类连思考过程中大脑的运作都不是非常清楚， 或许这问题要等到大脑运作解析清楚，了解思考过程与大脑运算的紧 密结合。才有更坚实的理论基础去处理人工智慧的议题。 现今的计算机理论依据图灵机，什麽是图灵机？图灵机是图灵模仿人类逻辑思考 过程，创建出来的假想机器，他可以帮助人类处理逻辑运算。图灵利用图灵机探讨 用机器帮助人类计算的理论及可能性。 除了图灵机外有没有其他的计算模型？有，但是不约而同全部都被证明出，计算能力与 图灵机等价。 另外无法计算与无法证明其实是不同的事情，拿哥德尔第二定律来讲图灵机计算能力上 的缺陷其实是不行的。因为图灵机的计算能力缺陷，并不是来自哥德尔第二定律。 所以我并不认为这与量子电脑或是普通电脑有关，因为这只是硬体上的不同，计算速度 上的不同，背後的计算机理论是相同的。 你也提到图灵测试与中文房间，什麽叫做有意识？到底自己认为有所以有意识 ，还是他人认为你有意识，所以你有意识？或许是另一个问题。但是准确一点来讲， 图灵测试的目标其实是机器的思考能力。 或许这个问题能改变成，如果哪天我们能用电脑建构出一台人工大脑，复杂度跟大脑 一模一样，我们能不能使他具有跟人类一样的思考能力？不过这个问题在目前无解，因 为很可惜目前的电脑复杂度，连蚯蚓的大脑都不如。要探讨一个东西，得要有东西让我 们讨论，强人工智慧的议题很难讨论，因为现在没有什麽比较像样的强人工智慧模型可 以让我们思考。 所以这个问题其实有点像五百年前的人们在谈复制人，这是可能发生的问题，但是 相关的发展实在太少，以致於大家不知道该从哪里谈起，即使做了一些相关讨论， 也可能探讨的方向跟後来发展的方向完全不同。可能五百年前的人们会害怕哪天出 现复制人，但是他们探讨的点或许会是有人利用巫术或是炼金术造出人体。 人工智慧曾经风行一时，mit以前还有人工智慧系所，但是现在似乎消声匿迹，不晓 得你有没有注意到，读到的资料，通常都是很旧的资料，因为人工智慧的相关探讨 已经停滞很久了。 所以强人工智慧目前发展停滞住了，不管是硬体设计或是理论都是，不过弱人工智慧 倒是一直有在发展，大家手上的iphone都有siri吧，这就是弱人工智慧的成果。 --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 114.37.101.21 ※ 编辑: john01 来自: 114.37.101.21 (01/23 23:25)