PS: 以下用超人工智慧 (SAI, Super AI, 或 Superior AI) 代表万能机器 前言写在上一篇 obov 的推文中. 但推的太多, 我独立写出来 此文只讨论以下这件事情.. → I0O1:也因此,是否有超人工智慧,能在短时间毁灭人类呢? 08/21 12:05 → I0O1:回正题, 超人工智慧(SAI)我觉得是有机会在短时间内突现的 08/21 12:08 → I0O1:至少包括有 破坏性病毒 与 磁区损毁 两种方式, 可以改变一个 08/21 12:09 → I0O1:正常程式的行为模式. 可以想见基因的 "突变" 08/21 12:09 即使不考虑 EP 等基因演算法. 一般正常程式 (就如..微软的小画家), 在突变後 也会产生难以预期的结果. (给一群猴子乱敲打键盘, 也能打出莎士比亚钜作) 不过, 我必须强调, 突变产生 SAI 的可能性很低, 从 machine code 的角度, 一个函式 "回传 x+1" 突变成为 "回传 x-1" 比较容易 但突变成为 "x^2 + 1" 困难许多. 虽然目前没有人知道 SAI 需求的复杂度多高. 但明显的, 目前日常生活的 应用程式 (例如 Word), 离 SAI 还有很大的距离. 也因此, 我并不担心, 待会午睡起床, 我的 Word 变成 SAI ! 另一方面, 前面我提的两种突变方式 "破坏性病毒 与 磁区损毁" 对於突变的杀伤力比建设力高太多. 生存环境也太严苛, 没有人会乐见自己的小画家一夕间变成 CorelDREW 吧? 八成一开始突变就砍了它 也因此, 至少我对可以看见的未来, 仍抱持乐观 也相信 reader 所言, 人类的智慧 能主宰 渐进式进步的科技与社会 最後, 就我所见 haryewkun 的论点在 "SAI的突现" 与 "和人类的竞争" 两点 此文说明了 "SAI突现" 的难处. 或许 haryewkun 有其他, 对程式突变的更可行想法? 另外, SAI 和人类的资源竞争上, 并非不可能. 但我总觉得这是以人类 '唯我独尊' 的思想为出发点. 姑且不论 SAI 个体数是否能壮大到和人类种族相抗衡 (因为没有人知道多少 CPU 多少 RAM, 多少硬碟才能养活一个 SAI); 新物种也可能主动与旧物种形成共生关系 举例而言, 即便明天出现 SAI, 但以目前人类的科技状态, SAI 仅能扮演萤幕上的指导 者脚色, 或在汽车配件工厂挥挥机械手臂... 或许 haryewkun 可以对整个 "取代过程" 做更深的构思. 附和前面 jsbjgk 网友说的 "讨论 CS 的东西还是不要牵涉到 社会制度这些东西比较好...." 抱歉, 修到推文 --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 140.113.194.55 ※ 编辑: I0O1 来自: 140.113.194.55 (08/21 12:46) ※ 编辑: I0O1 来自: 140.113.194.55 (08/21 13:07)