※ 引述《silcas (银光の旗の下に)》之铭言： : 看了这个讨论串之後，我满疑惑的..... : 大家有看过艾西莫夫的原作吗？ : 至少看到什麽可以因为三大定律晶片而造成机器人暴动的说法我就感觉很搞笑..... : 因为这根本是不可能的 = = : 而且在艾西莫夫的小说里也出现了"在三大定律控制下的拟人机器人"， : 当然是普通地球人无法分辨的拟人机器人..... 无论是外观还是行为..... : 而AI里面的机器人应该是跟爱西莫夫无关的吧= =..... : 并非有类似人类感情的机器人就无法控制其行为..... : 而且重点根本就在艾西莫夫的设定不见得会全盘地在Matrix的世界里面成立..... : 还是先去看过艾西莫夫的原作再引用相关说法吧， 其实我觉得还好啦， 这三个定律看起来很直觉， 任何人不需完全看过艾西莫夫的着作，就可以实做这个系统。 当然了，如果看过他的着作， 我想会对各种必须面对的问题，有更深入的了解吧。 至於说，艾西莫夫的设定，是否能在 Matrix 中成立， 我觉得不无可能。 毕竟所有的系统都是被设计出来的，只不过是多加几条规则。 而且综合前面的讨论，我们甚至可以假设， Matrix 是为了避免人类互相伤害而被设计出来的？ 这就可以解释为什麽 AI 有核融合技术可以产生能源， 却不杀光人类？ 至於为什麽选择杀光 Zion 的人， 则是因为如果 Matrix 被破坏，人类又会开始相互残杀， 电脑权衡伤害的轻重之後，决定牺牲少部分人类，解救大部分人类？ （这段推论不见得符合艾西莫夫的设定，但是有讨论的价值） 我觉得我们应该考量各种可能性， 艾西莫夫的设定可以供未来设计 AI 的人参考。 虽然我个人还是认为， 这些定律无法阻止人类用机器犯罪的， 就像你说的，人类可以钻系统的漏洞， 甚至更简单的，恶意的人类可以直接破解正电子脑，改变其行为。 不要以为这是不可能的， 你问任何一个骇客都会告诉你，没有系统是不能破解的。 只要有足够的时间和工具。 当然其实最最简单的方法，就是先在人类世界搞独裁， 然後你就可以为所欲为， 直接设计出不受控制的机器人。 （别忘了这世界上永远会有「狂人」的存在，海珊不会是最後一个） 突然想起网路上看到的一句话： To err is human - and to blame your computer for your mistakes is even more so. : 至少我是看到了很多如果看过了原作之後就不会发生的谬狸帡暋D~出现在讨论串里面..... : 而有关以上的讨论，至少要看看机器人系列的"钢穴"以及"裸阳"吧？ : (汉声青年文库有出，图书馆应该可以找到吧..... ) : 在这两部里面有针对三大定律与机器人的设计或是对於机器人的效力作出一些讨论， : (以下有少少剧情泄漏，如果不想看可以跳过..... ) : 这两部的内容是谋杀案的侦查， : 而且都或多或少与机器人有关，而且里面也在提到在三大定律限制下， : 用什麽方法可以让机器人杀人..... : 在钢穴中主角怀疑他的同伴，拟人机器人丹尼尔奥利瓦是凶手， : 但是这个怀疑被完全击破了， : 看看这段怀疑被推翻的过程可能对三大定律对於机器人的设计的重要性有所了解， : 而裸阳的部分针对凶手如何骗过机器人，使得机器人杀了人而不自知， : 或者是利用被三大定律限制的正电子脑制作战争兵器..... : 自己去看看应该可以发现一些三大定律对机器人的限制以及伤害..... --

※ 发信站: 批踢踢实业坊(ptt.csie.ntu.edu.tw) ◆ From: 140.112.230.238