※ 引述《silcas (银光の旗の下に)》之铭言： : : 甚至更简单的，恶意的人类可以直接破解正电子脑，改变其行为。 : : 不要以为这是不可能的， : : 你问任何一个骇客都会告诉你，没有系统是不能破解的。 : : 只要有足够的时间和工具。 : : 当然其实最最简单的方法，就是先在人类世界搞独裁， : : 然後你就可以为所欲为， : : 直接设计出不受控制的机器人。 : 直接设计出不受三大定律的机器人不是Hack，是完全的创新..... : 不能说是"破解"正电子脑，因为那是要创建以另外一个行动准则为基础的系统..... 喔，没有啦，我那段的意思是说， 可以用 Hack 的，也可以全新设计。 并不是说，直接设计是 Hack。 不过我还是认为要 Hack 并非不可能， 以我自己的经验，我曾经 Hack 软体，也看过别人 Hack 硬体， 只要那个东西是被设计出来的，他就能被 Hack。 如果可以拿到设计图，要 Hack 真的非常简单。 : 不论是软体或是硬体..... : 而人类对於机器人的恐惧，在艾西莫夫小说中已经探讨过了， : 至少在艾西莫夫的世界里面，设计出可以伤害人类的机器人是全人类的禁忌， : 不会是任何政权可以简单颠覆的..... 我倒是认为任何一个国家都会从事这项禁忌研究的， 因为太明显了，以生化武器或核子武器为例， 每个国家都知道是不好的，也有限制核子扩散条约， 可是每个国家还不是照样偷偷发展？ 可以伤害人类的机器人绝对是重要的战斗兵种， 任何交战中国家都会投入去发展的， 这就是为什麽印度和巴基斯坦会先後拥有核武， 连美国也阻止不了。 不过，我没看过你说的那些着作， 所以上面的推论纯粹靠个人的知识背景。 : 而那也不是一个独裁有办法存在的时代就是了..... : 而地球人类或外世界人都不能接受这样的事情，看完了裸阳应该就会了解这一点..... : : （别忘了这世界上永远会有「狂人」的存在，海珊不会是最後一个） : : 突然想起网路上看到的一句话： : : To err is human - : : and to blame your computer for your mistakes is even more so. : 这是一个非常有趣的问题， : 突然让我想到： : 这个世界上没有"笨"电脑， : 因为电脑程式是被写出来的，目前他只能一个口令一个动作， : 不能有意识地自发地帮助人类，所以他不会是笨的， : 顶多是设计程式介面的人不够聪明，让消费者用起来不顺手..... : 这个世界上只有对於电脑有太高期望而失望的"人"、 : 不会使用电脑而无法发挥他真正效能的"人"， : 或是不够聪明的系统工程师(也是"人")，没有笨"电脑"..... 呵呵，这倒是； 除非真的发明出「sentimental programs」。 不过以我对人工智慧的了解， 我认为不太可能做到可以和人无差异的境界， 目前人工智慧的智能顶多达到「蜜蜂」这个等级。 --

※ 发信站: 批踢踢实业坊(ptt.csie.ntu.edu.tw) ◆ From: 140.112.230.238