※ 引述《kizuna1019 (chacha)》之铭言： : ※ 引述《bl0418 (寂寞累积寂寞)》之铭言： : : 也许完美的程度不至於让人工智慧认为自己不是机器人， : : 但可能达到如机械公敌中「最好」的处理方式。 : : 也就是当逻辑推理出现了第四条规则足以压过「不伤害人类的法则」。 : 其实应该很简单, 就是当AI真的是完美的的话, : 等同於人类并不是他认为自己是人类 : 而是他可以跟人类一样思考, 我为何而活我为何存在 : 如果AI思考到这种地步 , 机器人三原则当然是可以打破的阿 : 三原则就像是道德或法律, 很多时候我们并不会遵守法律阿 : 这样我想起银翼杀手, 因为想活下去所以杀人, 因为知道生命的美好 : 所以放过男主角(好像是这样) 机器人三原则在艾西莫夫原着里是不可能被打破的 他不是单纯的道德或法律 而是牵涉到工程机械的问题，简单来说，只要违反三原则，机器人就坏了 这种rule是物理以及逻辑上面的限制，就好像MOS要几V他才会on一样 当然你说要改是可以改，但正子脑的复杂度已经不是能说改就改了 也就是说，不论怎麽进化，三原则永远存在 他不是单纯的出厂前输入三原则进入正子脑这麽简单的事 要是这麽简单，弄个机器人战队不是问题 --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 140.114.202.211