作者evammxfelix (恩恩恩...)
看板MONSTER
标题Re: PLUTO第三集的一些问题
时间Wed Oct 4 10:43:25 2006
※ 引述《rainlover ()》之铭言：
: ※ 引述《kizuna1019 (chacha)》之铭言：
: : 其实应该很简单, 就是当AI真的是完美的的话,
: : 等同於人类并不是他认为自己是人类
: : 而是他可以跟人类一样思考, 我为何而活我为何存在
: : 如果AI思考到这种地步 , 机器人三原则当然是可以打破的阿
: : 三原则就像是道德或法律, 很多时候我们并不会遵守法律阿
: : 这样我想起银翼杀手, 因为想活下去所以杀人, 因为知道生命的美好
: : 所以放过男主角(好像是这样)
: 机器人三原则在艾西莫夫原着里是不可能被打破的
: 他不是单纯的道德或法律
: 而是牵涉到工程机械的问题，简单来说，只要违反三原则，机器人就坏了
: 这种rule是物理以及逻辑上面的限制，就好像MOS要几V他才会on一样
: 当然你说要改是可以改，但正子脑的复杂度已经不是能说改就改了
: 也就是说，不论怎麽进化，三原则永远存在
: 他不是单纯的出厂前输入三原则进入正子脑这麽简单的事
: 要是这麽简单，弄个机器人战队不是问题
在艾西莫夫的基地系列中有提到
机器人在若干年的思考後 她们领悟出第零原则的存在
就是一切行为以维护及促进整体人类生存发展为优先
而此原则凌驾於三大法则之上
所以就算在此原则下不得不伤害某个体也是被允许的
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.117.77.52
1F：推 rainlover:姆，这是大船轻轻摇落一些摇晃不稳定的因子 10/04 10:48
2F：推 basara30:机械公敌有演出这一部份 可以看看 10/04 11:51
3F：推 senas:人工智能如果发展到了"完美" 到底等不等同於人类? 10/04 12:35
4F：→ senas:话说回来 恐怕得等人类彻底发堀大脑的潜能之後 10/04 12:37
5F：→ senas:才有办法定义何为"完美"的人工智能 10/04 12:38
6F：推 truegod000:机器人有所谓的领悟吗？好像是很人性化的用词！！ 10/04 13:19
7F：推 dreaminc:人工智能在我们永生之年绝对看不到人性般的程度 10/04 23:02
8F：推 NEKObus:楼上的 你确定"永生"之年一定看不到吗？ XD 10/05 00:44
9F：推 DOMOO:关於能不能打破的问题, 机械公敌(I, robot)不是有提过吗? 10/05 10:06
10F：推 tbaby:在变人(小说)之中主角机器人也说过只要换个想法去解释三原则 10/05 10:29
11F：→ tbaby:就能规避三原则了 只不过它本身没有必要这麽作 10/05 10:31
12F：推 pinkygiveme:基本上每一篇小说都是在钻三原则的漏洞~ 10/05 11:53
13F：推 ggk:艾西莫夫超爱钻自己发明的三原则的漏洞.... 10/06 02:12
14F：推 ssmartyr:如果不钻漏洞他的小说要怎麽写啊 XD 10/06 07:06
15F：→ scores:其实把人类监禁起来 不给东西吃等他饿死 算伤害人类吗？ 10/06 19:24
16F：推 wxes50608:饿死，就算「伤害」了。 10/06 21:17
17F：推 AngelSlay:那就是作者写出三原则的原因啊, 那只是引子, 小说本身 10/07 01:43
18F：→ AngelSlay:就是一个架构在这种矛盾上的故事 10/07 01:44
19F：推 FoolFitz:这串讨论很有攻壳机动队的感觉 =v= 10/28 22:49