作者evammxfelix (恩恩恩...)
看板MONSTER
標題Re: PLUTO第三集的一些問題
時間Wed Oct 4 10:43:25 2006
※ 引述《rainlover ()》之銘言：
: ※ 引述《kizuna1019 (chacha)》之銘言：
: : 其實應該很簡單, 就是當AI真的是完美的的話,
: : 等同於人類並不是他認為自己是人類
: : 而是他可以跟人類一樣思考, 我為何而活我為何存在
: : 如果AI思考到這種地步 , 機器人三原則當然是可以打破的阿
: : 三原則就像是道德或法律, 很多時候我們並不會遵守法律阿
: : 這樣我想起銀翼殺手, 因為想活下去所以殺人, 因為知道生命的美好
: : 所以放過男主角(好像是這樣)
: 機器人三原則在艾西莫夫原著裡是不可能被打破的
: 他不是單純的道德或法律
: 而是牽涉到工程機械的問題，簡單來說，只要違反三原則，機器人就壞了
: 這種rule是物理以及邏輯上面的限制，就好像MOS要幾V他才會on一樣
: 當然你說要改是可以改，但正子腦的複雜度已經不是能說改就改了
: 也就是說，不論怎麼進化，三原則永遠存在
: 他不是單純的出廠前輸入三原則進入正子腦這麼簡單的事
: 要是這麼簡單，弄個機器人戰隊不是問題
在艾西莫夫的基地系列中有提到
機器人在若干年的思考後 她們領悟出第零原則的存在
就是一切行為以維護及促進整體人類生存發展為優先
而此原則凌駕於三大法則之上
所以就算在此原則下不得不傷害某個體也是被允許的
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 140.117.77.52
1F：推 rainlover:姆，這是大船輕輕搖落一些搖晃不穩定的因子 10/04 10:48
2F：推 basara30:機械公敵有演出這一部份 可以看看 10/04 11:51
3F：推 senas:人工智能如果發展到了"完美" 到底等不等同於人類? 10/04 12:35
4F：→ senas:話說回來 恐怕得等人類徹底發堀大腦的潛能之後 10/04 12:37
5F：→ senas:才有辦法定義何為"完美"的人工智能 10/04 12:38
6F：推 truegod000:機器人有所謂的領悟嗎？好像是很人性化的用詞！！ 10/04 13:19
7F：推 dreaminc:人工智能在我們永生之年絕對看不到人性般的程度 10/04 23:02
8F：推 NEKObus:樓上的 你確定"永生"之年一定看不到嗎？ XD 10/05 00:44
9F：推 DOMOO:關於能不能打破的問題, 機械公敵(I, robot)不是有提過嗎? 10/05 10:06
10F：推 tbaby:在變人(小說)之中主角機器人也說過只要換個想法去解釋三原則 10/05 10:29
11F：→ tbaby:就能規避三原則了 只不過它本身沒有必要這麼作 10/05 10:31
12F：推 pinkygiveme:基本上每一篇小說都是在鑽三原則的漏洞~ 10/05 11:53
13F：推 ggk:艾西莫夫超愛鑽自己發明的三原則的漏洞.... 10/06 02:12
14F：推 ssmartyr:如果不鑽漏洞他的小說要怎麼寫啊 XD 10/06 07:06
15F：→ scores:其實把人類監禁起來 不給東西吃等他餓死 算傷害人類嗎？ 10/06 19:24
16F：推 wxes50608:餓死，就算「傷害」了。 10/06 21:17
17F：推 AngelSlay:那就是作者寫出三原則的原因啊, 那只是引子, 小說本身 10/07 01:43
18F：→ AngelSlay:就是一個架構在這種矛盾上的故事 10/07 01:44
19F：推 FoolFitz:這串討論很有攻殼機動隊的感覺 =v= 10/28 22:49