就像推文裡 攻殼機動隊那幾隻塔奇克馬 全部都是成長型AI 只是素子自己就說了,作為兵器來講不完美 因為兵器是輔助你判斷而不是幫你思考 就像是行車導航器,真正在開車決定的是人 你不會因為行車記錄器判斷你在哪條高架橋上錯誤,就真的轉彎撞出圍牆飛下去吧... (以上是控制權在人類手上) ========================================================================== (以下是控制權在AI身上) 另外還有考量到機器人可能叛變這件事情就很複雜了 （以下有一堆機器人AI作品的雷） 例如為了防止機器人叛變的機器人三大定律（後來加了第零定律） （電影：機械公敵也有改編） 第零法則:機器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害； 第一法則:除非違背第零法則，機器人不得傷害人類，或袖手旁觀坐視人類受到傷害； 第二法則:除非違背第零或第一法則，機器人必須服從人類的命令； 第三法則:在不違背第零至第二法則下，機器人必須保護自己。 乍看之下很完美, 但是當艾西莫夫創出來之後就開始玩一大堆的bug事件 例如I,robot裡面的"轉圈圈"事件, 機器人因為法則是用根據狀況的輕重運算的關係,在危險區域還有主人之間轉圈圈 （在只有一台的狀況下,逐漸靠近災難現場會違反第二>第三法則, 往回走去主人那會因為逐漸遠離危機區而使得第一法則優先律提高,所以只能繞圈圈） 第零定律加進去之後,機器人的下場更慘 一堆遇到事情或輸入新聞就因為違反內設程式所以燒掉 (因為要當"不會犯錯的聖人"...世人誰無罪惡?) 何況這台機器要用在戰爭上... 那如果不使用三大定律,而是讓AI自己慢慢成長的話： 攻殼機動隊 剛開始的塔奇克馬電腦直接裝在機體上 後來爆掉之後就只能歸零,所以改裝在衛星上 最後素子在結局時已經不是把他們當做AI,而是"戰友"了 直接脫離控制幫助作戰 [機械公敵]裡面也是"無三大定律的AI"對抗"三大定律AI" 不好的狀況下,想想[魔鬼終結者]的天網做了什麼... 鋼彈OO的哈嘍也分為好幾種吧 那個最資深的新人不就領導一堆來反叛人類 --

※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 118.169.66.144 ※ 編輯: nbear 來自: 118.169.66.144 (02/02 12:34)