※ 引述《rabbit66376 (逸蒼雲)》之銘言： : 這個對於成長速度的假設沒有保證 : 如果AI的成長並不是穩定的狀態 : 你無法預期他們會不會突然出像頓悟般的錯誤或是意外 : 而這與思考的速度沒有直接關係 那想必養成「人類」非常沒有保障了 因為所有的人類也有機會發生頓悟般的錯誤 但實際上這些都有跡可尋 而不是在戰場上如發瘋般的頓悟 一個怕死的人，上戰場前就可以知道他沒種 : 那你可能需要祈禱每一次都是在整備時才發生 : 我相信有更好做法 : 而這個做法目前市面上都在用 同上 學到了新的東西，可能有新的頓悟 在戰鬥中產生極為影響戰況的頓悟？ 一個人不會突然從超勇猛變得怕死 一台機器也不會 另外市面上好像沒有可學習的智能AI這種東西 (現在是2008年) 死的東西當然是一個版本一個版本的出 : 問題是[無法預期] : 你無法預期突然產生的是什麼東西 : 也許是一個問題解決方式，也有可能是錯誤的反應行動 一句「無法預期」就想打死所有的可自由思考AI 那根本就只能用馬尾型嘛 但這種AI永遠只會是就是一個口令一個動作 沒事先輸入進去的，不會就是不會 : 都不是馬尾辦不到的 : 馬尾或許無法回答哲學性的問題 : 但是入侵的標準程序、瞄準系統、調閱資料它們都可以做到(當然要硬體配合) : 而在實際的工作分配上[想辦法]一直是素子些活人的工作 : 分擔執行面才是AI的工作 只要AI的思考能力越靈活，能分擔的層級也就越高 一個叫他幹嘛，他就會自動想辦法完成指令的AI (去救巴特) 跟一個必須下好完整一系列指令才能完成的AI (從馬路用物理方式移動，選取最快路徑，碰到敵人執行標準戰鬥程序) 後者實在太麻煩了 更甚，要是九課人員身處無法下達指令的狀態 (瀕死，或是昏迷等等情況) 哪種AI比較有機會保護人員安全？ : 而即便塔其克馬很神奇的作出了衛星擊核彈的舉動 : 這也只是剛好而已... 錯很大 馬尾辦不辦得到跟哲學性與否一點關係都沒有 這個事件代表的是馬尾型只能執行資料庫內有的 當初設計的時候就已輸入進去的東西 他們並沒有自己思考的能力 所以碰到塔奇克馬問他的問題，資料庫內也沒有 才會進入當機狀態 反過來，要是當初設計馬尾的人把這問題解答放進去 那馬尾反而會滔滔大論開始講述 「標準程序」「瞄準系統」「調閱資料」都可以事先輸入進去的 但就是一個指令一個動作，只能去下指令執行某種動作 然而設計人員有可能預先想好戰場上所有可能的變化嗎？ 當然不可能，他們又沒有預知能力 難不成設計人員會在水晶球看到... 「之後會要侵入潛艦，去查水手的私人網路喔」 「當聽到把難民記憶上傳時，要去入侵衛星喔」 只能叫馬尾從某條線路去執行標準化的入侵動作 而無法叫馬尾「自己想」各種侵入潛艇的方法 即便馬尾的AI強到可以丟一句「去侵入」 就自動去執行各種侵入方法 那也只能說當初的設計者太厲害 事先寫好碰到這種情況該執行的程序 是啊 塔奇克馬用衛星攻擊核彈的舉動只是剛好 但馬尾型要「剛好」的可能性連0.000001%都沒有 面臨沒有預設過的事情卻還能應對的 只有塔奇克馬，而不是馬尾 : 你無法保證他們每一次的變化都是你所期望的方向 : 有更多可能是突然的自我行動 : 同樣是[救巴特]這個指令 : 如果他們會先斬後奏 : 成功了，代表他們的判斷幾乎足以取代命令者 : 失敗了，你就少一個叫做巴特的優秀成員 : 而事實上 : 他們很有可能在你沒有下達指令時作出行動 : 等你知道時已經來不及了 : (衛星事件就是一個例子) 當你一直執著在AI可能突然自我行動的時候 麻煩你先想想，人類也是同樣情況的東西 可思考型的AI有違背命令的可能 這件事情研究人員跟素子一直都有在評估 這也是第一部後期攻殼車被踢回lab的原因 (為什麼同樣的話要一講再講) 在倒數第二集，攻殼車們也做出違背命令的舉動 那為什麼素子還是讓攻殼車回來了？ 理由很簡單 雖然塔奇克馬有可能違背命令 但他們違背命令的目的是好的 違背命令一定是錯的嗎？ 我想不是吧 如果巴特在第一部最後面，因為素子掛了太傷心 叫攻殼車亂槍把他打死，一起上路 這時候違背命令是對的還錯的？ AI有思考能力，有可能違背命令 (前提是朝好的方向) 所以塔奇克馬不只是工具，而變成夥伴 這是馬尾永遠都不可能達成的境界 這點在GIG的開頭跟結尾都有特別提到 我也不想再說一次了 當然你會說，要是AI違背命令往壞的方面去發展呢？ 那塔奇克馬就會被踢回lab，而不是持續服役 (奇怪勒，這講幾次了) 就像軍隊中出現違抗命令的頑劣分子 同樣也會被踢出去一樣 : 要成長很簡單 : 你把服役中的塔其克馬1.0經驗回傳給伺服器 : 讓他們重新整合一次作出新的塔其克馬2.0 : 然後進行測試和校正 : 確認穩定後再將新版本的2.0推出或是作成更新擋 : 現在，你的塔其克馬成長了 : 而且沒有突發的問題 : 當然如果你有興趣跟塔其克馬聊哲學問題 : 你可以下載[塔其克馬嘎哩共]1.0的聊天介面 喔 你可以把劇中出現的塔奇克馬們當作1.0 然後他們隨時把資料傳回lab去研發2.0 到了第三部，塔奇克馬成長了耶！ -- 結果還不是要把塔奇克馬丟到前線去學經驗 -- 不屈者難渡人世　給正直者以安眠 --

※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 220.133.186.120 ※ 編輯: shamanlin 來自: 220.133.186.120 (07/03 09:58)