※ 引述《reader (讀者)》之銘言： : ※ 引述《A1Yoshi (寬廣 無際)》之銘言： : 1. 在功能上，它們是否能完成人類的行為模擬。 : 2. 在結構上，它們是否有跟腦神經系統等同或超越的運算潛能。 : 3. 在運作上，它們是否能實現所有已知的腦神經系統機制。 : 如果只完成第一項，那麼說服力不太夠，研發人員也不會滿意，完成了 : 第二項，就是等待被認同的一天，也許很快也許需要很久，但是完成了 : 第三項，那麼研發人員就能夠宣稱人造心智的成功實現。因為它已經是 : 一個通過科學檢驗的成果。 : 而我目前看到的哲學上的批評，包括妳在內，全都集中在功能面的近似 : 不能解決內在系統的等價問題。可是，我從來就沒有宣稱通過 Turing : Test, 人類無法從外在功能判定人造心智和人類的差異就完成了。 我怎麼會是集中在"功能面"的近似呢？這應該是妳的主張吧？ 如果說你的"等價"包括了我所強調的主觀感覺，然後你提出足夠的證據證明 人造心智跟我們一樣有主觀感覺，那我想必須接受人造心智完美地成功。 問題是，妳如何證明人造心智跟我們一樣有主觀感覺？就像妳說的，真的要 懷疑，我連坐在隔壁的同學會不會有感覺我都無法確定。所以妳只要宣稱人 工心智跟我們一樣會有痛的感覺，妳就必須提出一個證明，證明她會痛。 妳問我，那為什麼我不問坐我隔壁的人會不會痛？我的答案是，他跟我一樣 都是人，由類似的材料組成，跟我一樣有一個肉身一個肉腦。如果人工心智 用的是跟我們一樣的材料，一樣是碳基生命，那我根本不覺得那是所謂的人 工智能，妳只是透過生物複製技術複製一個人，使一個人透過其它方式生出 來而已。如果這樣就算人工智能系統，那試管嬰兒也一樣算是人工智能系統 。這不算人工智能系統，因為他不是人工的。大腦並不是人設計的，身體如 何長也不是人設計的。人工智能系統應該從每一個細節都是人工的，而且材 料也和我們不一樣。它不一定非要是矽基，不一定要是金屬，但它至少不該 是跟我們一樣有DNA，蛋白質，碳水化合物，脂質。 還有"實現機制"這四個字怪怪的。一個系統可能有，或者沒有某一個機制， 而不是實現或者沒有實現一個機制。是我會這樣說：要是人造心智有一天擁 有能夠產生主觀感覺的機制，那我接受人工心智完美成功。問題是，這個機 制到底是什麼，至少目前科學家還沒有人能夠提出理想的答案。 : 比較有趣的地方是，到最後會自然出現一些特別的、支援性的 s, 若是 : 經過它就代表會經過絕大多數的 s, 亦即幾乎整個 S 都會收到 m. : 那麼，當 m(t) 進入 S 當中，在產生 v(t-1) 和 r(t) 之前，也就會有 : 讓許多 s 處理的長路徑 P 跟只經過少數 s 的短路徑 p 的分別。全新 : 經驗則往往是 P 而不是 p, 因為要大家一起協調處理未知的事物，例如 : 被針刺到就是，但如果你每天被刺幾百次，刺上一年也就幾近無感了。 : 於是 P 是意識, p 則是潛意識。兩者的界限不明。經過 P 的 v 是感覺 : r 是有意識的反應。經過 p 的 r 是潛意識的反應，而 v 仍存在，只是 : 自己不太知道。 首先，每天被刺幾百次，刺上一年會幾近無感是一個經驗問題，可以做實 驗得知真還是假。不過我沒看過這樣的實驗。而且我認為要是真的實驗， 結果可能不會這樣。我的理由很簡單，痛覺的產生不需要經過學習，痛覺 天生就有。另一方面，就算妳硬要一個人學會把痛覺消除，他也學不會。 他可以學會遇到滾燙熱水但不把手縮回來，這可能可以學。但是妳要他學 會在不縮回手的同時"沒有感覺到痛"，我覺得這不大可能。這就好像我要 你硬去把視野中看到的正方形變成三角形是不可能的事情一樣。 再者，妳還是把兩件事看成一件事。妳講了一堆功能狀態，描述了訊息如 何流動，設計了很多次系統平行地或有順序地處理訊息。問題是，妳如何 證明這些訊息的流動就是會產生主觀感覺？在這裡，痛的感覺是不必要的 ，痛的感覺可以沒有任何功能。 妳可以設想這樣的情況：一個人從出身到死從來沒有痛過，但他功能很正 常，當他碰到滾燙的水，她會縮手，他也會記得下次不要再碰。他可以有 一切正常的功能，但就是沒有痛的感覺。痛的感覺可以沒有功能。 臨床證據有很多這種例子，盲視(blind sight)就是一個。 妳這裡談的意識，其實只談到Ned Block所說的A-consciousness。A-consciousness 本來就是比較容易，甚至功能論可以處理的問題。難的問題是P-consciousness。 : 其實這用基因演算法會比神經網路好做，神經網路比較是底層的運作， : 或結合起來實作也不錯。若用單個神經網路，不管結構如何，只怕不易 : 處理像是連續神經刺激訊號的抑制和觸發過程。 : 當然這極為簡略，疏漏也相當多，重點是，用神經網路加上基因演算法， : 是有可能做到，和目前已知的大腦神經機制和心理學機制相近的結果， : 而且也是最為自然的做法。只是光是要產生和大腦一樣的複雜度以承載 : 可能高達六個層次的 s -> S 過程，最終成形為真正的自我整體意識， : 則遠非現在能完成的。 我這樣子說不知道會不會清楚一點。妳只是製造出一台"能夠功能上、外在 行為上"跟人類很接近的人工智能。她好像有自我，也會使用"我"這個字。 她好像有意識，妳戳他他也會叫痛。 問題是，妳怎麼知道她意識經驗的"內容"不是一片空白？ 妳可能是習慣用客觀標準來定義、理解事情，因此習慣性地把無法客觀定義 的現象給根本取消掉。很多中科學毒的學生都有這問題，得花很多時間告訴 他們什麼叫qualia。qualia其實超級簡單，因為只要妳在有意識的情況下睜 開眼，妳就一定有視覺qualia。用英文講，拿紅蘋果來說，所謂的qualia就 是"the feeling of the redness of the red apple"。 每一天其實跟妳最 親近的，就是那些豐富的qualia。 科學訓練有一個很糟糕的地方，就是凡是都只講求客觀，因此無形中人也變 的"只懂得客觀的事物"，而不大能理解關於"主觀的現象"的詞彙。這很奇怪 ，因為無論妳看到、聽到、聞到、碰到，產生的經驗都是主觀的經驗。我只 不過是為那些豐富的感覺取了個名字方便稱呼而已。但這就落入了你說的" 名詞問題"嗎？我想不會。主觀感覺比什麼都真實，比什麼都直接。妳也許需 要從課本上從老師那兒才知道地球是圓的，但妳不需要別人告訴你妳有痛的 感覺。妳可以懷疑地球是圓的，但妳不會懷疑你正在牙痛。 我用一些日常例子來協助瞭解到底什麼叫主觀經驗的內容，也就是qualia。 妳想像一下妳剛被針戳了一下。妳覺得痛了一下。好，妳因為一天到晚都被 針戳，所以妳練就了一身功夫，被針戳了，眼睛不會眨，嘴巴不會張開，聲 帶不會振動，甚至，妳也不會冒汗，不會因此心跳加速。 妳滿足了"客觀定義下這個人不會痛"的條件，因此一堆心理學家對你說：嗯 ，妳沒有痛的感覺。妳不要說謊了，我們知道妳沒有痛的感覺。 這是不是很奇怪？ 反過來說，心理學家依靠什麼判斷這個人到底有沒有痛的感覺？依靠的是主 觀報告。主觀報告依靠的是什麼？依靠的是受試者到底有沒有痛的感覺，還 有他到底有沒有誠實地報告她的感覺。 如果說有一個人他其實沒有痛的感覺，但她說有，妳沒有任何客觀理由可以 凌駕她的主觀報告，說她說謊。你說：可是他沒有流汗，沒有心跳加速，沒 有大叫，沒有....等，對他的所有觀察結果不滿足"痛的客觀指標"啊！ 嗯，聽起來好像有道理。 問題是，這些客觀標準怎麼建立的？這些客觀標準建立在其它早期的受試者 的"主觀報告"之上。當初有一堆受試者被針扎了，他們大叫，他們流冷汗， 他們某一個區域的腦活動旺盛....等。 科學家先假設A有痛的感覺P => 在A身上觀察到一些客觀現象（心跳、冷汗、 C-fiber firing等） 之後有一個B，在B身上都可以觀察到這些客觀現象，妳可以因此說她有痛的 感覺？不可以，這些客觀現象的觀察結果最多只能說是痛覺P的必要條件，而 不是充分條件。 這告訴我們什麼？這告訴我們，當我們在談主觀感覺的時候，主觀報告凌駕 任何客觀標準。主觀報告就是最強的證據，這個證據凌駕任何透過儀器、透 過觀察提供的證據。如果妳否認這一點，認為客觀證據凌駕主觀報告，就有 可能會發生以下荒謬的狀況： 機器告訴我，或者科學家告訴我，我正在牙痛（或者，我正在性高潮），但 我明明就沒有牙痛的感覺，我沒有感覺到性高潮。可是機器是對的，科學家 的觀察是對的： 結論：我正在痛，但我沒有感覺我正在痛。 這也是為什麼我說如果人工智能"說"他感覺到痛，我不能夠還是堅持他不會 痛。我只能說我不知道。我之所以相信我隔壁的同學會痛是因為他跟我有類 似的結構，加上她的主觀報告，但現在這個人工智能跟我的組成結構不一樣 ，所以我不知道他到底痛不痛。妳要我相信人工智能也一樣有痛的感覺，我 需要別的理由（比方說，關於痛的感覺的理論）。 這裡我也附上一個臨床的例子，省得妳覺得我只是在進行哲學詭辯： 病人S，他進行全身麻醉，他通過所有檢測意識是否消失的所有客觀標準， 客觀來說，他應該失去了意識，也就是說，亂割他身體他也不會感覺到痛。 但妙事發生了，這病人麻藥退掉以後，第一件事情就是找醫生算帳。 這病人並沒有失去意識，但他在所有的生理指標上都顯示他應該沒有意識。 他記得所有的手術細節，最恐怖的是，他感覺到前所未有的痛。 有人argue說這是病人在作夢，或者是假記憶。問題是，這病人可以清楚的 描述手術過程，這不是夢，當然更不可能是假記憶。這病人之後還有PTSD， 這也可以作為不是夢、不是假記憶的佐證。 所以呢....研究客觀存在的事物採取客觀的定義、客觀的方法、客觀的標準 沒有問題，但碰到主觀經驗的研究時，就會嚴重觸礁。 : 我沒有說這樣的理論正確或完善，重點是，用現有已知的機器學習理論 : 機制，就可以趨近現有已知的認知科學結果。而這正可以給予科技研發 : 人員相當的信心。 : 若這個過程和真實相近，則要找出感覺就得找出 P 是從哪些 s 達成， : 而它可能是隨機生成的，在生理上的差異可能極為微小，也就不易解釋 : 為什麼通過 s 的訊息就往往可以形成感覺。直到我們能夠建構出一個 : 人腦的完整訊息傳播路徑才能證實。 通過s的訊息為什麼一定就會產生感覺？他可以不產生感覺，但訊息一樣 通過，功能一切正常。 : 不要跟我說什麼模型太粗糙，在網路上沒查資料直接寫的東西，能夠有 : 什麼精緻度可言，重點是它有沒有一點點的發展潛力。 重點是這是一個典型的功能論model，而功能論本來就無法解決意識經驗內 容的問題。否則妳告訴我，為什麼這個模型就是會"產生"感覺？ : : 象的無能為力。 : 但 A 如果不先知道「高潮」是什麼? 她怎麼知道她有沒有高潮? : 所以，主觀和客觀的差別，未必那麼巨大。差別也許在於精確和模糊的 : 名詞定義上，而不是能否由他人驗證上。 這個有趣。我們可能在經驗過高潮之前，就先"知道"什麼是高潮嗎？ 在這裡，妳所謂的知道到底是在說什麼？妳這裡的知道，到底是知道什麼？ 順序應該是這樣的：A在性活動過程中有了某一個特別的感覺經驗，經過 別人告訴他，這特別的、強烈的感覺叫做性高潮。如果他生在美國，那他 不會懂"性高潮"這三個中文字，她會用英文orgasm。 會寫性高潮三個字，知道性高潮是性過程中可能產生的感覺....等， 和"經驗過"性高潮可是完全兩碼子事。類比的例子：就好像路考和筆考完全 兩碼子事一樣。 這裡和精確和模糊無關，關鍵在，那個人到底有沒有經驗過那樣的感覺。 : : 這怎麼會是qualia呢？妳講的這個是心智系統的某一個功能狀態。qualia : : 指的就是"那個"感覺，在痛的那一瞬間，"那個痛的感覺"。 : 於是就可以推論，感覺是一種意識。意識是一種可以控制身體絕大多數 : 動作的大腦功能，亦即多數神經系統處於單一控制下的狀態，由於意識 : 不源於大腦的特定區域，即意識即大腦神經訊號普遍相互傳達的狀態， : 意識的層次可能有很多種，複雜的像人類的思考，但簡單的，連狗都會 : 痛，這都是意識。而被敲膝蓋則小腿彈起來的反射動作，則不是意識的 : 作用。 妳談到核心了。對，這就是意識問題。一個人不可能在無意識前提下感覺到痛。 但意識不必然就等於妳所講的"控制身體絕大多數動作的機功能"。 一個具有內在調控能力的複雜系統為什麼就會產生感覺？ 這裡就是妳應該要區分開來的地方。意識經驗，和調控功能兩者是兩件事。如果 妳要說她們是同一件事，妳得提出理由。否則計算機會做算術，人也會做算術， 人有自己在做算術的意識，計算機也會自己在做算術的意識。 : : 我也沒有否定科學，我只是想強調： : : 一切的謎底要解開，光靠眼前的科學是不大可能的事情。科學可以解決， : : 也確實解決了許多問題（包括許多哲學問題），但不代表與生命有關的一 : : 切的問題科學都可以解決。 : : 因此，我們可能需要新科學。 : 嗯... 那妳心目中的新科學是什麼樣子呢? Susan Blackmore, 2004, 'Consciousness -- An Introduction' 最後幾章有談到一些研究意識問題的第一人稱approach。不會很令人意外， 這些方法包括了：打坐，meditation....等。 不過這些方法是否該被稱做新科學，我覺得還很難說，但新科學主要是為了解決 意識問題，這點是肯定的。客觀科學的客觀研究法，漏掉了一大塊這世界真實存 在的主觀現象，新科學負責把這一大塊也納入科學的研究範疇內，試圖瞭解到底 這些主觀現象為什麼會存在，如何存在，還有存在所遵守的原理原則是什麼。 我心目中的新科學....至少該包含第一人稱approach，也許也該把第二人稱 approach給抓進來。 --

※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.129.70.52