※ 引述《reader (讀者)》之銘言： : ※ 引述《A1Yoshi (我是按摩棒...)》之銘言： : : 不過你這裡最後三句則頗令人玩味。為什麼當一個系統處理複雜資訊的能力等 : : 於或大於人類時，我們就該考慮倫理問題？ : : 似乎你講的理所當然，但在我看來這好像只是針對某類（或某個）哲學問題的 : : 一種主張而已。似乎你認為資訊處理能力是倫理規範對象判準中的一個？ : : 但為什麼它要在那判準裡？ : : 我想如果你要回答這問題，可能還是得回到"What is the mind?"這問題以及 : : 進到倫理學或後設倫理學裡頭來討論才行。 : 我的概念是，一個與人類共生的複雜系統，無論是動物還是機器，都會讓 : 人產生情感依賴，如果能有可以獨立解決複雜問題的機器出現，那麼機器 : 在倫理問題上的地位應該不亞於動物權問題。 第一個命題就有問題。為什麼一個與人類共生的複雜系統都會讓人產生情感依賴？ 先不論情感依賴與動物權問題之間的相關性，那個稍後再談。 你如何論證，當一個人與一個複雜系統共處互動時，就一定（或很高的比例）會產 生所謂的情感依賴？我質疑。我舉AI那部電影為例。我把advantage給你。假設電影 裡的小孩跟真的小孩幾乎無異（除了物理組成或結構），真的所有人都會對它產生 情感依賴嗎？（電影裡那個小孩還是與真小孩有差別，但假設沒差別，至少外顯上） 拿爸爸來說，你確定爸爸就會因此把它當作是真小孩看待並與之互動嗎？ 我之所以認為這問題還是要回到"What is the mind?"這問題，一個理由就是如果 說人們認為機器不可能有mind，即使功能上幾乎等同，那麼，人們或許還是不會賦 予它們任何倫理道德上的地位。也就是說，它因為沒有心靈或沒有生命，所以跟一 顆石頭無異，頂多只是一顆很聰明的石頭而已。（很聰明在這兒還只是一種metaphor ，而非字面上真正的意思，不是作為心靈述詞使用） 再來是情感依賴的問題。難道一個東西被賦予倫理道德地位，人與之產生情感依賴 是必要條件嗎？我覺得不是耶。什麼是必要的？有沒有生命、有沒有靈魂（心靈） 才應該是必要的吧。 我不否認情感依賴搭配上其它更核心的必要條件時，或許有助於提昇某物的倫理道 德地位，但能讓人產生情感依賴似乎不是那麼必要的東西。 假設現在世界上戀物癖的人很多，尤其是男性，所有男性都迷戀絲襪，成天抱著絲 襪上班、睡覺。難道法律會因此賦予絲襪「絲襪權」嗎？好像不會吧。如果絲襪沒 有心、沒有生命，管它能讓人產生多強的心理情感依賴，它就仍舊只是絲襪而已。 反過來說，一個有生命有心的東西，即使人類實在幾乎不會與之產生心理依賴，還 是會有人主張它有一定的倫理道德地位，甚至捍衛它的權利。 我想，至少，如果你要說一定會，你欠一個論證。 : : 不過我不是很懂你這裡「自我意識」的意思是什麼？我的理解是，就算人有一 : : 天像寄生蟲一樣也不表示人將因此失去自我意識啊。這兩者有啥關連？ : 自我意識的強度和人類自主生存的能力有關。 : 當個人的自我意識弱化到一個程度，機器的決策權力強到一個程度，那麼 : 人與機器的分界，應該會出現問題。 那應該只是定義問題。在心靈哲學裡，一般來說所謂自我意識（self-consciousness） 是指一種概念能力。哪種概念能力？簡單說就是區分內外在，或者，區別「我」與 「非我」的概念能力。 有些人認為這種概念能力與語言能力密切相關。這種能力預設語言能力。故在這觀 點下，沒有語言能力的認知系統就沒有自我意識。不過這部分是比較可爭論的。 ---- 基於這樣的理解，我才會覺得自我意識怎麼會和人類是否能夠自主生存有關。一個 殘廢全身不能動的人，或者是一個在許多方面受限的被支配的奴隸，都還是有可能 保有自我意識。 不過我倒是從你那句「決策權力」延伸想到一個有趣的問題：假設有一天我們被電 腦主宰控制，包括我們身體的運動與知覺（也就是說，我想舉起左手但左手動也不 動，或者，我覺得我的腳是平放的但我瞪眼看卻發現他高舉在頭頂），我們的自我 意識會發生什麼樣的變化？ 有的哲學家基於這樣的思考，提出Embodied view of the self。 不過我想笛卡爾的我私故我在可能在此提供反駁的基礎：即使運動知覺都不可靠， 我們只要還能夠做思考，那麼，我就存在。 似乎有點道理。似乎還是有一塊「純粹的內在」或「主觀觀點」存在，而這就是 the self。這個純粹的內在與思考或意志有關，而與感覺運動無關。 不過拉回來。我想請你說一下，你所理解的「自我意識」是什麼？因為顯然和我 的不大一樣。這個不談清楚，我無法對你後半關於人和機器的分界那句下判斷。 : : 至於「作出消滅人類才能更有效率工作的決策的電腦系統」是否蘊含該系統具 : : 有自我意識，我覺得這倒是一個不錯的問題。可以挖挖看。 : 其實我這些說法，都預設了自我意識可能是一種個體與外界互動所產生的 : 複雜現象，需要有複雜資訊的處理能力，卻未必要有一個實在的自我意識 : 產生機制存在。 : 一個在決策時會區別考量個體與外界的系統，可能就是自我意識的初始。 : 當然我不宣稱什麼，只是個人直覺、沒有足夠思考的觀點。 我懷疑你混淆了區分"the self"與"self-consciousness"兩者。 我舉貓做例子，區分兩者。不曉得大家是不是有看過小貓咬著自己尾巴，一臉 痛苦但又彷彿不知道其實是「自己」的牙齒咬住尾巴所以痛？（也因此不曉得 其實只要嘴放開，牠的痛感就會消失了。） 在這例子裡，貓會痛，表示有一個感覺主體或中心存在。但牠顯然缺乏自我意 識，也就是缺乏區分所謂內外在的概念能力。 貓有內在，所以牠會痛；但牠不知道有內在與外在的區別，它並沒有對於自己 的嘴以及自己的身體形成表徵，並進而瞭解這些表徵與痛的經驗之間的因果關 連。 許多哲學家相信存在一個機制專門負責"the self"（不是self-consciousness） ，從我這例子可以理解。一個能夠形成感知覺中心的系統可以不必然具有自我 意識，而自我意識可能與高階的語言或表徵能力有關。兩者至少在概念上是獨 立的，兩碼子事。所以如果要找物理基礎，勢必兩者的物理基礎是不同的。自 我如果有基礎，也一定是透過某種特別的機制產生。而自我意識，反過來說， 因為它與表徵能力有關，故反而比較可能與你所說的複雜資訊處理能力有關。 你的看法我認為有可能倒果為因。一個系統就算可以對所謂的內外範圍形成表 徵，不表示因此就自然地成為一個具有感知覺中心的認知系統。你當然可以主 張前者與後者之間存在因果關連，不過我想你需要論證，而不能僅只是主張。 我現在的看法是，一個夠格稱之為有自我意識的系統，而非一個「擬似」具有 自我意識的認知系統，它必須先有自我，作為該自我表徵的對象。 否則，如果沒有自我，那麼這表徵是一個假的表徵（某種幻覺的意思）。 而這區分導致，可能存在一個外顯上和有真的自我意識的認知系統難以區辨的 系統。我們可能很難區辨，但這是方法學或知識論上的問題。重點在於，它的 自我表徵（或說，自我意識）是不是真的表徵到自我（the self）。 我舉另一個更極端的例子：搞不好細菌也有自我，有感知覺，但它顯然沒有自 我意識。它顯然沒辦法表徵自己，將自己表徵成作為一個與外界在某意義下割 離的東西。但它被鹽酸溶解時可能會有感覺產生。 : : 如果是這樣，那物理學家問宇宙起源問題....也不實在囉。 : 所謂的實在問題，是指我們「有能力」去回答的問題。現代的物理學家 : 問宇宙起源應該是一個實在問題，而古代人問宇宙起源則不是一個實在 : 問題，或許他應該更關心自己的生存狀態問題。 典型的ad hoc說明。你如何可能抽離你身為現代人，只擁有現代人知識與能力 這事實，站在一個超然的角度評斷現代的物理學家有，或沒有能力問宇宙起源 問題？你那「額外的」判斷能力哪來的？ 我們之所以可以判斷古代是因為我們站在現代。這部分有道理，但我們如何站 在現代評斷現在？ 如果把「能力」看的弱些，我想我們還是有能力回答心靈本質問題。事實是， 我們對該問題提出了很多版本的答案。這樣看的話，我們難道沒有能力嗎？ : 因此相對上，研究複雜資訊處理，會比急著建立心靈本質的理論，更為 : 重要，至少單就電腦科學的研究而言。 我覺得就像我說的嘛。問題、目標，想要的東西根本不一樣。 電腦科學如果是希望用電腦（廣義的）作為瞭解心靈本質的模型，那麼它就必 然得涉入哲學範疇內來談，並回答過往的無數哲學問題。 如果電腦科學不是要解決心靈本質的問題，只是想設計出一台可以消滅人類或 讓人類難以區辨是否有心靈的超級智慧系統，那我想的確它就可以不回答心靈 本質的問題。 不過說實話我覺得這種目標有點無聊。很會算、算的很快很準，可以處理很複 雜的資訊，然後哩？除了對人類的實際生活面有工程面的影響以外，回答了什 麼關於這世界本質的任何問題嗎？ 深藍可以下贏棋王。然後呢？再多加一百種一千種一萬種能力好了，然後呢？ 然後他可以上街行騙，騙人說它有心靈，是人。但對哲學家來說，這可能只是 因為人太笨了。比方說，我只要打碎它，看看它是不是腦做的我就知道（至少 有理由這麼說）它是真的人還是假的人，它有心還是沒有心。 如果不是有著「以此為模型，瞭解心靈本質」這目的，這一切在知識上或學術 上或甚至哲學上，有意義嗎？ : : 你能否舉一個例子，怎樣的哲學理論（處理哪一個或哪類哲學問題）被資訊 : : 理論和計算理論討論？我沒有懷疑或否定的意思，我只是想知道那個討論大 : : 致長什麼模樣而已。 : 從物件導向興起以來，現代的計算觀點就是「模擬世界、加以處理」。 : 人們想要在電腦中建立一個與真實世界對映和連結的空間，想要將真實世界的 : 事物「資訊化」，於是我們開始討論各種事物的意義是什麼，它是由什麼樣的 : 狀態和性質組成的，可以怎麼分類，怎麼分類才是對的，而事物之間的關係是 : 什麼，有沒有簡化的可能，有沒有自動化的可能，抽象化到最後是什麼東西， : 複雜行為或事物該怎麼描述... : 大致上就差不多都是形上學議題吧。落實到程式設計方法上，更是意識形態的 : 問題很大，例如早期就有是否應該建立唯一的根類別，以產生出所有的子類別 : 以建立物件的問題，然後有唯一根類別的系統跟其他有唯一根類別的系統，就 : 無法在程式碼階層相容，最後吵出了領域的概念，類別必須有歸屬的領域，以 : 避免同名的類別衝突。另外有一派則堅持最上層的類別必須是抽象性質，不能 : 匯聚為單一類別卻沒有性質，又有一派認為意義是流動的，功能必須先於類別 : 而存在，具有同一組功能的物件即為同一類別... 簡直是宗教理論的大混戰， : 人們必須先有一套完整的世界觀，才能有效地設計程式而不發生矛盾問題。 : 而比較核心的議題，則是在規則的規則，或是如何發現資訊背後的規則之上。 : 其中又大量牽涉到資訊和程序的意義和分析問題。 ....我怎麼沒看到形上學問題？我只有看到「複雜系統該如何設計」這問題而已？ 還是你覺得該怎麼設計複雜系統這問題等於形上學問題？ 我這樣說當然有點故意。我並非沒看出其中問題與回答問題時思維的相似。 不過我會傾向這樣說：從如何設計複雜系統或許可以作為我們瞭解我們如何瞭 解世界、與世界互動（心靈本質這大問題底下的許多小問題）的一個好模型。 甚至，複雜系統本身就能使我們更瞭解這世界運作的方式與其本質。 ---- 說實話我可以理解你在想什麼。但我覺得你犯了一個我認為許多科學家都常犯 的毛病：衝太快，太過樂觀，許多概念（或問題）的連結太草率。 我也曉得複雜動態系統或許是當今最好的心靈模型。我也打算因此去補足需要 的數學分析背景以便更瞭解這套模型（我相信很多國內連微積分都沒修過的哲 學家是幾乎不可能辦到這點的）。但這不表示「答案就在這兒了！YA！就是他 了啦！沒更好的選項了！就是它就是它了！」。至少哲學家不會這麼衝動地那 麼快就下結論。 別忘了，科學史上曾出現過不曉得多少次的這種「樂觀」與「最棒的理論、最 好的模型」。 : : 有的哲學家可能會持贊成的立場，有的可能會反對。 : 這當然是哲學可以參與的地方，只是我覺得哲學應該能做更多事才對，只是 : 缺乏適當的交流互動和積極參與。 這點我絕對同意。不過據我所知，要能夠成熟地討論複雜系統，預設了數年的 數學分析訓練。而這不是許多哲學家，尤其是國內哲學家可能辦到的。國內的 許多哲學家從高中開始就數學不好啊....對物理化學的知識更是接近零。 : : 證心靈是不可計算的。故，可計算的系統絕對不可能有心。 : 在另一篇我提到了，現在的主流觀點是建立一個架構在計算系統之上的複雜 : 系統，理想的狀況可能是一個由預設規則和外來資訊共同決定的多層結構， : 固定的資訊形態在淺層即行處理完畢，愈特殊的資訊形態就可能進入愈深層 : 處理並影響系統狀態和規則，能夠在愈長的資訊序列中愈早發現資訊形態， : 其處理複雜資訊的能力就愈強。 : 這類型的系統應該沒有那種規則運算的毛病，有限規則不能處理複雜資訊， : 這是混沌學開宗明義就建立的概念，只有複雜才能對應複雜。 我所知道的是這樣的，或許相對粗淺了些，還請賜教： 所謂可計算，意思是說可以找到至少一種方法，依循該方法可有效的得到答案。 拿某一個系統在某時間t的總狀態為例，如果存在一種方法使我們可以算出在t+1秒 時該系統的總狀態（也就是狀態向量中的各成分向量值），那麼，這個系統就是 原則上可計算的。反之，不存在這樣的方法的話，那麼，該系統就是不可計算的。 我所知道的是，複雜系統好像可以依此大致分成這兩類：可計算的與不可計算的。 因此，如果說心靈是不可計算的，那麼可計算的複雜系統就不夠格成為心靈的模 型。故心靈是否是一個不可計算的系統是一個很重要的問題。 也因此我才想問你，你所謂「無法輕易」確定下一刻的狀態是什麼意思？可能 只是因為很難算（相信國中學代數時都碰過自己解不出來的函數），但不代表 原則上就算不出來（根本不存在方法讓你把值求出來，但就是會有一個（或一 組）值為真）。 : : 或者，至少無知也知道自己無知然後會趕緊去把需要的補起來。 : 我哪有那麼多時間，會看中文譯作或中文寫作的東西，已經比許多其他人都要 : 來得積極了。台灣的學者就算水準不夠，那麼多翻譯一些進步的作品也是功德 : 無量了。 哈！如果我上述的分析或理解沒錯，國內的哲學家是不可能有本事翻譯關於討 論複雜系統的哲學論文（書）的。理由很簡單：因為光連什麼叫複雜系統都搞 不懂，更遑論是討論那套理論的論文呢？ 但我可以說，有，而且為數很多。國外的哲學家一堆數學系物理系畢業的，要 學會複雜系統相對來說比較不困難。 簡單講：目前以及過去國內的情況，是不大可能養出兩邊都懂的人。 要有這種人，我這一輩的（或比我長五屆以內的）或許會是第一批吧。 -- PTT2 自然就是美 => 百慕達群島 => 漩渦 => PinkParties --

※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 210.201.190.211