PS: 以下用超人工智慧 (SAI, Super AI, 或 Superior AI) 代表萬能機器 前言寫在上一篇 obov 的推文中. 但推的太多, 我獨立寫出來 此文只討論以下這件事情.. → I0O1:也因此,是否有超人工智慧,能在短時間毀滅人類呢? 08/21 12:05 → I0O1:回正題, 超人工智慧(SAI)我覺得是有機會在短時間內突現的 08/21 12:08 → I0O1:至少包括有 破壞性病毒 與 磁區損毀 兩種方式, 可以改變一個 08/21 12:09 → I0O1:正常程式的行為模式. 可以想見基因的 "突變" 08/21 12:09 即使不考慮 EP 等基因演算法. 一般正常程式 (就如..微軟的小畫家), 在突變後 也會產生難以預期的結果. (給一群猴子亂敲打鍵盤, 也能打出莎士比亞鉅作) 不過, 我必須強調, 突變產生 SAI 的可能性很低, 從 machine code 的角度, 一個函式 "回傳 x+1" 突變成為 "回傳 x-1" 比較容易 但突變成為 "x^2 + 1" 困難許多. 雖然目前沒有人知道 SAI 需求的複雜度多高. 但明顯的, 目前日常生活的 應用程式 (例如 Word), 離 SAI 還有很大的距離. 也因此, 我並不擔心, 待會午睡起床, 我的 Word 變成 SAI ! 另一方面, 前面我提的兩種突變方式 "破壞性病毒 與 磁區損毀" 對於突變的殺傷力比建設力高太多. 生存環境也太嚴苛, 沒有人會樂見自己的小畫家一夕間變成 CorelDREW 吧? 八成一開始突變就砍了它 也因此, 至少我對可以看見的未來, 仍抱持樂觀 也相信 reader 所言, 人類的智慧 能主宰 漸進式進步的科技與社會 最後, 就我所見 haryewkun 的論點在 "SAI的突現" 與 "和人類的競爭" 兩點 此文說明了 "SAI突現" 的難處. 或許 haryewkun 有其他, 對程式突變的更可行想法? 另外, SAI 和人類的資源競爭上, 並非不可能. 但我總覺得這是以人類 '唯我獨尊' 的思想為出發點. 姑且不論 SAI 個體數是否能壯大到和人類種族相抗衡 (因為沒有人知道多少 CPU 多少 RAM, 多少硬碟才能養活一個 SAI); 新物種也可能主動與舊物種形成共生關係 舉例而言, 即便明天出現 SAI, 但以目前人類的科技狀態, SAI 僅能扮演螢幕上的指導 者腳色, 或在汽車配件工廠揮揮機械手臂... 或許 haryewkun 可以對整個 "取代過程" 做更深的構思. 附和前面 jsbjgk 網友說的 "討論 CS 的東西還是不要牽涉到 社會制度這些東西比較好...." 抱歉, 修到推文 --

※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.113.194.55 ※ 編輯: I0O1 來自: 140.113.194.55 (08/21 12:46) ※ 編輯: I0O1 來自: 140.113.194.55 (08/21 13:07)