Sam Altman被解雇之謎，可能與OpenAI的Q-Star模型有關，通用人工智慧的突破帶來未來 不可預測性 https://bit.ly/3SWTb4x 隨著OpenAI的混亂塵埃落定，人們很想知道Sam Altman為何被解僱。如今有消息指出，這 可能與一個神秘的AI模式有關。 由OpenAI首席科學家Ilya Sutskever領導的團隊似乎在2023年某個時間點取得了突破，讓 其建構一個名為Q*（發音為「Q-star」）的新模型。這一模型可以解決基本的數學問題。 也就是Q-star模型引發了內部風暴，人們擔憂這項新突破可能威脅人類未來。 解決基本數學問題的能力聽起來可能不那麼令人印象深刻，但AI專家表示這是一個非常巨 大飛躍。如果AI能夠對抽象概念進行邏輯推理，那麼其就可想人類一樣具有解決目前難題 的能力，這與現在的生成式AI是完全不同的概念。 簡單來說，人們學習數學就是訓練邏輯推理能力。傳統上，AI語言模型在這方面很難達到 邏輯推理的境界，只能擁有有效的直覺。 有專家表示，Q*的名字暗示它是兩種著名的AI技術的組合，即是Q-learning和A*搜尋。這 表明新模型可以將支援ChatGPT的深度學習技術與人類程式設計的規則。這種方法可以幫 助解決聊天機器人的幻覺問題。這具有非常重要的象徵意義。 Q*將導致通用人工智慧（AGI）的進步，且絕對離我們所認為的智慧更近了一步，並且有 可能導致模型能夠產生新的想法，這是ChatGPT做不到的。 現今的AI模型存在巨大限制，其不僅僅無法從訓練數據中反省訊息，也無法推理和開發新 想法。以人為本的AI研究所所長Andrew Rogoyski表示，解決看不見的問題是創建AGI的關 鍵一步。 就數學而言，我們知道現有的AI已被證明能夠進行大學水準的數學運算，但無法處理更高 階的數學問題。然而，如果AI不僅僅會反省或重塑現有知識，而能夠進步到解決新的、看 不見的問題，那麼這將是一件大事。 可是並非所有人都對Q-Star的突破如此興奮。有些AI專家表示，如果Q-Star今天只是一位 小學生，可是其擁有的能力可以讓其未來接管全世界。 總之，不管如何，隨著Sam Altman回歸OpenAI的執行長，人類已經打開了潘朵拉盒子。在 利益的驅使下，其發展的速度不單單依賴OpenAI的研發能量，還有其背後投資者的野心， 就像人類當年在研發原子彈軍備競賽一樣，追求更棒的AGI能力。 我們現在只能祈求OpenAI及其投資人能夠在底層邏輯上控制好Q-Star的AGI，以及未來政 府可能的干涉了。 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Tech_Job/M.1701157108.A.1D6.html