Sam Altman被解雇之谜，可能与OpenAI的Q-Star模型有关，通用人工智慧的突破带来未来 不可预测性 https://bit.ly/3SWTb4x 随着OpenAI的混乱尘埃落定，人们很想知道Sam Altman为何被解雇。如今有消息指出，这 可能与一个神秘的AI模式有关。 由OpenAI首席科学家Ilya Sutskever领导的团队似乎在2023年某个时间点取得了突破，让 其建构一个名为Q*（发音为「Q-star」）的新模型。这一模型可以解决基本的数学问题。 也就是Q-star模型引发了内部风暴，人们担忧这项新突破可能威胁人类未来。 解决基本数学问题的能力听起来可能不那麽令人印象深刻，但AI专家表示这是一个非常巨 大飞跃。如果AI能够对抽象概念进行逻辑推理，那麽其就可想人类一样具有解决目前难题 的能力，这与现在的生成式AI是完全不同的概念。 简单来说，人们学习数学就是训练逻辑推理能力。传统上，AI语言模型在这方面很难达到 逻辑推理的境界，只能拥有有效的直觉。 有专家表示，Q*的名字暗示它是两种着名的AI技术的组合，即是Q-learning和A*搜寻。这 表明新模型可以将支援ChatGPT的深度学习技术与人类程式设计的规则。这种方法可以帮 助解决聊天机器人的幻觉问题。这具有非常重要的象徵意义。 Q*将导致通用人工智慧（AGI）的进步，且绝对离我们所认为的智慧更近了一步，并且有 可能导致模型能够产生新的想法，这是ChatGPT做不到的。 现今的AI模型存在巨大限制，其不仅仅无法从训练数据中反省讯息，也无法推理和开发新 想法。以人为本的AI研究所所长Andrew Rogoyski表示，解决看不见的问题是创建AGI的关 键一步。 就数学而言，我们知道现有的AI已被证明能够进行大学水准的数学运算，但无法处理更高 阶的数学问题。然而，如果AI不仅仅会反省或重塑现有知识，而能够进步到解决新的、看 不见的问题，那麽这将是一件大事。 可是并非所有人都对Q-Star的突破如此兴奋。有些AI专家表示，如果Q-Star今天只是一位 小学生，可是其拥有的能力可以让其未来接管全世界。 总之，不管如何，随着Sam Altman回归OpenAI的执行长，人类已经打开了潘朵拉盒子。在 利益的驱使下，其发展的速度不单单依赖OpenAI的研发能量，还有其背後投资者的野心， 就像人类当年在研发原子弹军备竞赛一样，追求更棒的AGI能力。 我们现在只能祈求OpenAI及其投资人能够在底层逻辑上控制好Q-Star的AGI，以及未来政 府可能的干涉了。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 203.145.192.245 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1701157108.A.1D6.html