※ 引述《minazukimaya (水無月真夜)》之銘言： : 沒關係，偷偷告訴你一個Insight : 今年NeurIPS 2025有一篇超重量級的論文 : Introducing Nested Learning 就整篇不知道在講什麼。刪 https://research.google/blog/introducing-nested-learning-a-new-ml-paradigm-for-continual-learning/ https://reurl.cc/8bDgag google已經整理好重點。 "We introduce Nested Learning, a new approach to machine learning that views models as a set of smaller, nested optimization problems, each with its own internal workflow, in order to mitigate or even completely avoid the issue of “catastrophic forgetting”, where learning new tasks sacrifices proficiency on old tasks." 翻譯 "我們引入Nested Learning，這是一種新的機器學習方法，它將模型視為一組較小的Nested Learning問題，每個問題都有自己的內部工作流程，以便減輕甚至完全避免「災難性遺忘」的問題，即學習新任務會犧牲對舊任務的熟練程度。" 架構還是transformer，套入一些術語，讓外行人糊塗。論文都是這樣。 就很有趣，有機會改進post training效率，可能可以塞進更多功能在同樣的規模模型。 就像moe(Mixture of Experts)，有很大幫助，但基本結構不變。 股版的關聯是，該漲的該跌的股票不變。AI現在就是往更高效率，更少資源方向走。 但應用如何賺錢還是問題，所以甲骨文大投資，如何回收，華西街現在害怕了。 --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 58.114.66.74 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Stock/M.1765662010.A.091.html