作者caat0808 (桐生キキョウ)
看板Soulace
標題Re: 趁你版人多
時間Fri Jul 10 00:12:40 2026
※ 引述 《sustainer123》 之銘言：
: 我印象以前看過處理資料不平衡問題的解耦學習
: 就先用原不平衡資料集訓練一次 再用採樣成平衡的資料集再fine tune
: 但我找不到paper 你版有大師熟嗎
肥肥也沒看過論文講這些
都是以前玩kaggle試出來的方法而已
還有就是資料集的特徵如果skewness有偏差
就是整體偏左偏右
可以取平方對數來讓他標準化
: 還有flow matching靠譜嗎
: 我看不少新的模型跳槽到這邊
: 但相比diffusion 他的訓練時間一定是更省
: 但表現會更好嗎?
: 還有從實務上來說 好調參嗎
我記得是數學上比較好解釋吧
但這一塊我真的不熟
：（
--
https://i.imgur.com/4Plc768.gif
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 149.88.30.114 (美國)
※ 文章網址: https://webptt.com/m.aspx?n=bbs/Soulace/M.1783613563.A.2D4.html
1F：推 sustainer123: 數學上我感覺我懂了一些 就diffusion擬合是調彎路 07/10 00:16
2F：→ sustainer123: flow matching是初始跟目標直接拉條直線 07/10 00:16
3F：→ sustainer123: 第一個主要我今天同事問我 07/10 00:17
4F：→ sustainer123: 能不能先用原本資料集pre-train 07/10 00:17
5F：→ sustainer123: 然後再挑出只有極端值的資料去fine tune 07/10 00:17
6F：→ sustainer123: 我才想到這個 不過她是回歸問題 老實說又更麻煩 07/10 00:17
7F：→ caat0808: 極端值微調沒用ㄚ 只會把模型搞壞 07/10 00:20
8F：→ caat0808: 極端值 = 模型要更高維度去fit = 超絕overfit 07/10 00:21
9F：推 steven183: 最好要把極端值丟掉吧 07/10 00:22
10F：推 sustainer123: 我聽到也覺得他在說啥 07/10 00:25
11F：→ sustainer123: 然後我吃晚餐想到好像讀過類似的 07/10 00:25
12F：→ sustainer123: 但他任務就是要報到極端值 全報平均沒啥意義 07/10 00:25
13F：→ sustainer123: 我是跟他講加權 但我也承認這東西本質就trade-off 07/10 00:26
14F：推 sustainer123: 而且要花大把時間調參 極其痛苦 07/10 00:26