作者caat0808 (桐生キキョウ)
看板Soulace
标题Re: 趁你版人多
时间Fri Jul 10 00:12:40 2026
※ 引述 《sustainer123》 之铭言:
: 我印象以前看过处理资料不平衡问题的解耦学习
: 就先用原不平衡资料集训练一次 再用采样成平衡的资料集再fine tune
: 但我找不到paper 你版有大师熟吗
肥肥也没看过论文讲这些
都是以前玩kaggle试出来的方法而已
还有就是资料集的特徵如果skewness有偏差
就是整体偏左偏右
可以取平方对数来让他标准化
: 还有flow matching靠谱吗
: 我看不少新的模型跳槽到这边
: 但相比diffusion 他的训练时间一定是更省
: 但表现会更好吗?
: 还有从实务上来说 好调参吗
我记得是数学上比较好解释吧
但这一块我真的不熟
:(
--
https://i.imgur.com/4Plc768.gif
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 149.88.30.114 (美国)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Soulace/M.1783613563.A.2D4.html
1F:推 sustainer123: 数学上我感觉我懂了一些 就diffusion拟合是调弯路 07/10 00:16
2F:→ sustainer123: flow matching是初始跟目标直接拉条直线 07/10 00:16
3F:→ sustainer123: 第一个主要我今天同事问我 07/10 00:17
4F:→ sustainer123: 能不能先用原本资料集pre-train 07/10 00:17
5F:→ sustainer123: 然後再挑出只有极端值的资料去fine tune 07/10 00:17
6F:→ sustainer123: 我才想到这个 不过她是回归问题 老实说又更麻烦 07/10 00:17
7F:→ caat0808: 极端值微调没用ㄚ 只会把模型搞坏 07/10 00:20
8F:→ caat0808: 极端值 = 模型要更高维度去fit = 超绝overfit 07/10 00:21
9F:推 steven183: 最好要把极端值丢掉吧 07/10 00:22
10F:推 sustainer123: 我听到也觉得他在说啥 07/10 00:25
11F:→ sustainer123: 然後我吃晚餐想到好像读过类似的 07/10 00:25
12F:→ sustainer123: 但他任务就是要报到极端值 全报平均没啥意义 07/10 00:25
13F:→ sustainer123: 我是跟他讲加权 但我也承认这东西本质就trade-off 07/10 00:26
14F:推 sustainer123: 而且要花大把时间调参 极其痛苦 07/10 00:26