作者Rprogramming (Matlab是盘子在用的)
看板DataScience
标题[讨论] 关於training时early stopping的时机
时间Mon Apr 23 13:34:56 2018
如题
小弟最近在练习train CNN
关於early stopping的时机 想跟大家讨论一下
自己觉得有4个可能的点
1. validation loss 不显着下降的时候: 有时候validation loss不下降但validation
accuracy仍继续上升，不确定是否该停，反之亦然，我认为这是因为较低的validation
loss不一定对应较高的validation accuracy (假设loss用cross entropy的时候)
2. validation accuracy不显着上升的时候: 这个点感觉最有说服力，但也要考虑到
validation set 一般切不会太大，无法很有效代表test set，
accuracy也有可能会飘来飘去的
3. training accuracy >> validation accuracy: 这是我同学认为的，他觉得
training accuracy 大於validation accuracy就overfitting了 再train下去没用
例如training accuracy 75% 但validation accuracy只有65% 就应该停下来了
4. training loss不继续下降的时候: 这个点一般要等最久，early stopping效果不显着
而且可能早就已经overfitting了
小弟才疏学浅，还请各位先进能不吝指点
谢谢
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 119.14.44.99
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1524461699.A.5CA.html
1F：推 jackwang01: 我觉得是1，看validation loss 04/23 14:03
2F：→ truehero: 就12 ,case by case 04/23 20:53
3F：→ bessgaga: 通常是1 04/23 22:16
4F：推 bibo9901: 4就是收敛了，哪来early stopping 04/24 04:37
5F：推 s1681688: 我都用2 04/24 17:49
6F：推 mk99: 我也投2 04/24 18:22
7F：推 DreamRecord: 我会选择1 04/24 23:56
8F：→ DreamRecord: accuracy要看你所选择的measure会不会乱飘， 04/24 23:56
9F：→ DreamRecord: 有可能这个epoch很差下个epoch又突然变好， 04/24 23:56
10F：→ DreamRecord: 结果你在这个epoch就early stop了。 04/24 23:57
11F：→ DreamRecord: loss是反应objective有没有学好最直接的指标， 04/24 23:57
12F：→ DreamRecord: 相对比较稳定。 04/24 23:57
14F：→ howie7155: 要看状况，同意楼上的，另外我觉得如果第3已经是常态了 05/02 10:20
15F：→ howie7155: 话，本来就要停止，只是感觉应该不算early stopping 05/02 10:20
16F：→ howie7155: 的范畴 05/02 10:20