作者HakkaChipa (Hakka_Chipa)
看板DataScience
标题[问题] 预设储存的是哪一个模型
时间Sun May 31 01:35:24 2020
非常感谢上次版友们的帮助,解决了记忆体不足的问题,最後使用了generator。
这次小弟想要询问比较观念(?性的问题。
就是模型训练完成後,所得到的模型应该是哪一个,目前理解是每一个epoch都是一个训练好权重的模型,因为不断的修正,本来猜测训练完的模型应该是最後一个才是。
但是实测(evaluate)上发现比较靠近loss最低的模型(?),如果只有训练loss还算好理解,但是如果模型出现了overfitting的情形(训练误差、验证误差),预设还是会选择训练loss最低的模型吗?
目前知道我们可以设callback去选择要储存的模型,所以这种比较复杂的比较(train validation )该是由我们筛选,再麻烦各位板上的多多指教了,谢谢!
-----
Sent from JPTT on my Samsung SM-N770F.
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 118.170.114.216 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1590860126.A.1C2.html
1F:→ seasa2016: overfitting的情形(训练误差、验证误差)不等价 05/31 05:23
不好意思,我没说清楚哈哈哈,我原本是想表示这时候要同时考虑验证误差与训练误差的部分
※ 编辑: HakkaChipa (118.170.114.216 台湾), 05/31/2020 07:57:01
2F:推 aidansky0989: 通常你会去惩罚权重参数、松弛因子或映射维度,电 05/31 09:37
太好了,非常感谢!!
3F:→ aidansky0989: 脑自己会选最佳解 05/31 09:37
※ 编辑: HakkaChipa (140.120.54.70 台湾), 05/31/2020 14:21:37
4F:→ chang1248w: 你可以设定储存测试集准确度最高的模型 05/31 16:08
谢谢大大的建议,小弟会再多多研究这块的用法!
5F:→ chang1248w: keras.callbacks.ModelCheckpoint里面monitor选val_ac 05/31 16:11
6F:→ chang1248w: 然後model complile时记得把metrics=['acc']加进去 05/31 16:12
※ 编辑: HakkaChipa (118.170.114.216 台湾), 06/01/2020 02:35:01