作者Rprogramming (Matlab是盘子在用的)
看板DataScience
标题Re: [问题] cnn训练时的问题
时间Mon Apr 30 20:30:53 2018
※ 引述《bg784533 (bg784533)》之铭言：
: 作业系统:win10
: 问题类别:CNN
: 使用工具:keras
: 问题内容:
: 大家好
: 小弟超新手刚接触深度学习这块
: 做训练自己的数据时 原本acc最後收敛在0.9多
: 但是一样的DATA和程式码给别台电脑重跑的时候
: acc却卡在0.5
: 检查的时候发现多了这个警告 https://imgur.com/a/7NqpCuj
: 不知无法收敛的原因是不是跟这个有关
: 请问该如何处理这个情况?
嗨 你好
我也是机器学习萌新
一点意见供你参考
keras里的kernel initializer预设是mean=0且variance跟input数目相关
来产生的一个乱数
这个乱数有时候产生的好
你训练时就可能一路顺利
可是有时候运气不好weight initialize在奇怪的点
然後gradient卡在saddle point 那你的training可能就上不去
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 219.68.100.173
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1525091456.A.9D1.html
1F：推 bg784533: 感谢指点 04/30 21:09
2F：推 lunashining: 请问有什麽办法改善乱数不会卡在奇怪的地方 04/30 23:42
3F：→ Rprogramming: 缩小batch size 这样gradient descent有机率跳出gra 05/01 04:47
4F：→ Rprogramming: dient很平的地方 05/01 04:47
5F：→ BogiHsu: 试试用有momentum 的optimizer? 05/01 20:29