作者instar7 (希望實現希望)
看板DataScience
標題[問題] RNN預測onehot的一些問題
時間Wed Oct 17 21:39:45 2018
問題類別:(ex：ML,SVM,RL,DL,RNN,CNN,NLP,BD,Vis,etc...)
使用工具:(ex:python,Java,C++,tensorflow,keras,MATLAB,etc...)
問題內容:
資料板大大們，請教一些問題：
背景：使用Keras類似鐵達尼的範例，使用RNN，onehot作為Lable，約有14個Features，
想預測Lable為1的概率多少。loss及 acc loss有降低至約0.10，acc及val acc約0.65。
問題：
epoch試過到100-500次，但是val acc依然變化微小，或是根本不變...然後測試集有1000
個樣本去測試算出存活的概率，只有一個樣本的概率是高的，其餘999個樣本的概率皆是0
.35555...
小弟只能不斷整天調整損失函數、優化器等參數一直試，請問大大可以給點建議嗎？謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.169.135.139
※ 文章網址: https://webptt.com/m.aspx?n=bbs/DataScience/M.1539783588.A.20B.html
1F：推 michellehot: 沒看code不知道 但聽起來像model中沒做normalization 10/17 23:00
2F：→ instar7: 抱歉現在電腦不在身邊無法貼code ，大大指得是預處理的 10/17 23:20
3F：→ instar7: 標準化後資料，在model中需要再做標準化的意思嗎？我真 10/17 23:20
4F：→ instar7: 的沒想過這問題，是激活函數造成各樣本在model中出現了 10/17 23:20
5F：→ instar7: 變異？ 10/17 23:20
6F：推 ck960817: 關鍵字batch normalization 10/23 17:32