作者lucien0410 (lucein)
看板DataScience
标题Re: [问题] Word2Vec LSTM sentiment classification
时间Wed Apr 11 02:55:55 2018
还是忍不住来回一下文
感觉版上的大家 大部分是做影像辨识 自然语言处理的比较少
但是自然语言处理真的很有意思阿 像这个sentiment analysis 语意分析真的特别有趣
而且特别难
先跟大家介绍一下这个研讨会SemEval
应该是语意分析最大的会 会有shared tasks
有点像kaggle的比赛 大会给每个参赛团队同一组training dataset 和test dataset
时间到了大家回传prediction 看谁最接近gold standard
SemEval 2017 Task 4 A 就是twitter tweets 的语意分析
训练集长这样
tweet1 -> positive
tweet2 -> neutral
tweet3 -> nagative
...
任务就是给你一段tweet 你猜是哪个:{positive,negative,neutral} 三选一
http://www.aclweb.org/anthology/S17-2088
结果成绩第一名团队也才拿到 68.1%的准确率
这其实好多难关要过
1. tweet 是很特殊的文体 杂质很高
(好用的tweet 预处理的工具:
http://www.cs.cmu.edu/~ark/TweetNLP/ )
2. 再来是自然语言本身的复杂度,举例来说:
张三很开心 -> positive
张三不开心 -> negative
张三很开心吗 -> neutral
张三不开心吗 -> neutral
如果张三很开心 -> neutral
现在把'开心' 换成'伤心' 正负值又要翻面了
另外还有讽刺的用法 像是 '你长的最好看了' 每个词都是正面的 合在一起变负面
#########################
这里我找了一个参加semEval2017 task4的团队的github
或许你可以试着复制他们的成果:
https://github.com/cbaziotis/datastories-semeval2017-task4
#########################
之前不是有人再问 DL可以选股票吗?
DL + NLP就可以帮你选股票!
这个semEval 就有选股票的比赛 SemEval 2017 task5就是搞这个
这个heuristic很简单 就是看看网路大家对xyz公司的评价是好是坏
好的话股价比较可能会涨
所以选股票除了看 财报 股价历史纪录 其他的数据
还可以看这个sentiment analysis
※ 引述《CaptPlanet (ep)》之铭言:
: ctrl + y 可以删除一整行,请将不需要的内容删除
: 文章分类提示:
: - 问题: 当你想要问问题时,请使用这个类别。
: - 讨论: 当你自己已经有答案,但是也想听听版友意见时。
: - 情报: 当你看到消息时,请使用这个类别。
: 根据板规规定,做适当的转换,以及摘录重要文意。
: - 心得: 当你自己想要分享经验时,请使用这个类别。
: (回答并非义务,所以当有人回答时,哪怕句谢谢也好,多多回应,大E可编辑文章)
: (如果用不到以下框架,如观念问题请自行视情况删除作业系统,使用工具等项目)
: 作业系统:(win10)
: 问题类别:(DL, RNN, NLP)
: 使用工具:(python,keras,gensim word2vec)
: 问题内容:
: 最近尝试对文本进行正负面评价分类
: 先自己训练了word2vec模型(一个词256维)
: 然後参考网路上的code
: https://blog.keras.io/using-pre-trained-word-embeddings-in-a-keras-model.html
: 利用tokenizer和sequence padding把文章转成对应的编码(400维向量)
: 再利用embedding 层设置权重让汇入的文章变成400*256的矩阵
: Embedding层後接着三层LSTM然後Flatten和Dense输出2维向量用softmax和crossentropy
: 预测正负面
: 目前已经都训练完成,但是现在想要实际丢入一些新资料进去预测,新的文章该如何转换
: 成这个model的输入呢?
: 直接参考上面的code用一样的方法将文章编码就可以输入了吗?
: 感谢各位
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 150.135.165.10
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1523386559.A.522.html
1F:推 andyliu42: 推~ 04/11 16:58
2F:推 OnePiecePR: 推 04/11 19:10
3F:推 pp61022: 推! 04/11 20:08
4F:推 ricknfts: 推 04/12 01:39
5F:推 warex14: 推 04/12 07:59
6F:推 WZYang: 推 04/12 17:46
7F:推 hahaxd78: 推 04/12 20:19
8F:推 ax61316: 推分享! 06/05 11:11