DataScience 板


LINE

※ 引述《jikett (jikeZ)》之铭言: : 各位大神前辈好,小弟不才,最近在面试遇到一个有趣的问题, : 面试官问说data在什麽情况下会用logistic regression,什麽 : 情况下会用SVM? : 当下有点愣住,若谈boundary的特性,两个都可以透过kernel : trick转成nonlinear。印象中以前看蛮多例子都会用 : K-fold cross validation做比较,好像没有一个通则说什麽情 : 形下哪一个一定会优於另一个。 : 後来跟一个Phd朋友讨论後,也只得到说logistic regression在 : data seperable情况下,MLE会是无穷大,但在practical中并不 : 常见完全seperable的data?! : 另外有想到说loss的差异,但其实hinge loss跟logistic regression : 的loss(sigmoid+cross entropy)似乎也只有微小差异? 且loss的 : 不同似乎也不是面试官想问的data特性? : 最後只想到multi-class,LR有softmax推广到multi-class,但SVM : 也可以做1-vs-all SVMs。不晓得各位大神前辈们对於这两者的比较 : 适用於什麽样的data有什麽看法? 先谢谢各位大神前辈! 你好 我最近在念Python 机器学习 第二版 刚好有看到跟你这个问题相关的内容 在 84页 有这些内容: 逻辑斯回归 与支持向量机的比较 在实际的分类工作中,线性逻辑斯回归与线性支援向量机 常常会产生非常相似的结果。但是逻辑斯回归试图最佳化训练数据集的条件概似, 这会使逻辑斯回归比支援向量机更容易倾向於离群值。支援向量机主要在意的是 那些非常接近决策边界(支援向量)的那些点。逻辑斯回归有另一个优点是,他是一个简 单的模型,可以更容易的实作。另外,逻辑斯回归模型可以很容易的完成更新处理, 这在处里串流数据的时候,是非常吸引人的优点。 从上述内容 似乎两者差异在於逻辑斯回归会更倾向於离群值? --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.127.233.55
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1544673093.A.B2F.html ※ 编辑: peter308 (140.127.233.55), 12/13/2018 11:53:43
1F:推 championship: 逻辑回归用 最大似然估计 最佳化,因此,容易受到离 12/13 13:42
2F:→ championship: 群值影响。SVM 则是能够利用Trade-off的超参数,降 12/13 13:42
3F:→ championship: 低 loss 的影响,进而减低离群值的影响。 12/13 13:42
4F:→ wrt: FC+L2 loss=SVM? 12/14 12:16
5F:推 tipsofwarren: SVM 容易解释模型 12/14 14:58
6F:推 tipsofwarren: 此外,新增资料时,LR 肯定要重跑,SVM 则不一定 12/14 15:12
7F:推 OnePiecePR: Hinge Function的特性造成 SVM比较能专注在辨析边界 12/21 18:31
8F:→ OnePiecePR: 的样本 12/21 18:31







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Gossiping站内搜寻

TOP