作者Dminor (低小调)
看板DataScience
标题[问题] SVM基础观念问题请教
时间Tue Jun 4 22:38:05 2019
小弟刚接触SVM,这个问题可能有点蠢,不过一直搞不清这个问题。
就是我在google找寻SVM相关说明的文章中都有提到:
Wx+b>=1 和 Wx+b<=-1
我能理解要找到分割平面Wx+b=0,离两边的资料越远越好,
但实在搞不懂为什麽突然就跑出 Wx+b>=1 和 Wx+b<=-1 了……
还有为什麽是1,不能是其它数字,像是 Wx+b>=0.5 和 Wx+b<=0.5。
假如我今天手上的资料距离很近,
找不到能使所有资料都符合Wx+b>=1 和 Wx+b<=-1的条件怎麽办呢?
我看的有以下几篇:
https://medium.com/@chih.sheng.huang821/c320098a3d2e
https://taweihuang.hpd.io/2016/09/21/读者提问:什麽是支持向量机-svm/
https://en.wikipedia.org/wiki/Support-vector_machine
这问题可能菜得很蠢,不过还是请好心的大大们指导一下,谢谢QQ
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 61.226.219.84 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1559659093.A.457.html
1F:推 thefattiger: 三言两语讲不完,你把W和b乘以任意值,Wx+b的结果 06/04 23:17
2F:→ thefattiger: 都会不一样,所以要配上另一条constrain才有意义 06/04 23:17
3F:→ thefattiger: 可以去u2搜林轩田教授讲SVM的部分 06/04 23:18
4F:推 moonoftree: 选 1 算是通用吧 也是为了後续推导用 事实上没差 06/05 04:40
5F:→ moonoftree: wx+b>=1 两边同乘 0.5 变 0.5wx+0.5b>=0.5 06/05 04:40
6F:→ moonoftree: 令 w'=0.5w b'=0.5b 就变成 w'x+b'>=0.5 06/05 04:40
7F:→ moonoftree: 这式子透过同样方法求出来的 线是一样的 06/05 04:40
8F:→ moonoftree: 反正主要是要理解 SVM 想要去 maximize margin 06/05 04:40
9F:→ moonoftree: 假如当初选 1 的话 06/05 04:40
10F:→ moonoftree: 可以透过两平行线距离求得 margin = 2/|w| 06/05 04:40
11F:→ moonoftree: 而实际上很难找到一条线完整把正负资料分开 06/05 04:40
12F:→ moonoftree: 所以可以参考 soft SVM 06/05 04:40
13F:→ moonoftree: 容忍资料与线中有些许的误差去做分类 06/05 04:40
14F:→ moonoftree: 详细的内容可以参考林轩田老师的教学 06/05 04:40
15F:推 ouryouth: 楼上是对的 因为经过scale过了 06/05 12:49
16F:→ sxy67230: 其实那个1就是方便计算而已,因为那是"最大边界"。就算 06/05 19:23
17F:→ sxy67230: 你不设1,基於最优化,max(margin/||w||),更新过後的w' 06/05 19:23
18F:→ sxy67230: =w/margin,代入後就是max(1/||w'||),考虑正负就是2/|| 06/05 19:23
19F:→ sxy67230: w|| 06/05 19:23
20F:→ sxy67230: 这在物理意义上代表今天你就算设100,svm在做最优化他 06/05 19:25
21F:→ sxy67230: 还是会自动帮你找到间隔在正负1之间。 06/05 19:25