作者empireisme (empireisme)
看板Statistics
标题Fw: [问题] kernal trick on svm
时间Tue Mar 31 12:05:16 2020
※ [本文转录自 DataScience 看板 #1UWVnhRR ]
作者: empireisme (empireisme) 看板: DataScience
标题: [问题] kernal trick on svm
时间: Mon Mar 30 22:04:23 2020
如题
我理解假设原本在二维中线性不可分的data 可以 透过kernal function
投影转到 三维 然後就可以在三维平面中 找到一个超平面 让他线性可分
但是我不理解的事情是
1.这个时候原本的linear svm 的参数个数 是从 3个变成4个吗(含bias)
2.以及我们适用的svm模型
是先把资料转成三维再训练参数吗
还是训练成三维後 在把他 投影回 二维 ?
这个时候的线应该就不是直线,而是扭扭歪歪的线 ?
3.有办法得到那条扭扭歪歪的线的方程式吗?
https://imgur.com/4qJH1ZU
举例而言,上图找到的超平面为 z1=0.6 z2=R z3=R
要怎麽把他转换为 二维中的那个圈圈
要怎麽把超平面投影回 二维
并得到二维的方程式
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 219.91.75.186 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1585577067.A.6DB.html
1F:推 asdiy: 记得 他好像是用 写成一个协方差矩阵 (距离矩阵)来计算03/30 22:11
2F:→ asdiy: 的 所以3可以 拿svm的 公式来找出为0的 线段03/30 22:11
3F:推 ching0629: 对於任意kernel function而言,都可以找到一个对应的特03/30 22:14
4F:→ ching0629: 徵工程方式,如对一个资料仅含x1和x2两个变项的资料,03/30 22:14
5F:→ ching0629: 进行二次多项式kernel function转换,其对应到的特徵工03/30 22:14
6F:→ ching0629: 程方式是增加x1x2、x2x1、x1平方、x2平方等四项,所以03/30 22:14
所以这个时候应该是有五个
weight 对吗?就是含bias
7F:→ ching0629: 在有些情形下的确能找到一个对应的线性svm对应到原来03/30 22:14
8F:→ ching0629: 具有kernel function的svm。但为什麽说有些情况而已呢03/30 22:14
9F:→ ching0629: ,这是因为有些kernel function对应到的特徵工程是无03/30 22:14
10F:→ ching0629: 限多维的空间,这时候你当然写不出线性svm的方程式,预03/30 22:14
11F:→ ching0629: 测新资料时就只能直接使用拉格朗日乘算子与支持向量进03/30 22:14
12F:→ ching0629: 行运算03/30 22:14
※ 编辑: empireisme (101.12.53.3 台湾), 03/30/2020 23:24:43
※ 编辑: empireisme (219.91.75.186 台湾), 03/31/2020 09:44:31
※ 编辑: empireisme (219.91.75.186 台湾), 03/31/2020 09:45:32
※ 发信站: 批踢踢实业坊(ptt.cc)
※ 转录者: empireisme (219.91.75.186 台湾), 03/31/2020 12:05:16
13F:→ empireisme: 具体来说我的问题是第三项 如果把她投影回去 投影回去 03/31 12:11