作者yueayase (scrya)
看板Math
标题Re: [机统] 机器学习统计推论(Minimize EPE)
时间Wed Dec 16 14:22:57 2020
※ 引述《wheado (principal component QQ)》之铭言:
: https://imgur.com/DU5W4Sq
: 图片取自The Elements of Statistical Learning
: 内容第18页
: 连结如下:
: https://web.stanford.edu/~hastie/ElemStatLearn/printings/ESLII_print12_toc.pdf
: 我的问题在(2.11)式子的理解以及如何到达(2.13)的思路。
: 从到(2.11)开始说起,
: 我的理解是透过EPE(f)我们可以知道Square error loss的期望值,
: 当我们把最外层的期望值脱掉,可以得到以下这个式子(A)
: https://imgur.com/4aFPF0P
: 对於任意给定的x,都可以得到一个f(x),然後我们将从全部的x中
: 找到一个x使得(A)最小。
: 接着得知(2.12)这个式子最小的结果就是f(x)。
: 第一个问题是(2.12)如何从(2.11)推过来的?
E[(Y-f(X))^2|X=x] = E[(Y-E(Y|X))^2|X=x]+2E[(Y-E(Y|X))(E(Y|X)-f(X))|X=x]
+E[(E(Y|X)-f(X))^2|X=x]
E[(Y-E(Y|X))(E(Y|X)-f(X))|X=x] = (E(Y|x)-f(x))E[Y-E(Y|X)|X=x]
= (E(Y|x)-f(x)) [E(Y|X=x)-E(Y|x)]
= 0
=> E[(Y-f(X))^2|X=x] = E[(Y-E(Y|X))^2|X=x]+E[(E(Y|X)-f(X))^2|X=x]
= E[(Y-E(Y|X))^2|X=x] + (E(Y|x)-f(x))^2
=> When Y = E(Y|X), E[(Y-f(X))^2|X=x] has minimum
=> E[E[(Y-f(X))^2|X]] has minumum when Y = E(Y|X)
: 第二个问题是凭什麽f(x)可以是一个常数c?
推文已回答
: 我的理解可能有很多错误,请大神指教,谢谢。
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 220.142.1.62 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Math/M.1608099779.A.298.html
1F:推 wheado : 减一项再加一项,这骚操作我忘记了,谢谢教导。 12/21 17:36