作者purpleboy01 (紫喵)
看板Statistics
标题[问题] ARIMA的参数估计
时间Thu Mar 2 11:41:16 2017
大家好
最近有研究上的需要被交代要了解ARIMA的运算过程
前面的ACF/PACF跟後面的AIC/BIC公式稍微了解了
但参数估计的部分一直没有很理解内容
(手边有杨奕农及余桂霖的时间序列书)
因为自己对统计以及回归分析本身不是挺熟悉
虽然了解流程及式子本身但对於要代什麽进去还是挺茫然
老师是希望虽然有像是R可以直接下指令得到结果
但还是要先手算过才确定了解透彻
假设说我透过ACF跟PACF假定模型是ARIMA(1,0,1):
Yt = α + ψYt-1 + εt + θεt-1
那接下来参数估计的流程步骤应该是如何呢??
谢谢大家
--
╭─────────────────────────────────────╮
│ 这篇文章让你觉得？
▲▲▲ ＊╮ ╭＊ ◣▲◢ ╭● │
│
╯╰┤ ＞＿＜ 崮rz─┼─ 莔rz╯╰┤ 益rz﹀▲﹀ 卣rz◢██◣ │
│
囧rz □ │▲XDrz╰╯│▲ □ ▲ □ │▲ ◥皿 ◤▲ ╱╲ █ │
│
◤ ◤ ◤ ◤ ◤ ◤ ◤◤ ◤ ◤ ◥██◤▲ │
╰────────────────by cAshoNly─────────
◤ ◤ ─╯
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 203.64.92.33
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Statistics/M.1488426088.A.F1B.html
1F：→ f496328mm: 有确定你的 lag length 是 1 吗? 03/02 12:11
2F：→ f496328mm: 喔喔 你假设是1 03/02 12:12
我想应该是要藉由训练资料
然後透过某些式子来求得α、ψ跟θ对吧? 就是这个步骤不理解OTL
※ 编辑: purpleboy01 (203.64.92.33), 03/02/2017 13:44:05
3F：→ f496328mm: 训练资料这些 有很多现成套件让你跑 03/02 15:41
4F：→ f496328mm: 都会附上PAPER 加减看看 03/02 15:41
5F：→ f496328mm: 至於lag length部分 有很多检定可以做 03/02 15:41
6F：→ f496328mm: 你有DATA就不用假设了 直接做个table 多个检定比较 03/02 15:42
7F：→ f496328mm: 我之前做system equation的参数估计 用 mle+sur model 03/02 15:42
8F：→ f496328mm: 最简单你用回归就可以做了 只是结果很烂而已 03/02 15:43
9F：→ f496328mm: ML的方法 找不太到参数 03/02 15:43
10F：→ f496328mm: 我之前做过比较简单的lag length部分 03/02 15:47
11F：→ f496328mm: 你就 Yt-k 做很多期 看前面参数显不显着 03/02 15:47
谢谢回答!!
虽然我还是不太理解:P
我现在是先学习OLS跟MLE在多元回归的部分
想说跟ARIMA模型某些程度上有点类似(吗)
※ 编辑: purpleboy01 (203.64.92.33), 03/03/2017 16:31:35
12F：→ f496328mm: 我目前担任经济系教授的研究助理 03/03 20:38
13F：→ f496328mm: 所以有做一些这方面的东西 03/03 20:38
14F：→ f496328mm: 我们是参考一些paper 经济系很擅长找equation 03/03 20:39
15F：→ f496328mm: 之後就是参数估计的事了 看用什麽方法 03/03 20:40
16F：→ f496328mm: system equation就是 你一次有两条以上的equation 03/03 20:40
17F：→ f496328mm: 彼此有关系 不能只用OLS去单独估计其中一条 03/03 20:41
18F：→ f496328mm: AR模型 除非你有已知equation 不然要找lag length 03/03 20:42
19F：→ f496328mm: 这样才知道 你OLS估计的式子要放几个Yt-k 03/03 20:43
20F：→ f496328mm: 不知道你是不是经济系的哈哈 03/03 20:43
我是电子所的XD'
主要是做机器学习或生物资讯方面
之前是用SVR做旅游人数的序列
因为比较的对象包含ARIMA
老师要我去把它搞懂 之後也许往ARIMA+机器学习的方向应用在序列预测上
所以对於一些估计检定等等并不熟
像是步骤前面的ACF/PACF跟後面的AIC/BIC因为知道要带什麽进去算还行
解回归系数就无法了TT
※ 编辑: purpleboy01 (101.9.199.244), 03/03/2017 23:06:34
21F：→ celestialgod: 解系数就MLE去解而已，找本时序书应该都有推吧 03/04 00:14
谢谢! 我来研究看看
手边的书跟资料多少都有提到MLE 但是大部分就是提到OTL
※ 编辑: purpleboy01 (101.9.199.244), 03/04/2017 00:18:57
23F：→ celestialgod: 其中|ψ|<1是保证Yt是stationary 03/04 00:19
24F：→ celestialgod: OTL?? 可以给我全名吗 03/04 00:20
抱歉他只是比较大的Orz XD'
※ 编辑: purpleboy01 (101.9.199.244), 03/04/2017 00:22:50
25F：推 f496328mm: 我好像有印象你在R问过？ 03/04 00:26
没有耶我没有去R语言板
26F：→ f496328mm: 机器学习就不用作时间序列拉 03/04 00:26
27F：→ f496328mm: 我之前是作 销售量预测 销售量也是时间序列 03/04 00:27
28F：→ celestialgod: 为什麽楼上那麽断定 机器学习不用做 时间序列= = 03/04 00:27
29F：→ f496328mm: 一样直接用ML 不用传统的AR MODEL 03/04 00:27
30F：→ f496328mm: 阿 不是不用做 是直接用ML就好 ar比较难 03/04 00:28
31F：→ celestialgod: ARIMA的估计最後还是回到OLS，OLS也是ML的方法阿= = 03/04 00:29
32F：→ celestialgod: 广义上来讲，ARIMA也在ML的范围... 03/04 00:29
我用SVR也是直接输入整理好喂进去
只是因为比较对象有ARIMA(SARIMA)所以老师要我了解清楚
了解清楚就是要用手动算过他的每个步骤这样~
※ 编辑: purpleboy01 (101.9.199.244), 03/04/2017 00:31:58
33F：→ f496328mm: 但是ML 不是比较没办法处理时间序列吗？ 03/04 00:31
34F：→ celestialgod: 基本上ARIMA也是从资料去learn规律~~ 03/04 00:31
35F：→ celestialgod: 你把机器学习这个名词定义的太狭隘了QQ 03/04 00:31
36F：→ celestialgod: ML也不是比较没办法处理时间序列... 03/04 00:32
37F：→ f496328mm: 我知道ML 里面也是很多回归拉 03/04 00:32
38F：→ celestialgod: 只是有时候忽略掉时间因素去做learning，不过还是要 03/04 00:33
39F：→ celestialgod: 看使用的模型 03/04 00:33
40F：→ f496328mm: ML做时间序列 是不是要先把资料调整 让它平行化？ 03/04 00:34
41F：→ f496328mm: 我之前有去问过一些讲师 03/04 00:35
42F：→ celestialgod: 平行化？？ 我不太知道你在讲什麽Orz 03/04 00:35
43F：→ f496328mm: 有些长期资料 画起来会有越来越高/低 的倾向 03/04 00:36
44F：→ celestialgod: 跑题了，原PO基本上手算系数是有点困难的... 03/04 00:36
45F：→ celestialgod: 我自己统计系所修的时间序列分析，都没有手算过XD 03/04 00:36
46F：→ f496328mm: 就是让减少时间的影响 03/04 00:36
47F：→ celestialgod: 那跟时间序列有什麽关系= =? 03/04 00:37
48F：→ celestialgod: ARIMA就是要把时间因素考虑进去阿 03/04 00:37
49F：→ f496328mm: ar可以帮你判断lag length 不过也可以用其他检定去找 03/04 00:37
50F：→ celestialgod: AR不能帮你判断lag length Orz 03/04 00:38
51F：→ celestialgod: 基本上ARIMA的 p,d,q通常都用ACF跟PACF去看 03/04 00:39
52F：→ celestialgod: 然後搭配一些适当的检定做为辅助 03/04 00:40
53F：→ celestialgod: 最差的做法就是fit多个ARIMA，去检验fitness 03/04 00:40
54F：→ f496328mm: ADF test? 03/04 00:40
55F：→ f496328mm: unit root test? 不过这很多种 03/04 00:41
56F：→ purpleboy01: 我看参数估计的部分也是觉得手算好像不是个实际做法w 03/04 00:41
57F：→ celestialgod: 原PO，基本上手算是不太实际的 03/04 00:42
58F：→ purpleboy01: 我打算先跟老师说这个部分用软体带过 03/04 00:42
59F：→ purpleboy01: 不过他其实也不太清楚 所以应不是个问题XD 03/04 00:42
60F：→ celestialgod: 能够理解PACF跟系数之间的关系就OK了 03/04 00:44
61F：→ celestialgod: 真要手算可以试试看自己用三笔资料去叠带看看AR(1) 03/04 00:46
62F：→ celestialgod: AR(1)要解的参数就三个 mean, noise标准差跟 03/04 00:47
63F：→ celestialgod: yt与y_{t-1}的系数 03/04 00:47
64F：→ purpleboy01: 如果单纯只靠ACF和PACF判断 是不是就是看图然後把可 03/04 00:50
65F：→ purpleboy01: 能的p d q列出来然後看系数的估计值跟标准差 03/04 00:51
66F：→ purpleboy01: 再决定後续 03/04 00:51