作者HeterCompute (异质运算)
看板GO
标题[情报] 黄博士今日演讲内容
时间Fri Nov 10 13:23:12 2017
简单提一下今天黄博士演讲重点
演讲标题是深度学习与强化学习的胜利
认为zero是最佳的deepmind电脑围棋这部分最佳的收尾
黄博士对於一开始击败樊辉就发nature有些不解,我们要挑战李世石结果把所有技术都透漏给所有人,但deepmind的想法是我们需要分享技术让世界一起进步
google对alphago团队最大帮助是TPU
认为Master已经完美解决李世石第四盘的bug,解决方式与神经网路架构(dual res)和训练都有关,并且以他多年的电脑围棋经验与测试过後,认为不会再出现此类bug
Master是20block res-net,并改进了training pipeline和MCTS,也解决了模仿棋和循环劫(没说怎麽做),能让lee版本3子并超过50%胜率
master年初60连胜每一步4-8秒,在台湾,吃泡面配黑松沙士下的,是黄博士积极鼓吹要出来测试,Hassabis说要低调并使用韩国国籍,一开始不得透漏身分
Hassabis说要挑强的下,但是第一天职业没人愿意跟0胜0负的下,都被拒绝,等到第一天10连胜之後第二天开始拒绝别人邀请
master下的时候可以看胜率随步数的图,基本上50手之前斜率很高并且确立极大优势,唯一例外是柯洁乌镇第二盘
4月的时候已经有zero,但由於要发nature所以不能拿来下
当初开发zero没预料到会超过master
master年初开发完毕之後,zero由其他人负责开发,黄博士继续想方法增强master
zero不是放在那边增强学习就会变强,中间需要做很多优化,否则有bug不会进步,其中一个重大bug发生在第三天(纪录人表示:所以看来绝艺有得忙了
AntiAlphaGo,不是像大家想的那样有新的技术,就是左右互搏,也不是gan(生成式对抗网路)
master是否被人类棋谱拖累?答案是不确定,因为master训练时间较短,deepmimd也没有针对同等条件去比较。
以上,有其他疏漏请其他人补充,并欢迎转载,但请说明作者是Hetercompute
-----
Sent from JPTT on my Samsung SM-A710Y.
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.109.127.9
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/GO/M.1510291395.A.4F4.html
1F:推 staristic: 第三天?这麽巧就是达到李世石版的那时候? 11/10 13:28
2F:推 CGary: btw, AGZ 不会 open source. 11/10 13:42
3F:推 yys310: 呜呜 好想听现场 11/10 14:11
4F:推 jackcselab: 这篇访问算是证实了DZG作者的猜想,master是用比较小 11/10 15:12
5F:→ jackcselab: 的网路才输给zero,master跟zero在相同网路下并没有 11/10 15:12
6F:→ jackcselab: 明显的优劣 11/10 15:12
7F:→ jackcselab: 上面讲错,应该说master跟zero在相同条件下谁优谁劣 11/10 15:14
8F:→ jackcselab: 还未知 11/10 15:14
9F:推 jackcselab: 另外我有个疑问,记得当初有提到,master只计算到20步 11/10 15:16
10F:→ jackcselab: ,这个20步跟resnet的20-block有关系吗? 11/10 15:16
11F:推 vencil: 推 11/10 15:17
12F:推 yys310: 柯洁也真的是够神了 11/10 15:22
13F:推 CGary: 很难说是证实了 其实Aja在被问的时候不是这样说的 他只是说 11/10 16:47
14F:→ CGary: 不能因为AGZ的强大 就说人类的知识本质没有用处 只能说透过 11/10 16:48
15F:→ CGary: Zero可以真的"从零学会", 但他们不能评估这两者用同样的计 11/10 16:49
16F:→ CGary: 算量 Master 不会输 因为在回答过程中aja 不止一次说他们非 11/10 16:49
17F:→ CGary: 常惊讶Zero的训练结果(本来以为是根本不可能赢过Master,没 11/10 16:50
18F:→ CGary: 想到很快就碾压了) 11/10 16:50
19F:推 zeat: 在台湾,吃泡面配黑松沙士下的XDD 11/10 19:24
20F:推 wadashi1: 太辛苦了(算沈迷吗?) 都没有出门或自己煮好好的吃个饭 11/10 21:54
21F:→ aegis43210: zero的演算法也是一直优化才比master强 11/10 23:41
22F:→ aegis43210: 那个人不看好腾讯能完整复制zero的棋力了 11/10 23:42
23F:推 oldTim: AlphaGO与其说是科学上的突破,不如说是工程上的奇蹟 11/11 00:07
24F:推 staristic: 看硬体怎麽进步吧,硬体追得上的话说不定20年後变大学 11/11 00:08
25F:→ staristic: 机器学习的学期大专题 11/11 00:08
27F:→ cubec: AlphaGo Zero 只用了三天,就走过人类几千年围棋研究的历程 11/11 04:24
28F:推 seaEPC: 很佩服deepmind分享知识的作法 11/11 07:57
29F:推 sunev: 所以master就已经只用一个神经网路了吗? 11/11 14:34
30F:→ HeterCompute: 对,只用Res-Net 11/11 17:32
31F:推 tlchen: 我很早就提,我们不能只看三天很短,但三天中,它进入高品质 11/11 18:53
32F:→ tlchen: 的棋局,比人类几千年来的高品质,其实应该是不知多多少倍 11/11 18:54
33F:→ Uizmp: 这也难说,人类不在对弈的时候, 有些人脑中依然在运算这些 11/11 18:59
34F:→ Uizmp: 只是没有下出来, 或者下出来没有留下棋谱 11/11 18:59
35F:→ Uizmp: 只能说人类的资讯整合能力与计算能力远输於AG 11/11 19:03
36F:推 birdy590: 三天看来很短 但那已经累积上百万盘的样本了 11/11 19:16
37F:推 birdy590: 没有google这种资本 一般开发者根本不可能这样设计 11/11 19:17
38F:推 wadashi1: Zero用的设备就像进入精神时光屋一样,1700年用40天达成 11/11 19:22
39F:推 birdy590: 人类历史上所有棋局加起来也不过零头吧 质也一定输 11/11 19:24
40F:推 ddavid: 主要是人类并不是一个整体,有大量的运算资源被浪费在各自 11/12 02:56
41F:→ ddavid: 算各自的东西,再来就是下完一局棋以评估所花时间太久 11/12 02:57
42F:推 lwei781: 人类是各自学 流派又不交流 11/12 13:07
43F:推 aegis43210: alphago lee是13block,Master是20block 11/12 19:44
44F:→ aegis43210: zero则有20block和40block两种版本 11/12 19:44