作者eggy1018 (罗密欧与猪过夜)
看板DataScience
标题[问题] GAN 实作以及loss function的问题
时间Sun Sep 20 19:31:47 2020
各位Data Science 版的大大们好，最近在深入研究GAN时，对於他的loss function的了
解以及实作上仍存有疑惑。
问题点
最初开始推导的loss function 如下图
https://i.imgur.com/cafOjej.jpg
意思是G, D min max这个function吧？换句话说是同个loss funcion？
可是....
在实作上G, D的loss function却不太一样
Generator loss function
https://i.imgur.com/tNVfz6s.jpg
Discriminator loss function
https://i.imgur.com/4pzT6Hh.jpg
在自己以前学习的认知中，D要max上图的Lisa function, G要min之，，所以我以为可能
是同个loss function但是一个是正的一个是负的，然而实作上的方式却跟数学意义上不
太一样...
希望各位版友能给我一点意见，真的卡了很久，谢谢大家！
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.114.59.240 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1600601445.A.317.html
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 140.114.59.240 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/DataScience/M.1600601509.A.87B.html
1F：推 acctouhou: 那个是最终目标，但过程只能靠iteration达成，所以造 09/20 20:07
2F：→ acctouhou: 成这种差异 09/20 20:07
3F：→ chang1248w: BCE里面你给的标签不一样正负号也就不一样了 09/21 23:06
4F：推 yuwenche: 你记错了， discriminator与generator的loss function是 09/23 09:08
5F：→ yuwenche: 是不同的。你列出来的第一个式子是GAN的loss function， 09/23 09:10
6F：→ yuwenche: 它包含了discriminator与generator两部份， 09/23 09:12
7F：→ yuwenche: discriminator是要将其最大化， 而generator要将其最小 09/23 09:14
8F：→ yuwenche: 化。 但当我们能找到global maximun的discriminator时， 09/23 09:16
9F：→ yuwenche: 其实也就找到了最佳的generator，因此第一个式子基本上 09/23 09:18
10F：→ yuwenche: 就是discriminator的loss function。这中间有些数学推导 09/23 09:19
11F：→ yuwenche: ，有兴趣可参考: 09/23 09:20
13F：→ yuwenche: -engineering-using-generative-adversarial-networks 09/23 09:23
14F：→ yuwenche: -8e24b3c16bf3 09/23 09:23
15F：→ yuwenche: 只是有些好奇， 如果只是作影像方面的东西， 人家的程 09/23 09:25
16F：→ yuwenche: 式就已经写好， 不懂这些理论细节应该也没啥要紧的吧? 09/23 09:26
17F：→ yuwenche: 我是作财金方面的应用， 欢迎私讯来聊。 09/23 09:27