gan

李宏毅深度学习课程笔记篇(1)(小白笔记)

最后都变了- 提交于 2019-12-04 19:05:49
GAN 的基础理论: 1.GAN的基本理论 2.分离GAN——generator learn by itself 3.分离GAN——discriminator generate 正文: 1.对于GAN中的generator而言,可以简单的理解为输入一个vector(随机的一个向量),输出得到一个image(即一个高维度的vector);而discriminator的作用是判别generator生成的图片与真实的图片,真实的图片discriminator会输出得到一个较高的分数(比如1),而generator产生的图片会得到一个比较低的分数。这个步骤其实是固定住generator,训练discriminator让他遇到真实的图片能够输出一个较高的分数,然后固定discriminator,训练generator,让generator能够“骗过”这一代的discriminator,依次循环.... 2.我们来思考一下:generator可以自己训练吗?为什么非要用到discriminator呢?他当然可以自己训练。那么此时我们将会训练一个神经网络,他做什么事情呢?给定一张图,输入一个vector,我希望说输出一张图片跟我给定的图非常相似。那么我只需要去搞出一个loss function(凸函数)然后用梯度下降法降低我的loss值,最后得到最优的结果。 3.待补充.... 来源:

torch_10_stackGAN++

拜拜、爱过 提交于 2019-12-03 20:08:04
核心要点     StackGAN旨在生成高分辨率的真实图片。 stackGAN-v1架构包含两个阶段:用于文本到图像的合成,阶段1GAN根据给定的文本描述绘制对象的形状和颜色,生成低分辨率图像。阶段2将阶段1的结果和文本作为输入,生成具有真实图片细节的高分辨率图像。 StackGAN-V2:针对有条件和无条件生成任务,提出了一种先进的多阶段生成式对抗网络体系结构StackGAN-v2。由树状结构中中的多个生成器和鉴别器组成:同一场景对应的多个尺度的图像来自于树的不同分支。通过联合逼近多个分布,stackGAN-v2比stackGAN-v1表现出更稳定的训练行为。 StackGAN++ 创新点: 1.在StackGAN++模型中,有3个生成器,3个判别器,分别学习三种不同尺度的图像分布 2.联合条件分布和无条件分布估计   如果是无条件分布估计,需在图像生成的过程中,加入隐变量z,即连接到不同尺度的图像分布   如果是条件分布估计,就将串接的隐变量z替换成语义变量c,并同时也串接到判别器的隐层特征中 3.颜色一致性正则化。动机是因为生成的图像在不同尺度中应该保持共有的基本结构和颜色。 1.介绍   生成对抗模型是goodfellow等人提出的一种生成模型,在最初的设计中,GAN是由一个生成器和一个具有竞争目标的判别器组成。训练生成器生成面向真实数据分布的样本以欺骗判别器

生成式对抗网络GAN研究进展(二)——原始GAN

女生的网名这么多〃 提交于 2019-12-03 19:17:57
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 涉及的论文有: [1] Goodfellow Ian, Pouget-Abadie J, Mirza M, et al. Generative adversarial nets[C]//Advances in Neural Information Processing Systems. 2014: 2672-2680. [2] Mirza M, Osindero S. Conditional Generative Adversarial Nets[J]. Computer Science, 2014:2672-2680. [3] Denton E L, Chintala S, Fergus R. Deep Generative Image Models using a Laplacian Pyramid of Adversarial Networks[C]//Advances in neural information processing

简单理解与实验生成对抗网络GAN

不想你离开。 提交于 2019-12-03 19:17:39
之前 GAN网络是近两年深度学习领域的新秀,火的不行,本文旨在浅显理解传统GAN,分享学习心得。现有GAN网络大多数代码实现使用python、torch等语言,这里,后面用matlab搭建一个简单的GAN网络,便于理解GAN原理。 GAN的鼻祖之作是2014年NIPS一篇文章: Generative Adversarial Net ,可以细细品味。 分享一个目前各类GAN的一个 论文整理集合 再分享一个目前各类GAN的一个 代码整理集合 开始 我们知道GAN的思想是是一种二人零和博弈思想(two-player game),博弈双方的利益之和是一个常数,比如两个人掰手腕,假设总的空间是一定的,你的力气大一点,那你就得到的空间多一点,相应的我的空间就少一点,相反我力气大我就得到的多一点,但有一点是确定的就是,我两的总空间是一定的,这就是二人博弈,但是呢总利益是一定的。 引申到GAN里面就是可以看成,GAN中有两个这样的博弈者,一个人名字是生成模型(G),另一个人名字是判别模型(D)。他们各自有各自的功能。 相同点是: 这两个模型都可以看成是一个黑匣子,接受输入然后有一个输出,类似一个函数,一个输入输出映射。 不同点是: 生成模型功能:比作是一个样本生成器,输入一个噪声/样本,然后把它包装成一个逼真的样本,也就是输出。 判别模型:比作一个二分类器(如同0-1分类器)

生成式对抗网络GAN研究进展(一)

瘦欲@ 提交于 2019-12-03 19:17:27
【前言】 本文首先介绍生成式模型,然后着重梳理生成式模型(Generative Models)中生成对抗网络(Generative Adversarial Network)的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文,着重梳理了主干论文之间的联系与区别,揭示生成式对抗网络的研究脉络。 涉及的论文有: [1] Goodfellow Ian, Pouget-Abadie J, Mirza M, et al. Generative adversarial nets[C]//Advances in Neural Information Processing Systems. 2014: 2672-2680. [2] Mirza M, Osindero S. Conditional Generative Adversarial Nets[J]. Computer Science, 2014:2672-2680. [3] Denton E L, Chintala S, Fergus R. Deep Generative Image Models using a Laplacian Pyramid of Adversarial Networks[C]//Advances in neural information processing

生成对抗网络GAN详细推导

♀尐吖头ヾ 提交于 2019-12-03 19:17:00
文章目录 概述 1、什么是GAN? 2、发展历史 一、GAN模型 1、GAN的基本思想 2、GAN的基本模型 二、 GAN的训练 三、存在的问题 问题一 问题二 问题三 四、项目实战 概述 1、什么是GAN? 生成对抗网络简称GAN,是由两个网络组成的,一个生成器网络和一个判别器网络。这两个网络可以是神经网络(从卷积神经网络、循环神经网络到自编码器)。我们之前学习过的机器学习或者神经网络模型主要能做两件事:预测和分类,这也是我们所熟知的。那么是否可以让机器模型自动来生成一张图片、一段语音?而且可以通过调整不同模型输入向量来获得特定的图片和声音。例如,可以调整输入参数,获得一张红头发、蓝眼睛的人脸,可以调整输入参数,得到女性的声音片段,等等。也就是说,这样的机器模型能够根据需求,自动生成我们想要的东西。因此,GAN 应运而生! 2、发展历史 生成对抗网络是由Ian Goodfellow等人于2014年在论文 《Generative Adversarial Networks》 中提出的。学术界公开接受了GAN,业界也欢迎GAN。GAN的崛起是不可避免的。 随着《Generative Adversarial Networks》提出后,GAN产生了广泛流行的架构,如DCGAN,StyleGAN,BigGAN,StackGAN,Pix2pix,Age-cGAN,CycleGAN

生成对抗网络(GAN)应用于图像分类

生来就可爱ヽ(ⅴ<●) 提交于 2019-12-03 19:16:36
近年来,深度学习技术被广泛应用于各类数据处理任务中,比如图像、语音和文本。而生成对抗网络(GAN)和强化学习(RL)已经成为了深度学习框架中的两颗“明珠”。强化学习主要用于决策问题,主要的应用就是游戏,比如deepmind团队的AlphaGo。因为我的研究方向是图像的有监督分类问题,故本文主要讲解生成对抗网络及其在分类问题方面的应用。 生成对抗网络框架 生成对抗网络(Generative adversarial networks,简称为GAN)是2014年由Ian J. Goodfellow首先提出来的一种学习框架,说起Ian J. Goodfellow本人,可能大家印象不深刻,但他的老师正是“深度学习三巨头”之一的Yoshua Bengio(另外两位分别是Hinton和LeCun),值得一提的是,Theano深度学习框架也是由他们团队开发的,开启了符号计算的先河。关于GAN在机器学习领域的地位,在这里引用一段Lecun的评价, “There are many interesting recent development in deep learning…The most important one, in my opinion, is adversarial training (also called GAN for Generative Adversarial Networks

生成对抗网络GAN视频教程part6-完整版

家住魔仙堡 提交于 2019-12-03 19:16:27
生成对抗网络GAN的学习已经持续两周多,今天给大家送上生成对抗网络最后一个部分part6的课程。 链接: https://pan.baidu.com/s/1miboNJM 密码: 扫描头像二维码添加关注,回复“gan6”即可获得密码 此外,为了方便大家观看,台主把整套视频教程整理到一起了,附上是个视频教程地址: 链接: https://pan.baidu.com/s/1eS7piLk 密码: 扫描头像二维码添加关注,回复“ganall”即可获得密码 下期预告: 下期将会给大家分享深度学习优化算法-weight normalization,然后就将进入强化学习单元。精彩内容,敬请期待。 来源: CSDN 作者: lqfarmer 链接: https://blog.csdn.net/lqfarmer/article/details/72305381

深度学习-54:生成式对抗网络GAN(原理、模型和演进)

ⅰ亾dé卋堺 提交于 2019-12-03 19:16:18
深度学习-52:生成式对抗网络GAN(原理、模型和演进) 深度学习原理与实践(开源图书)-总目录 , 建议收藏,告别碎片阅读! 一般的学习模型都是基于一个假设的随机分布,然后通过训练真实数据来拟合出模型。网络模型复杂并且数据集规模也不小,这种方法简直就是凭借天生蛮力解决问题。Goodfellow认为正确使用数据的方式,先对数据集的特征信息有insight之后,再干活。在2014年,Goodfellow等提出生成式对抗网络GAN(Generative adversarial networks)。 告别碎片阅读,构成知识谱系。一起阅读和完善: 机器学习&深度学习原理与实践(开源图书) Goodfellow的原始论文,请参考: Generative Adversarial Networks(GAN) 。 GAN网络由一个生成器和一个判别器构成。生成器和判别器使用多层感知机。GAN网络的架构,如下图所示。 1 GAN模型的创新 GAN模型时通过对抗过程来估计生成模型的新框架。在GAN模型框架中,生成模型与判别模型进行非合作零和博弈。生成模型可以被认为类似于造假者团队,试图生产虚假货币并在没有检测的情况下使用它,而判别模型则是类似于警察,试图检测假币。这场比赛中的比赛开始了两个团队都在改进他们的方法,直到伪造品与真品无法区分用品。 GAN模型的的主要创新: 拥有生成网络G和辨别网络D