生成式深度网络

生成网络是深度学习中最为活跃且有趣的领域之一。

9月 25 2021
AI编程实现 / Keras / VAE / 概述深度生成网络

(1)变分自编码器(Variational AutoEncoder, VAE)|系统解读Keras实现Generative Deep Learning

完整代码见附录 1.设置 import numpy as np import tensorflow as tf from tensorflow import keras from tensorflow.keras import layers 2.创建采样层 class Sampling(layers.Layer): “””Uses (z_mean, z_log_var) to sample z, the vector encoding a digit.””” def call(self, inputs): z_mean, z_log_var = inputs batch = tf.shape(z_mean)[0] dim = tf.shape(z_mean)[1] epsilon = tf.keras.backend.random_normal(shape=(batch, dim)) return z_mean + tf.exp(0.5 * z_log_var) * epsilon 3.构建编码器 latent_dim = 2 encoder_inputs = keras.Input(shape=(28, 28, 1)) ...

9月 25 2021
概述深度生成网络

系统解读Keras实现Generative Deep Learning

Keras官网给出了一套Generative Deep Learning模型的示例，很有代表性。 官网代码参考： Variational AutoEncoder GAN overriding Model.train_step WGAN-GP overriding Model.train_step Neural style transfer Deep Dream Conditional GAN CycleGAN Character-level text generation with LSTM PixelCNN Density estimation using Real NVP Face image generation with StyleGAN Text generation with a miniature GPT Vector-Quantized Variational Autoencoders WGAN-GP with R-GCN for the generation of small molecular graphs

9月 25 2021
概述深度生成网络 / 海纳百川

《Generative Deep Learning》读书

关于这本书 书名 Generative Deep Learning: Teaching Machines to paint, write, compose and play 作者 David Foster 购买电子版 oreilly amazon 下载电子版 出于版权问题，我不能分享该文件，推荐购买电子版，如果实在不想消费美刀下载方法可以参考博文Library Genesis不能下载解决方法 勘误 勘误 代码 github(基于Tensorflow) github(基于PyTorch) 概况 Generative modeling 生成建模是人工智能中最热门的话题之一。现在可以教机器在人类活动中表现出色，例如绘画、写作和作曲。本书的读者对象是机器学习工程师和数据科学家，本书讲介绍如何创建一些最令人印象深刻的生成式深度学习模型示例，例如variational autoencoders变分自动编码器、生成对抗网络 (GAN)、encoder-decoder 编码器-解码器模型和world models。 作者David Foster展示了每种模型的网络结构。从深度学习的基础开始，然后发展到该领域的一些最前沿的算法。 这本书里一...

9月 21 2021
NLP自然语言处理 / Transformers

基于Transformer将英文翻译为中文|自然语言处理

近期关注了Transformer在图像处理中的应用，发现了Transformer在自然语言处理中的一个很有趣的应用，实现了下，并做了如下纪录，希望对大家有所帮助。亲测可行。 关于这个方法的希望大家留言一起探讨。 我认为，方法的难点是对应场景的语料库。本例中使用的是新闻类语料库（如人民日报中英文版）。 简介 采用Harvard开源的The Annotated Transformer 中文原理参考1:基于Transform的机器翻译系统  中文原理参考2:教你用PyTorch玩转Transformer英译中翻译模型 实现过程 下载程序包 Github项目 我搬运到了Gitee 安装环境与第三方包 管理员权限打开cmd 新建环境 En2CNTransf conda create –name En2CNTransf python=3.6 激活环境 conda activate En2CNTransf 安装如下包 pip install –upgrade pip pip install numpy pip install sacrebleu==1.4.14 pip install scikit-learn pip install...

8月 23 2021
概述深度生成网络

概述|Diffusion Models扩散模型|学习笔记

Diffusion models扩散模型 DDPM(Denoising Diffusion Probabilistic Models) 代表性文章 Deep Unsupervised Learning using Nonequilibrium Thermodynamics https://arxiv.org/abs/1503.03585 Generative Modeling by Estimating Gradients of the Data Distribution https://arxiv.org/abs/1907.05600 Denoising diffusion probabilistic model https://arxiv.org/abs/2006.11239 Improved Denoising Diffusion Probabilistic Models https://arxiv.org/abs/2102.09672 Diffusion Models Beat GANs on Image Synthesis https://arxiv.org/pdf/2105.05233.pdf   网...