network作为generator生成更加复杂的distribution应该怎么做这是我们这节课要讨论的问题generative model适用于哪些场景呢简单来说就是输出需要一些“创造力的时候例如绘画聊天机器人等在normal distribution中vector的数量并不多可能50-100左右但是可以生成具有相当大维度的图片discriminator可以用来判断输出的图片的好坏对GAN的输出结果进行评价generator会根据discriminator不断修改自己的输出能力但是discriminator也会不断提升自己的判断能力最终形成了对抗的样子也就是adversarial下面详细介绍这两个network的训练过程首先对两个模型进行初始化先用一些简单的vector作为generator,然后用一些正确的图片输入用于discriminatordiscriminator就是训练用来判断正确图片与生成图片的不同可以使用分类方法好的作为1不好的作为0也可以作为回归问题来做该步骤是固定G更新D第二部固定D更新G让生成器去欺骗已经学好的D之后重复以上两个步骤我们的目标是尽量减少PG和Pdata之间的差异可以用Div实现我们在进行divergence需要先获得生成器生成的sample和真实数据的sample下面就是discriminator的任务将真实值Pdata的得分改成越大越好将生成器生成的值PG得分越小越好下面的V函数就相当于cross entropy前面加了负号那么cross entropy越小V函数的值越大所以也要尽量缩小cross entropy的值计算交叉熵时真样本靠近1假样本靠近0得出的值越小而计算图中的V时真样本靠近1假样本靠近0计算得出的值反而越大详细解析为什么要采用这样的写法来计算V下图可以直观的展示divergence和discriminator生成之间的关系之前我们总是想找到divergence的表示方法现在发现maxVD,G就和divergence有关所以可以直接替换不同的divergence如何设计他们对应的objective function?但是一般来说即使把divergence训练的很好了但是GAN的总体模型效果可能还是不行训练GAN的一些小tips一JS divergence可能带来什么问题有两个局限1真实值和生成值可能都是高纬度中的很小的一部分重叠部分可能被忽略不计 2我们在sample的时候如果数量不够也可能导致重叠的部分很少两个分布如果没有重叠算出的结果永远是log2,如果没有重叠分类器的训练结果正确率总是得到100%没有任何意义由此我们换一个计算divergence的方式引入wasserstein distance这个概念类似于推土机P是我们生产的Q 是我们需要靠拢的真实值wasserstein distance就是这两个中间相差的距离有时候P和Q会变得更加复杂所以我们需要穷举所有情况来找到最好的回到之前的例子WGAN用wasserstein distance代替JS divergence计算公式如下注意其中的D不可以是很复杂的function,需要是一个比较平滑的function因此我们对Dfunction做了限制那么使得D function函数更平滑的方法有哪些呢WGAN要求判别器critic满足 1-Lipschitz连续梯度的范数不能超过1保证Wasserstein距离可以被正确估计。下面三个都是用来强制满足这个约束的方案SN方法目前看训练效果最好但是不是有WGAN就一定特别好trainGAN为什么这么难训练因为只要其中一者不再进步训练结果没有改善另外一者也跟着停下来无法改善generator 和 discriminator需要相互匹配GAN在处理Sequence问题会遇到的问题如果Decoder发生了微小的变化但是由于generator每次是选择最大值产生的微小参数变化可能并不会影响最终的输出所以最后discriminator的得分也就无变化这样无法去微分和我们之前所说的梯度消失的问题类似所以很长一段时间用GAN来生成Sequence文字是非常困难的更多的生成模型但是一般还是GAN产生的结果最好其他可能的解决办法直接输入图片向量但是向量顺序要按照特殊的方式排列进行训练最终直接输出图片相关的文章如下那么我们如何来评定一个generator的好坏呢方法一对于人脸可以用生成generator去辨识人脸例如对于有一千张人脸的数据集一个辨识出九百张一个辨识出三百张可以看到辨识出九百张的效果更好方法二对于多张图像内容的图片可以使用图像分类器对结果进行分类如果分类的结果越陡峭不平坦说明生成图像特征明显很好分类说明生成图片的效果越好但是方法二需要警惕一种Mode Collapse现象的发生这种现象是指生成图像开始围绕一个图像打转多样化越来越弱目前还没有特别好的方法一般出现mode collapse现象就会停下来使用之前训练好的model还有一个可能的问题被称作——Mode Dropping那么如何来查看生成图片的多样性呢同样可以借助imager classifier来进行统计对生成的图片进行分类然后取均值如果结果平坦则是正常如果出现陡峭的结果则是不正常某一类别出现很多次说明生成图片结果相似我们可以用IS来判断生成图片的质量但是人脸由于只有一个类别并不适合哟用这个方法来判断但是quality我们一般是针对一张图片进行CNN分类判断生成的组别越陡峭说明效果越好diversity是所有图片分类取均值结果越平坦效果越好FID可以弥补上面所说无法辨识人脸的情况它的特点在于把输入到softmax之前的向量进行判别我们在生成人脸时可以同时看辨识人脸的数量和FID值这样可以使结果更准确有时候FID很低人脸分数也不错但是GAN的效果还是不行因为和真实数据的人脸一摸一样我们需要的是新生成的人脸这时候我们就需要计算两者的相似度conditional generator GAN例如文本生成图片我们要输入文字和sample的Z一起输入当然它本身也要有相关的标签库在conditional GAN中generator和discriminator两者应该如何设计generator的输入会增加附属条件x那么discriminator就不能把图片质量作为判断生成好坏的单一指标还要看是否满足x条件如果两者都满足才能得到高分所以如果出现文字和图片成对的资料就给1分如果不匹配就给0分还有一种情况就是生成的图片很好但是文字不匹配这种情况也不能打高分我们在一开始训练discriminator时就要告知这一细节其他应用图片生成图片图像产生图像的处理流程GAN在unsupervised无监督数据上的应用——Cycle GAN我们想要将显示的人脸转化为二次元的人脸但是没有成对的训练数据那么应该怎么做呢前面的模型都是在成对的数据的条件下完成的、如果只是使用一个generator,生成一个二次元图像我们无法验证准确率有多高因为没有成对的数据给我们检验这种情况在使用一个generator将生成的二次元图像恢复成现实图片这样可以实现检验形成cycle,同样y也要进行类似的检验处理类似的模型多种不同形式的数据相互转化StarGAN其他的示例模型文字循环转换不同形式数据转换的其他应用
企业数字化 ERP 产品动态
相关推荐
14B动画模型本地跑值不值?先看完这46GB和8张A800的账单再决定 14B动画模型本地跑值不值?先看完这46GB和8张A800的账单再决定 【免费下载链接】Wan2.2-Animate-2-14B 项目地址: https://ai.gitcode.com/hf_mirrors/Wan-AI/Wan2.2-Animate-2-14B
最近后台被问得最多的一句话是:这玩意儿能不能装自己电脑上&… · 2026/11/4 16:21:05
一行配置让长输出吞吐翻倍:实测书生S2 的 MTP 加速,8 张 H200 上发生了什么 一行配置让长输出吞吐翻倍:实测书生S2 的 MTP 加速,8 张 H200 上发生了什么 【免费下载链接】Intern-S2-397B 项目地址: https://ai.gitcode.com/InternLM/Intern-S2-397B
你有没有过这种体验:让 AI 写一份三千字的行业分析ÿ… · 2026/11/4 16:21:05
一群人免费帮它写教程:这只“3970亿参数的书生”,怎么在中文社区悄悄火了 一群人免费帮它写教程:这只“3970亿参数的书生”,怎么在中文社区悄悄火了 【免费下载链接】Intern-S2-397B 项目地址: https://ai.gitcode.com/InternLM/Intern-S2-397B
最近刷掘金和CSDN,会发现一个挺有意思的现象。
不是哪家厂商投… · 2026/11/4 16:21:05
SplitFed:联邦学习与拆分学习的架构级融合 1. 为什么“SplitFed”不是联邦学习的简单升级,而是架构级重构? “SplitFed实战解析:联邦学习与拆分学习的融合创新”——这个标题里藏着一个常被误读的关键点:它不是“联邦学习拆分学习11”,而是把两个原本运行在不同… · 2026/11/4 17:06:59
微信小程序.wxapkg解包工具原理与实战指南 简介:这是一套面向小程序开发者与安全研究人员的微信小程序反编译工具集wxappUnpacker,专用于逆向解析小程序主包及分包,解决封闭环境下无法查看原始业务逻辑、组件结构与网络配置等核心问题,适用于代码学习、性能分析、安全审计与… · 2026/11/4 17:06:59
Swarm2.1多智能体仿真框架:可调试、可插桩、可闭环验证的集群行为沙盒 简介:Swarm 2.1.1 仿真工具是面向计算机科学、人工智能与复杂系统研究者的多智能体建模平台,适用于高校科研、分布式算法验证及生物启发式行为模拟等场景,帮助用户通过编程定义智能体交互逻辑,揭示群体涌现行为。资源包共221个文件… · 2026/11/4 17:06:59
OpenCV鱼眼相机畸变矫正:针孔模型与fisheye四参数实战 鱼眼摄像头畸变矫正这件事,说难不难,说简单也处处是坑。我用 Python OpenCV 做鱼眼摄像头畸变矫正前后大概有四五年时间,从最初拿 cv2.undistort 一把梭、结果画面边缘糊成一团,到后来能把 190 度视场的模组校到边缘直线度误差低… · 2026/11/4 17:06:59
JavaScript逃逸与备份文件提权实战 1. 靶机渗透实战概述最近在HackTheBox平台上挑战了CodePartTwo靶机,这是一台涉及JavaScript逃逸和备份文件提权的Linux系统。整个过程充满了技术细节和思维突破点,特别适合想要提升Web渗透和权限提升技能的安全爱好者。这台靶机的设计巧妙之处在于&#… · 2026/11/4 17:06:59
wxappUnpacker小程序反编译实战指南:解包原理与避坑技巧 简介:这是一套面向小程序开发者与安全研究人员的微信小程序反编译工具集wxappUnpacker,专用于逆向解析小程序主包与分包,解决封闭环境下无法查看原始逻辑、调试业务流程及开展安全审计的痛点,适用于代码学习、漏洞分析、性能优化等… · 2026/11/4 17:05:58
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/4 3:16:49
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/4 6:59:29
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/4 7:02:38
AI辅助技术栈评估:提升研发决策效率60% 1. 项目背景与核心价值技术决策一直是研发团队面临的重大挑战。随着技术生态的快速演进,技术栈的选择、维护和迭代变得愈发复杂。我们团队在过去两年里,先后经历了三次重大技术栈迁移,每次都需要投入大量人力进行技术评估和风险分析。直到去年… · 2026/11/4 0:00:17
从生成Token到直接决策:Jev如何重塑AI Agent工程实践 1. 从"生成文字"到"拍板决策":Jev 到底在解决什么问题大多数人第一次接触大模型,脑子里建立的模型是"输入问题、输出文字"。你问它今天天气怎么样,它给你一段描述;你让它写个周报,它给你… · 2026/11/4 0:00:17
32G统一内存跑大模型:内存账、TPS实测与端云分流 想在一台 32G 统一内存的小主机上把大模型跑成"日常可用",这件事我前后折腾了小半年。标题里说的这台 Mac mini M6,是我们这次讨论的目标平台,具体到手规格以实物为准;但下面这套推算方法和实测思路,对任何统… · 2026/11/4 0:00:17
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/4 3:16:49
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/4 6:59:29
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/4 7:02:38