超分扩散模型 SR3 可以做图像去雨、去雾等恢复任务吗?
创始人
2024-05-31 19:35:15
0

文章目录

      • 前言
      • 代码及原文链接
      • 主要的点
      • 如何进行图像恢复

前言

关于扩散模型以及条件扩散模型的介绍,大家可以前往我的上一篇博客:扩散模型diffusion model用于图像恢复任务详细原理 (去雨,去雾等皆可),附实现代码。

SR3是利用扩散模型进行图像超分辨率研究的,它在使用低分辨率图像作为条件来进行反向采样时先将低分辨率图像直接上采样到高分辨率图像。因此,它通过一些改进可以作为图像恢复这种输入与输出图像大小相等的任务。

代码及原文链接

在这里插入图片描述
原文:https://arxiv.org/abs/2104.07636
源代码:https://github.com/Janspiry/Image-Super-Resolution-via-Iterative-Refinement
我用它来做图像恢复的代码:图像去雨、去雾等恢复任务:代码简化的SR3扩散模型,有注释及实验流程

主要的点

SR3模型将DDPM中的残差块替换为BigGAN的残差块,并将跳跃连接重新缩放 12\frac{1}{\sqrt{2}}2​1​。
增加了剩余块的数量,以及不同分辨率下的通道乘法器。
还有一个拼接操作,就是将低分辨图像直接上采样后的图像与噪声图像进行拼接,从而实现条件噪声估计。

如何进行图像恢复

  1. 源代码中包括大量的小文件,不适合初学者调试和使用。
  2. 我根据其核心代码进行简化,将一些不必要的代码文件和代码块删除,并在Rain13K (就是MPRNet、Restormer等方法使用的去雨数据集) 上进行了实验,目前取得不错的表现。可以参考下边的对比。
    在这里插入图片描述在这里插入图片描述
  3. 其他的任务应该也是可以直接使用的,只需要修改一下配置文件中的数据集路径即可。
  4. 需要使用SR3扩散模型做图像去雨、去雾等恢复任务的可以前往:图像去雨、去雾等恢复任务:代码简化的SR3扩散模型,有注释及实验流程。
  5. 附上一组在Rain13K训练集上训练,在Rain100H上测试的结果。源代码中的迭代次数为1, 000, 000,我这里是只迭代了 180, 000次后进行测试的结果。
    在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

相关内容

热门资讯

“后高考”消费需理性 转自:衢州日报  肖剑  这段时间,衢城街头巷尾处处可见准大学生们的身影——他们或三五成群选购电子产...
创业王2 创业王2 创业王2加... 《创业王》()这款游戏让你有机会一尝创业的宿愿。玩家将可以自选建筑、服饰、电子、文教、汽车、食品等1...
适合小本创业项目 适合小本创业... 小本创业者最好选择无店铺经营项目,从小事开始干起,才能成就大事业,无店铺经营项目可以为创业前期节约大...
万古惟留楚客悲前一句是什么 万古惟留楚客悲前一句是什么万古惟留楚客悲的上一句:三年谪宦此栖迟长沙过贾谊宅[ 唐 ] 刘长卿原文三...
佛教六字真言的第一个字的读音,... 佛教六字真言的第一个字的读音,有说读“ong”,有的说读“俺”,请真正的读音,要可靠的证据,谢谢谢谢...
关与高尔基的《童年》的一些问题 关与高尔基的《童年》的一些问题小阿辽莎?你不会是自己翻译的吧?怎么翻成了女的名字啊
高一新生收到惊喜礼物 转自:衢州日报  本报讯 (通讯员 张瑜) 7月7日上午,以盛夏最炽热的阳光为礼,以校园百年古樟的年...
弱弱咁问下:关于结婚登记与婚检... 弱弱咁问下:关于结婚登记与婚检的?我听人讲,有个人,罗左证再检查,发现个女有地中海贫血,就即克离婚咯...
襄阳强化综治中心作用着力化解矛... 转自:法治日报□ 本报记者 刘欢  “诉前调解,为企排忧。”  78岁的褚高年指着办公室里的锦旗,笑...
年内港股私有化退市频现 并购与... 私有化已成为港股退市的重要路径之一。Wind资讯数据显示,按摘牌日期计,截至7月5日,年内港股退市公...