超分扩散模型 SR3 可以做图像去雨、去雾等恢复任务吗?
创始人
2024-05-31 19:35:15

文章目录

      • 前言
      • 代码及原文链接
      • 主要的点
      • 如何进行图像恢复

前言

关于扩散模型以及条件扩散模型的介绍,大家可以前往我的上一篇博客:扩散模型diffusion model用于图像恢复任务详细原理 (去雨,去雾等皆可),附实现代码。

SR3是利用扩散模型进行图像超分辨率研究的,它在使用低分辨率图像作为条件来进行反向采样时先将低分辨率图像直接上采样到高分辨率图像。因此,它通过一些改进可以作为图像恢复这种输入与输出图像大小相等的任务。

代码及原文链接

在这里插入图片描述
原文:https://arxiv.org/abs/2104.07636
源代码:https://github.com/Janspiry/Image-Super-Resolution-via-Iterative-Refinement
我用它来做图像恢复的代码:图像去雨、去雾等恢复任务:代码简化的SR3扩散模型,有注释及实验流程

主要的点

SR3模型将DDPM中的残差块替换为BigGAN的残差块,并将跳跃连接重新缩放 12\frac{1}{\sqrt{2}}2​1​。
增加了剩余块的数量,以及不同分辨率下的通道乘法器。
还有一个拼接操作,就是将低分辨图像直接上采样后的图像与噪声图像进行拼接,从而实现条件噪声估计。

如何进行图像恢复

  1. 源代码中包括大量的小文件,不适合初学者调试和使用。
  2. 我根据其核心代码进行简化,将一些不必要的代码文件和代码块删除,并在Rain13K (就是MPRNet、Restormer等方法使用的去雨数据集) 上进行了实验,目前取得不错的表现。可以参考下边的对比。
    在这里插入图片描述在这里插入图片描述
  3. 其他的任务应该也是可以直接使用的,只需要修改一下配置文件中的数据集路径即可。
  4. 需要使用SR3扩散模型做图像去雨、去雾等恢复任务的可以前往:图像去雨、去雾等恢复任务:代码简化的SR3扩散模型,有注释及实验流程。
  5. 附上一组在Rain13K训练集上训练,在Rain100H上测试的结果。源代码中的迭代次数为1, 000, 000,我这里是只迭代了 180, 000次后进行测试的结果。
    在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述

相关内容

热门资讯

重大通报作弊器!乐乐上海麻将a... 重大通报作弊器!乐乐上海麻将ai智能透视辅助插件,乐乐上海麻将本来存在有外挂(有辅助挂方略)1、很好...
分享给玩家透视挂!家乡大贰ai... 分享给玩家透视挂!家乡大贰ai智能透视辅助工具,家乡大贰其实真的有外挂(有辅助挂细节)家乡大贰破解侠...
科普攻略开挂!英豪娱乐城ai智... 科普攻略开挂!英豪娱乐城ai智能透视辅助教程,英豪娱乐城好像真的是有外挂(有辅助挂头条)1、英豪娱乐...
总算了解辅助器!和悦游戏ai智... 总算了解辅助器!和悦游戏ai智能透视辅助教程,和悦游戏确实是真的有外挂(竟然有辅助挂)暗藏猫腻,小编...
揭秘关于辅助器!九九麻将ai智... 揭秘关于辅助器!九九麻将ai智能透视辅助技巧,九九麻将一贯是有外挂(有辅助挂方略)1、用户打开应用后...