目录

• • 感受野（Receptive Field）
  • 上采样（upsampling）
  • 下采样（subsampled）
  • 残差网络(Resnet)
• 神经网络
• • 人工神经网络（ANN）
  • 卷积神经网络（CNN）
  • • 经典的卷积神经网络
  • 循环神经网络或递归神经网络（RNN）
  • • LSTM
  • 对抗神经网络（GAN)
  • [孪生网络（ Siamese Network）](http://t.csdn.cn/UMmOx)
  • 语义分割

感受野（Receptive Field）

感受野的定义是卷积神经网络每一层输出的特征图（feature map）上的像素点在输入图片上映射的区域大小

参考：https://blog.csdn.net/program_developer/article/details/80958716

上采样（upsampling）

上采样：又名放大图像、图像插值；

主要目的是放大原图像,从而可以显示在更高分辨率的显示设备上；

上采样有3种常见的方法：双线性插值(bilinear)，反卷积(Transposed Convolution)，反池化(Unpooling)；
插值算法还包括了传统插值，基于边缘图像的插值，还有基于区域的图像插值。

下采样（subsampled）

下采样：又名降采样、缩小图像；

主要目的有两个：1、使得图像符合显示区域的大小；2、生成对应图像的缩略图；

其实下采样就是池化；

残差网络(Resnet)

56层比20层要错误要高很多，那多的36层怎么搞，需要来进行同等映射，不能剔除，那就把有用的层保持，无用的层权重参数变成0
原来卷积结果+最初的，旧和新的相加，里面可能有白玩的，好的用，错的白玩，这样就能保证至少不比原来差

50层101层比较常见

神经网络

人工神经网络（ANN）

卷积神经网络（CNN）

卷积和池化层叠加实现对输入数据的特征提取，最后链接全连接层实现分类
对图像处理有出色表现，在计算机视觉中得到广泛应用

卷积神经网络：卷积层+池化层+全连接层

1. 每个神经元只需要对 局部图像 进行感知
2. 将在更高层将局部信息综合起来，得到全局信息
3. 应用：图像分类、目标检测、目标跟踪、语义分割、实例分割等
   

经典的卷积神经网络

http://t.csdn.cn/k0wU5

1. LeNet5：LeNet5是由Y.LeCun等人提出的，主要进行手写数字识别和英文字母识别。
2. AlexNet
3. VGG-16
4. Inception Net
5. ResNet（残差神经网络）
6. DenseNet （密集网络）
7. UNet

R-CNN系列：另外发展起来的

循环神经网络或递归神经网络（RNN）

在传统神经网络上改进的，有圈
输入——隐层——输出
在处理时间序列上有先天优势
CNN主要用来计算机视觉中，Rnn多用在自然语言处理中
http://t.csdn.cn/tc4wY

LSTM

rnn每一个都堪称同等重要，但是每一个重要性不同，此模型就是将不重要的淘汰
过滤信息

对抗神经网络（GAN)

一种用来学习类别特征的神经网络结构，主要由两部分组成，生成网络、判别网络
http://t.csdn.cn/VcQ9N

孪生网络（ Siamese Network）

孪生网络最早用于验证支票上的签名与银行预留签名是否一致，后用于对比两个输入的相似度，随后又慢慢应用到目标跟踪领域。

语义分割