深度学习中的卷积神经网络

深度学习中的卷积神经网络

卷积神经网络架构中牵涉到几个概念：卷积、激活函数、池化、局部参数共享。

这里写图片描画

基本架构

一个CNN网络普通都是卷积、池化、卷积、池化，…，全衔接的方式。

卷积

从上图可以看出，一个6×66×6的原图与一个3×33×3的核（图中深红色部分）中止卷积，得到一个4×44×4的特征图。（此时，stride=1，padding= 0）

这里引见几个概念

stride，普通称为步长。表示卷积核在图片上移动的格数。stride=1时，代表每次移动一格；stride=2时，则每次移动两格。有如下公式，

OutputSize=PictureSize−KernelSizeStride+1

padding，即外围补0用以扩展图片。此时，

OutputSize=PictureSize+2×Padding−KernelSizeStride+1

池化

updating…

全衔接

updating…

基本原理

1.卷积，卷积是将原始图像与一个设计好的矩阵（普通称为滤波器）按位相乘，这样就会得到一个新的矩阵。举个例子，假定我们要识别老鼠的尾巴，我们可以设计如下图类似的滤波器。

这里写图片描画

接来下，开端中止卷积——原图与滤波器按位相乘。当识别到老鼠尾巴时，会得到一个很大的卷积值。

这里写图片描画

反之，当识别到的不是老鼠尾巴部位时，卷积结果将会很小，以致为0。

这里写图片描画

2.激活函数，激活函数也通常被称作核函数，可以将非线性可分类型映射为线性可分。例如，下图中就可以运用abs（绝对值函数）作为激活函数，将蓝色与红色点线性分开。不过，分类问题普通运用softmax作为激活函数。

这里写图片描画

3.局部参数共享，全衔接是一种代价极高的操作，卷积神经网络中运用了局部参数共享以及池化技术来改善这一过程。局部参数共享，从下图中可以看出，随着层数越深，g3遭到x1~x5的影响。

这里写图片描画

4.池化，另一个重要技术为池化，它可以在一定程度上识别不同程度漂移的图片。比如，一张人脸在正中间的图片，和人脸位于图像左侧（或右侧）的图片，关于卷积神经网络来说是几乎无区别的。