卷积、去卷积

一，线性卷积

1，连续卷积

2，离散卷积

（5）超大矩阵互为转置的2个卷积核的傅里叶变换

一，线性卷积

1，连续卷积

设: f(x),g(x)是R1上的两个可积函数，作积分

$f(t)*g(t)=\int_{-\infty}^{+\infty}f(x)g(t-x)dx$

可以证明，关于几乎所有的实数x，上述积分是存在的。这样，随着x的不同取值，这个积分就定义了一个新函数h(x)，称为函数f与g的卷积，记为h(x)=(f*g)(x)

对于二维甚至多维空间的积分卷积，定义同理。

2，离散卷积

和连续积分类似的，离散卷积也是两个序列所有和为固定值的元素乘积之和。

$f(n)*g(n) = \sum_{i=-\infty}^{+\infty}f(i)g(n-i)$

实际上，离散卷积和积分卷积的本质是一样的，可以轻松互相转化。

3，卷积的性质

（1）交换律

f * g = g * f

（2）结合律

(f*g)*h = f*(g*h)

（3）分配律

f*(g+h) = f*g+f*h

（4）数乘

a(f*g)=(af)*g=f*(ag)

（5）微分

D(f*g)=Df*g=f*Dg

对于离散卷积，D就是差分

二，周期卷积

如果2个周期函数可积，那么它的线性卷积：

$f(t)*g(t)=\int_{-\infty}^{+\infty}f(x)g(t-x)dx$

然而，周期函数只要都不是恒为0，上式的反常积分都是不存在的。

PS：这个反常积分的柯西主值有可能为0，但是不代表反常积分收敛。

高等数学_csuzhucong的博客-CSDN博客

而实际上，周期函数也没有必要在无穷区间上卷积，只需要在一个周期内即可。

周期函数的周期卷积：

$f(t)*g(t)=\int_{0}^{T}f(x)g(t-x)dx$

离散的：

$f(n)*g(n) = \sum_{i=0}^{T-1}f(i)g(n-i)$

三，循环卷积

对于定义域是有限区间的函数，循环卷积就是函数做周期延展之后的周期卷积。

1，二维连续循环卷积

$f(t)*g(t)=\int_{0}^{t}f(x)g(t-x)dx+\int_{t}^{T}f(x)g(t-x+T)dx$

从这个式子看，其实也相当于从任意位置分割成2段，分段卷积之和。

2，二维离散循环卷积

3，二维离散循环卷积的各种表示法

以卷积 $\begin{pmatrix} 1 &2 &0 \\ 3 & 4& 0\\ 0& 0 & 0 \end {pmatrix} \bigotimes \begin{pmatrix} 1 &1 &0 \\ 1 & 2& 0\\ 0& 0 & 0 \end{pmatrix}= \begin{pmatrix} 1 &3 &2 \\ 4 & 11& 8\\ 3& 10 & 8 \end{pmatrix}$ 为例

（1）小卷积核表示法

$\begin{pmatrix} 1 &2 \\ 3 & 4\end {pmatrix} \bigotimes \begin{pmatrix} a &b&c\\ d & e& f\\ g& h & i \end{pmatrix}= \begin{pmatrix} a+2c+3g+4i &b+2a+3h+4g &c+2b+3i+4h \\ d+2f+3a+4c & e+2d+3b+4a& f+2e+3c+4b\\ g+2i+3d+3f& h+2g+3e+4d & i+2h+3f+4e \end{pmatrix}$

（2）大矩阵表示法

$\begin{pmatrix} 1 &2 &0 \\ 3 & 4& 0\\ 0& 0 & 0 \end {pmatrix} \bigotimes \begin{pmatrix} a &b&c\\ d & e& f\\ g& h & i \end{pmatrix}= \begin{pmatrix} a+2c+3g+4i &b+2a+3h+4g &c+2b+3i+4h \\ d+2f+3a+4c & e+2d+3b+4a& f+2e+3c+4b\\ g+2i+3d+3f& h+2g+3e+4d & i+2h+3f+4e \end{pmatrix}$

当我们用卷积定理，用傅里叶变换实现卷积运算，使用的就是大矩阵表示法。

（3）超大矩阵表示法

用矩阵表示：

$\begin{pmatrix} 1 &0 & 2 &0 & 0 &0 & 3 & 0 &4 \\ 2 &1 & 0 &0 & 0 &0 & 4 & 3 &0 \\ 0 &2 & 1 &0 & 0 &0 & 0 & 4 &3 \\ 3 & 0 &4 &1 &0 & 2 & 0 & 0 &0 \\ 4 & 3 &0 &2 &1 & 0 & 0 & 0 &0 \\ 0 & 4 &3 &0 &2 & 1 & 0 & 0 &0 \\ 0 &0 & 0 &3 & 0 &4 &1 &0 & 2 \\ 0 &0 & 0 &4 & 3 &0 &2 &1 & 0 \\ 0 &0 & 0 &0 & 4 &3 &0 &2 & 1 \end{pmatrix}\begin{pmatrix} a\\b \\ c \\ d \\ e \\ f \\ g \\ h \\ i \end{pmatrix}=\begin{pmatrix} a+2c+3g+4i \\b+2a+3h+4g \\c+2b+3i+4h \\ d+2f+3a+4c \\ e+2d+3b+4a\\ f+2e+3c+4b\\ g+2i+3d+3f\\ h+2g+3e+4d \\ i+2h+3f+4e \end{pmatrix}$

显然，矩阵的第1列是卷积结果中的a的系数，所以第1列的（1 2 0 3 4 0 0 0 0 ）就是卷积核

（4）超大矩阵互为转置的2个卷积核

这个矩阵的转置的第1列是（1 0 2 0 0 0 3 0 4）

所以，大矩阵表示法 $\begin{pmatrix} 1 &2 &0 \\ 3 & 4 & 0\\ 0 &0 &0 \end{pmatrix}$ 和大矩阵表示法 $\begin{pmatrix} 1 &0&2 \\ 0 &0 &0\\3 & 0 & 4 \end{pmatrix}$ 所对应的超大矩阵表示法互为转置。

考虑到这是循环卷积，我们可以说2个大矩阵关于原点对称。

（5）超大矩阵互为转置的2个卷积核的傅里叶变换

$\begin{pmatrix} 1 &2 &0 \\ 3 & 4 & 0\\ 0 &0 &0 \end{pmatrix}$ 和 $\begin{pmatrix} 1 &0&2 \\ 0 &0 &0\\3 & 0 & 4 \end{pmatrix}$

把他们用fftshift 变成：

$\begin{pmatrix} 0 &0 &0 \\ 0 & 1 & 2\\ 0 &3 &4 \end{pmatrix}$ 和 $\begin{pmatrix} 4 &3&0\\ 2 &1&0\\0 & 0 & 0 \end{pmatrix}$ ，就是互为中心对称的关系。

所以，超大矩阵表示法互为转置的2个卷积核，他们的傅里叶变换互为共轭复数。

（6）三种运算方式

小卷积核对应的是卷积运算，大矩阵表示法对应的是傅里叶变换，超大矩阵表示法对应的是矩阵乘法。

显然超大矩阵表示法的矩阵乘法是最慢的。

卷积运算和傅里叶变换的速度差不多，傅里叶变换的时间复杂度为O（N^2 logN），所以哪个快取决于卷积核的大小。小的卷积核卷积运算快，大的卷积核傅里叶变换运算快。

四，高斯卷积

如果指定g为高斯函数，那么卷积f*g就是f的高斯卷积。

常见的就是一维和二维的高斯函数，即一维和二维的正态分布。

如5*5的高斯卷积

五，滤波器

用卷积作为滤波器，也称核函数。

空间滤波器_csuzhucong的博客-CSDN博客

六，去卷积

1，最优化问题

考虑到噪声的影响，去卷积可以表示成最优化问题：

$argmin_i(||Bi-j||_2^2+\lambda\sum_{a=1}^5||H_ai||_1)$

其中B是卷积核，i是原图，j是模糊图，卷积矩阵H{1,2}表示一阶导数，而H{3...5}表示二阶导数。

即，H是常数矩阵，λ是超参，B和j是输入，i是求解的输出项。

表达式变形：

argmin_x(||Sx||_1+||Bx-j||_2^2) ，其中 $S=\begin{bmatrix} \lambda_1H_1\\ \lambda_2H_2 \\ \lambda_3H_3 \\ \lambda_4H_4 \\ \lambda_5H_5 \end{bmatrix}$ 是一个常数矩阵。