让我们暂时忽略通道，从基本的转置卷积开始，设步幅为1且没有填充。假设我们有一个 n h × n w n_h \times n_w nh×nw的输入张量和一个 k h × k w k_h \times k_w kh×kw的卷积核。以步幅为1滑动卷积核窗口，每行 n w n_w nw次，每列 n h n_h nh次，共产生 n h n w n_h n_w nhnw个中间结果。每个中间结果都是一个 ( n h + k h − 1 ) × ( n w + k w − 1 ) (n_h + k_h - 1) \times (n_w + k_w - 1) (nh+kh−1)×(nw+kw−1)的张量，初始化为0。为了计算每个中间张量，输入张量中的每个元素都要乘以卷积核，从而使所得的 k h × k w k_h \times k_w kh×kw张量替换中间张量的一部分。请注意，每个中间张量被替换部分的位置与输入张量中元素的位置相对应。最后，所有中间结果相加以获得最终结果。
如果卷积将输入从 ( h , w ) (h,w) (h,w)变为了 ( h ′ , w ′ ) (h',w') (h′,w′)
同样超参数的转置卷积从 ( h ′ , w ′ ) (h',w') (h′,w′)变成了 ( h , w ) (h,w) (h,w)
1.3 实现二维转置卷积和调用高级API实现更高维度转置卷积
import torch
from torch import nn
from d2l import torch as d2l
def trans_conv(X, K):
h, w = K.shape
Y = torch.zeros((X.shape[0] + h - 1, X.shape[1] + w - 1))
for i in range(X.shape[0]):
for j in range(X.shape[1]):
Y[i:i + h, j:j + w] += X[i, j] * K
return Y
## 验证转置卷积
X = torch.tensor([[0.0, 1.0], [2.0, 3.0]])
K = torch.tensor([[0.0, 1.0], [2.0, 3.0]])
Y = trans_conv(X, K)
X,K,Y
对于多个输入和输出通道，转置卷积与常规卷积以相同方式运作。假设输入有 c i c_i ci 个通道，且转置卷积为每个输入通道分配了一个 k h × k w k_h\times k_w kh×kw 的卷积核张量。当指定多个输出通道时，每个输出通道将有一个 c i × k h × k w c_i\times k_h\times k_w ci×kh×kw 的卷积核。
同样，如果我们将 X \mathsf{X} X 代入卷积层 f f f 来输出 Y = f ( X ) \mathsf{Y}=f(\mathsf{X}) Y=f(X) ，并创建一个与 f f f 具有相同的超参数、但输出通道数量是 X \mathsf{X} X 中通道数的转置卷积层 g g g，那么 g ( Y ) g(Y) g(Y) 的形状将与 X \mathsf{X} X 相同。
## 首先我们定义一个3*3的输入X，和一个2*2的卷积核k，然后使用corr2d函数计算卷积输出Y
X = torch.arange(9.0).reshape(3, 3)
K = torch.tensor([[1.0, 2.0], [3.0, 4.0]])
Y = d2l.corr2d(X, K)
Y
tensor([[27., 37.],
[57., 67.]])
## 将卷积核K重写为包含大量0的稀疏权重矩阵W。权重矩阵的形状是（4,9）,其中非0元素来自卷积核K
def kernel2matrix(K):
k, W = torch.zeros(5), torch.zeros((4, 9))
k[:2], k[3:5] = K[0, :], K[1, :]
W[0, :5], W[1, 1:6], W[2, 3:8], W[3, 4:] = k, k, k, k
return W
W = kernel2matrix(K)
W
如果卷积将输入从 ( h , w ) (h,w) (h,w)变为了 ( h ′ , w ′ ) (h',w') (h′,w′)， 同样超参数的转置卷积从 ( h ′ , w ′ ) (h',w') (h′,w′)变成了 ( h , w ) (h,w) (h,w)了
转置卷积和卷积的关系
当填充为0，步幅为1时
将输入填充k-1（k是核窗口）
将核矩阵上下、左右翻转
做正常卷积（填充为0，步幅为1）
动手学深度学习（三十一）——转置卷积
当填充为p，步幅为1时
将输入填充k-p-1（k是核窗口）
将核矩阵上下、左右翻转
做正常卷积（填充为0，步幅为1）
动手学深度学习（三十一）——转置卷积
当填充为p，步幅为s时
在行和列之间插入s-1行或列
将输入填充k-p-1（k是核窗口）
将核矩阵上下、左右翻转
做正常卷积（填充为0，步幅为1）
动手学深度学习（三十一）——转置卷积
形状换算：
输入高（宽）为n,核k，填充p，步幅s
转置卷积： n ′ = s n + k − 2 p − s n' = sn+k-2p-s n′=sn+k−2p−s
卷积 n ′ = ⌊ ( n − k − 2 p + s ) / s ⌋ − > n > = s n ′ + k + 2 p − s n' = \lfloor (n-k-2p+s)/s \rfloor -> n >=sn' +k +2p -s n′=⌊(n−k−2p+s)/s⌋−>n>=sn′+k+2p−s
如果我们将 X \mathsf{X} X 输入卷积层 f f f 来获得输出 Y = f ( X ) \mathsf{Y}=f(\mathsf{X}) Y=f(X) 并创造一个与 f f f 有相同的超参数、但输出通道数是 X \mathsf{X} X 中通道数的转置卷积层 g g g，那么 g ( Y ) g(Y) g(Y) 的形状将与 X \mathsf{X} X 相同。
