Pytorch torch.nn.Linear()方法
torch.nn.Linear()作为深度学习中最简单的线性变换方法，其主要作用是对输入数据应用线性转换
看一下官方的解释及介绍
这里我们主要看__init__()方法，很容易知道，当我们使用这个方法时一般需要传入2~3个参数，分别是in_features: int, out_features: int, bias: bool = True，第三个参数是说是否加偏置(bias)，简单来讲，这个函数其实就是一个'一次函数':y = xA^T + b,(T表示张量A的转置),首先super(Linear, self).__init__()就是老生常谈的方法，之后初始化in_features和out_features，接下来就是比较重要的weight的设置，我们可以很清晰的看到weight的shape是(out_features,in_features)的，而我们在做xA^T时，并不是x和A^T相乘的，而是x和A.weight^T相乘的，这里需要大大留意，也就是说先对A做转置得到A.weight，然后在丢入y = xA^T + b中，得出结果。
接下来奉上一个小例子来实践一下：
对torch.nn.Linear的理解
torch.nn.Linear是pytorch的线性变换层
定义如下：
全连接层 Fully Connect 一般就就用这个函数来实现。
因此在潜意识里，变换的输入张量的 shape 为 (batchsize, in_features)，输出张量的 shape 为 (batchsize, out_features)。
当然这是常用的方式，但是 Linear 的输入张量的维度其实并不需要必须为上述的二维，多维也是完全可以的，Linear 仅是对输入的最后一维做线性变换，不影响其他维。
可以看下官网的解释
Linear — PyTorch 1.11.0 documentation
一个例子
如下：
总结
以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。
