Pytorch 张量维度

我会带着你远行 2022-01-12 10:17 314阅读 0赞

Tensor类的成员函数dim()可以返回张量的维度，shape属性与成员函数size()返回张量的具体维度分量，如下代码定义了一个两行三列的张量：

f = torch.randn(2, 3)
    print(f.dim())
    print(f.size())
    print(f.shape)

输出结果：

2
    torch.Size([2, 3])
    torch.Size([2, 3])

## dim=0的标量 ##

维度为0的Tensor为标量，标量一般用在Loss这种地方。如下代码定义了一个标量：

import torch
    
    a = torch.tensor(1.6)  # dimension为0就是标量了
    print(a, a.type())
    
    # 一些检验维度的方法
    print(a.dim())
    print(a.shape, a.size())
    print(len(a.shape), len(a.size()))

输出结果：

tensor(1.6000) torch.FloatTensor
    0
    torch.Size([]) torch.Size([])
    0 0

定义标量的方式很简单，只要在tensor函数中传入一个标量初始化的值即可，注意是具体的数据。

注意：

Pytorch中的torch.tensor()是一个函数，函数的原形如下：

torch.tensor(data, dtype=None, device=None, requires_grad=False)

其中data可以是：list、tuple、NumPy ndarray、scalar和其他类型。torch.tensor会从data中的数据部分做拷贝（而不是直接引用），根据原始数据类型生成相应的torch.LongTensor、torch.FloatTensor和torch.DoubleTensor。

而torch.Tensor()是Pytorch中的一个类，是默认张量类型torch.FloatTensor()的别名。

Tensor与tensor的区别，具体可参考[https://blog.csdn.net/tfcy694/article/details/85338745][https_blog.csdn.net_tfcy694_article_details_85338745]

注意一点，torch.tensor()参数接收的是具体的数据，而torch.Tensor()参数既可以接收数据也可以接收维度分量也就是shape。

## dim=1的张量 ##

dim=1的Tensor一般用在Bais这种地方，或者神经网络线性层的输入Linear Input，例如MINST数据集的一张图片用shape=\[784\]的Tensor来表示。

dim=1相当于只有一个维度，但是这个维度上可以有多个分量（就像一维数组一样），一维的张量实现方法有很多，下面是三种实现：

import torch
    import numpy as np
    
    
    def printMsg(k):
    	"""输出Tensor的信息,维度,shape"""
    	print(k, k.dim(), k.size(), k.shape)
    
    
    # 1.通过torch.tensor(), 参数传入一个list构造dim=1的Tensor
    a = torch.tensor([1.1])
    printMsg(a)
    b = torch.tensor([1.1, 2.2])
    printMsg(b)
    
    print("-" * 20)
    
    # 2.通过torch.Tensor(), 随机构造dim=1的Tensor
    # 这里传入的是shape=1,有1个元素
    c = torch.FloatTensor(1)
    printMsg(c)
    # 这里传入的是shape=2,有2个元素
    d = torch.FloatTensor(2)
    printMsg(d)
    
    print("-" * 20)
    
    # 3.从numpy构造dim=1的Tensor
    e = np.ones(2)
    print(e)
    e = torch.from_numpy(e)
    printMsg(e)

输出结果:

tensor([1.1000]) 1 torch.Size([1]) torch.Size([1])
    tensor([1.1000, 2.2000]) 1 torch.Size([2]) torch.Size([2])
    --------------------
    tensor([1.5056e-38]) 1 torch.Size([1]) torch.Size([1])
    tensor([0., 0.]) 1 torch.Size([2]) torch.Size([2])
    --------------------
    [1. 1.]
    tensor([1., 1.], dtype=torch.float64) 1 torch.Size([2]) torch.Size([2])

## dim=2的张量 ##

dim=2的张量一般用在带有batch的Linear Input，例如MNIST数据集的k张图片如果放再一个Tensor里，那么shape=\[k,784\]。

如下示例:

import torch
    
    # dim=2,shape=[2,3],随机生成Tensor
    a = torch.FloatTensor(2, 3)
    
    print(a.shape)
    print(a.shape[0])
    print(a.shape[1])
    
    print(a.size())
    print(a.size(0))
    print(a.size(1))

输出结果:

torch.Size([2, 3])
    2
    3
    torch.Size([2, 3])
    2
    3

从上面可以看出,可以取到Tensor每一维度的分量 。

## dim=3的张量 ##

dim=3的张量很适合用于RNN和NLP，如20句话，每句话10个单词，每个单词用100个分量的向量表示，得到的Tensor就是shape=\[20,10,100\]。

示例代码：

import torch
    
    # dim=3,shape=[1,2,3],随机取0~1之间的数
    a = torch.rand(1, 2, 3)
    print(a)
    print(a.dim())
    print(a.shape)
    print(a.size())
    
    b = a[0]  # 在第一个维度上取,得到的就是shape=[2,3]的dim=2的Tensor
    print(b.dim())
    print(b.shape)
    print(b.size())
    
    # 将torch.Size()转换为python列表的形式
    list(a.shape)

输出结果：

tensor([[[0.3503, 0.2163, 0.7880],
             [0.0933, 0.0372, 0.9077]]])
    3
    torch.Size([1, 2, 3])
    torch.Size([1, 2, 3])
    2
    torch.Size([2, 3])
    torch.Size([2, 3])
    [1, 2, 3]

## dim=4的张量 ##

dim=4的张量适合用于CNN表示图像，例如100张MNIST手写数据集的灰度图（通道数为1，如果是RGB图像通道数就是3），每张图高=28像素，宽=28像素，所以这个Tensor的shape=\[100,1,28,28\]，也就是一个batch的数据维度:\[batch\_size,channel,height,width\] 。

如下构建一个shape=\[2, 3, 28, 28\]的Tensor：

import torch
    
    a = torch.rand(2, 3, 28, 28)
    print(a)
    print(a.shape)

输出结果：

tensor([[[[0.0788, 0.1869, 0.2921,  ..., 0.0653, 0.3229, 0.1024],
              [0.5636, 0.4804, 0.6982,  ..., 0.3832, 0.9984, 0.5522],
              [0.5650, 0.8758, 0.2636,  ..., 0.5024, 0.5592, 0.2962],
              ...,
              [0.6311, 0.8914, 0.1481,  ..., 0.9255, 0.4388, 0.6771],
              [0.1691, 0.6803, 0.0111,  ..., 0.8962, 0.4907, 0.7369],
              [0.7360, 0.3643, 0.9757,  ..., 0.6954, 0.5979, 0.2019]],
    
             [[0.1387, 0.1379, 0.7730,  ..., 0.3476, 0.6346, 0.5387],
              [0.2940, 0.2296, 0.5864,  ..., 0.0558, 0.4093, 0.4563],
              [0.1498, 0.1705, 0.4542,  ..., 0.0370, 0.5867, 0.4178],
              ...,
              [0.6814, 0.3024, 0.8031,  ..., 0.0425, 0.4695, 0.3253],
              [0.5721, 0.9202, 0.1709,  ..., 0.7571, 0.6944, 0.7455],
              [0.4426, 0.3546, 0.9652,  ..., 0.2672, 0.0161, 0.3755]],
    
             [[0.1455, 0.2020, 0.2242,  ..., 0.5136, 0.5918, 0.9750],
              [0.1039, 0.1641, 0.1945,  ..., 0.1314, 0.6887, 0.2439],
              [0.0275, 0.1987, 0.5682,  ..., 0.0732, 0.7392, 0.8445],
              ...,
              [0.0180, 0.7265, 0.0541,  ..., 0.0939, 0.4592, 0.7898],
              [0.2253, 0.2115, 0.6485,  ..., 0.0314, 0.0185, 0.5788],
              [0.4660, 0.9765, 0.1458,  ..., 0.3520, 0.7162, 0.4895]]],
    
    
            [[[0.3837, 0.1531, 0.9617,  ..., 0.3220, 0.3959, 0.6391],
              [0.4072, 0.0711, 0.5841,  ..., 0.9417, 0.5799, 0.9794],
              [0.0307, 0.1862, 0.0766,  ..., 0.8336, 0.6978, 0.4468],
              ...,
              [0.8934, 0.0480, 0.9964,  ..., 0.8817, 0.3746, 0.6780],
              [0.7201, 0.5030, 0.2582,  ..., 0.9542, 0.8955, 0.0750],
              [0.5892, 0.8647, 0.3251,  ..., 0.5489, 0.5575, 0.3004]],
    
             [[0.0630, 0.1473, 0.7858,  ..., 0.3695, 0.2419, 0.4843],
              [0.7736, 0.6974, 0.8900,  ..., 0.3137, 0.4747, 0.9298],
              [0.8021, 0.3490, 0.8568,  ..., 0.5600, 0.2382, 0.0054],
              ...,
              [0.4725, 0.7952, 0.5935,  ..., 0.3612, 0.9396, 0.2763],
              [0.3715, 0.8464, 0.0258,  ..., 0.2218, 0.0808, 0.9323],
              [0.2634, 0.8852, 0.7021,  ..., 0.4925, 0.6998, 0.0013]],
    
             [[0.7005, 0.2593, 0.1891,  ..., 0.2242, 0.9181, 0.4466],
              [0.2316, 0.1313, 0.6365,  ..., 0.2096, 0.4597, 0.0361],
              [0.2662, 0.8333, 0.4361,  ..., 0.5952, 0.0086, 0.8168],
              ...,
              [0.0641, 0.5702, 0.9628,  ..., 0.0303, 0.9381, 0.9755],
              [0.6629, 0.5515, 0.5912,  ..., 0.5070, 0.1345, 0.2626],
              [0.6316, 0.1251, 0.1719,  ..., 0.6973, 0.2206, 0.2461]]]])
    torch.Size([2, 3, 28, 28])

## 计算Tensor中元素的数目 ##

示例代码：

import torch
    
    a = torch.rand(10, 1, 28, 28)
    print(a.numel())  # number of element 10*1*28*28=7840

输出结果：

7840

[https_blog.csdn.net_tfcy694_article_details_85338745]: https://blog.csdn.net/tfcy694/article/details/85338745