torch中向量、矩阵乘法大总结

红太狼 2022-12-27 11:21 148阅读 0赞

# 总结 #

*  文章来源： CSDN@LawsonAbs
 *  如下代码可以在我的[Github][]库中找到。

--------------------

# 1.点乘（`Dot product`） #

点乘：就是向量的各个元素对应相乘。  
比如现在我们有两个向量，`a=[2,3], b=[-1,3]`，则其点乘结果是：7。可以有两种方法来计算：

## 1.1 使用 `dot()`方法 ##

给定两个向量  x , y ∈ R d x,y∈R^d x,y∈Rd ，它们的点积（dotproduct）  x ⊤ y x^⊤y x⊤y （或 ⟨x,y⟩ ）是相同位置的按元素乘积的和：  x ⊤ y = ∑ i = 1 d x i y i x^⊤y=∑^d\_\{i=1\}x\_iy\_i x⊤y=∑i=1dxiyi。

注意：这里的点乘并不是我们普通理解的那个向量乘法。【我有点儿疑惑了，这里不就是向量乘法吗？】

a = t.tensor([2, 3])
    b = t.tensor([-1,3])
    print(t.dot(a,b))

运行结果：  
`tensor(7)`

## 1.2 使用`mm()`方法 ##

`mm` 方法适用于矩阵的乘法。我们可以将一个向量看作是一个简单的`1*m`的矩阵，然后执行操作即可。代码如下：

"""2.使用tensor中的mm方法做向量乘法 01.mm 计算矩阵的乘法 02.这里是将向量转为一个矩阵，然后做乘法。实现dot做点乘的效果 """
    # a = t.tensor([1,2]) 这样并不是一个矩阵！！！只是一个类似list的tensor
    a = t.tensor([[1,2]]) # 是一个矩阵
    b = t.tensor([[2,3]]) # 是一个矩阵
    b = t.transpose(b,0,1) # 转置后才有和a进行运算
    print(a.shape,b.shape) 
    
    print(t.mm(a,b))

执行结果如下：

![在这里插入图片描述][20201210183540747.png]

# matmul()方法 #

> 两个tensor的矩阵乘积。乘积的结果视tensor的维度而定：

>  *  如果两个的tensor都是1维的，那么点积结果（是一个标量）将会被返回

''' matrix x vector '''
    tensor1 = t.randn(3, 4)
    tensor2 = t.randn(4)
    print(tensor1)
    print(tensor2)
    out = t.matmul(tensor1, tensor2)
    print(out)
    print(out.size())

![在这里插入图片描述][20210321202114513.png]

![在这里插入图片描述][20210321202038141.png]

>  *  如果两个tensor都是2维的，那么矩阵乘积结果将会被返回
>  *  如果第一个参数是1维的，第二个参数是2维的，那么为了矩阵乘法就会在第一个参数中追加一维。在矩阵乘法之后，追加的维度就会被移除。
>  *  高维矩阵相乘

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70]

![在这里插入图片描述][20210321202858624.png]

![在这里插入图片描述][2021032120320481.png]

# 2. \*运算符 #

## 2.1 使用\*号做按位乘法 ##

import torch as t
    a = t.tensor([0.1000,0.4000])
    weight = t.tensor([0.1200, 0.3200])
    print(a*weight)

执行结果：  
`tensor([0.0120, 0.1280])`

## 2.2 使用\*号做广播乘法 ##

如下图所示：`a,b`是两个不同维度的矩阵，直接使用\*号后便做一个广播乘法，得到结果。右侧给出了计算过程。  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 1]  
这里的广播原则是：直接将低维的a（2,3,1） 变化成了(2,3,8)。然后与b按元素相乘。等到最后的结果。

[Github]: https://github.com/LawsonAbs/learn/blob/master/pytorch/%E5%90%91%E9%87%8F%E4%B9%98%E6%B3%95.ipynb
[20201210183540747.png]: /images/20221120/517a890ffe1e41a0a36af71ee8c13887.png
[20210321202114513.png]: /images/20221120/7d8ec633e27d4cdcaf8d542be41da2a0.png
[20210321202038141.png]: /images/20221120/ef33e9d619c84939a32c006ceef472fd.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20210321203324965.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5,size_16,color_FFFFFF,t_70
[20210321202858624.png]: https://img-blog.csdnimg.cn/20210321202858624.png
[2021032120320481.png]: https://img-blog.csdnimg.cn/2021032120320481.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5_size_16_color_FFFFFF_t_70 1]: https://img-blog.csdnimg.cn/20210621193059533.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2xpdTE2NjU5,size_16,color_FFFFFF,t_70