模型大小与参数量计算

以你之姓@ 2023-01-22 07:54 755阅读 0赞

**1.model size**

就是模型的大小，我们一般使用参数量parameter来衡量，注意，它的单位是**个**。但是由于很多模型参数量太大，所以一般取一个更方便的单位：**兆(M)** 来衡量。比如ResNet-152的参数量可以达到60 million = 0.0006M。有些时候，model size在实际计算时除了包含参数量以外，还包括网络架构信息和优化器信息等。比如存储一个一般的CNN模型(ImageNet训练)需要大于300MB。

**M和MB的换算关系：**

比如说我有一个模型参数量是1M，在一般的深度学习框架中(比如说PyTorch)，一般是32位存储。32位存储的意思就是1个参数用32个bit来存储。那么这个拥有1M参数量的模型所需要的存储空间的大小即为：1M \* 32 bit = 32Mb = 4MB。因为1 Byte = 8 bit。现在的quantization技术就是减少参数量所占的位数：比如我用8位存储，那么：所需要的存储空间的大小即为：1M \* 8 bit = 8Mb = 1MB。

**2.参数量计算方法**

卷积层参数计算方法：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xlb193aGo_size_16_color_FFFFFF_t_70][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xlb193aGo_size_16_color_FFFFFF_t_70 1][]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xlb193aGo_size_16_color_FFFFFF_t_70]: /images/20221020/ceff635c7e904be38dc641c0d77e9980.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xlb193aGo_size_16_color_FFFFFF_t_70 1]: /images/20221020/18cd0c6c5cbf40428d1029d6c546976f.png

发表评论取消回复

表情：

评论列表（有 0 条评论，755人围观）

还没有评论，来说两句吧...

相关阅读

相关计算caffe模型的参数量params与flops

一、脚本 calc\_params.py import sys sys.path.insert(0, "/home/ubuntu/workspace...

约定不等于承诺〃/ 2024年04月18日 07:59/ 0 赞/ 53 阅读

相关模型大小与参数量计算

1.model size 就是模型的大小，我们一般使用参数量parameter来衡量，注意，它的单位是个。但是由于很多模型参数量太大，所以一般取一个更方便的单位：兆(M

以你之姓@/ 2023年01月22日 07:54/ 0 赞/ 756 阅读

相关基础：神经网络的计算量和参数量估计总结

> 点击上方“机器学习与生成对抗网络”，关注"星标" > > 获取有趣、好玩的前沿干货！作者丨DengBoCong@知乎编辑丨极市平台文仅分享，侵删来

r囧r小猫/ 2023年01月11日 04:58/ 0 赞/ 98 阅读

相关分类中计算数量

思路：把分类列表和图片列表全部搜出来。然后用一个方法把这两个数组整合。 / 开放图库分类 / pub

╰半橙微兮°/ 2022年12月13日 04:07/ 0 赞/ 194 阅读

相关对于类对象模型的理解（类大小计算+大小端字节序）

类对象模型如何理解类与对象类：通俗理解，类相当于一个模型框架，限定了类有哪些成员变量，但从底层来看，内存并没有分配实际的物理空间来存储类对

本是古典何须时尚/ 2022年10月27日 13:50/ 0 赞/ 176 阅读

相关获取神经网络的计算量和参数量

作者：DengBoCong 文仅交流，侵删地址：https://zhuanlan.zhihu.com/p/342668070 Github：本文代码放在该项目中：h

秒速五厘米/ 2022年10月17日 11:18/ 0 赞/ 208 阅读

相关深度学习模型大小与模型推理速度的探讨

导读 ![1deab23f895f63a95f0805a04828c2a9.gif][] 作者：田子宸，毕业于浙江大学，就职于商汤，文章经过作者同意转载。本文将对

悠悠/ 2022年08月28日 08:49/ 0 赞/ 202 阅读

相关摄像机模型（内参、外参）

1、摄像机外参：决定摄像机坐标与世界坐标系之间相对位置关系。其中Pw为世界坐标，Pc是摄像机坐标，他们之间关系为 Pc = RPw + T 式中，T= (Tx,Ty,T

Bertha 。/ 2022年05月12日 02:08/ 0 赞/ 255 阅读

相关 THOP: 统计 PyTorch 模型的 FLOPs 和参数量

[THOP][] 是 PyTorch 非常实用的一个第三方库，可以统计模型的 FLOPs 和参数量。使用方法为： from thop import clever_fo

我就是我/ 2021年11月16日 07:12/ 0 赞/ 1355 阅读

相关如何计算CNN感受野、计算量和模型大小

下面以最经典的AlexNet模型为例子，计算感受野，模型计算量和大小（内存）。下面这张图是AlexNet的结构图，看起来比较直观。 ![在这里插入图片描述][waterma

野性酷女/ 2021年10月29日 15:00/ 0 赞/ 406 阅读