智能AI计算芯片对比

红太狼 2022-01-26 15:57 390阅读 0赞

下面是本人接触到的AI芯片，主要涉及华为、比特大陆-算丰、英伟达。其他还有寒武纪、地平线、瑞芯微等没有接触过就不对比了。  
易开发性：比特大陆>英伟达>华为  
性能:华为>英伟达>比特大陆（性能不是很好对比，每家实现的算子性能有差异，不能单纯对比TOPS）

<table> 
 <thead> 
  <tr> 
   <th></th> 
   <th>算力</th> 
   <th>内存</th> 
   <th>带宽（GB/s）</th> 
   <th>解码</th> 
   <th>编码</th> 
   <th>功耗</th> 
   <th>备注</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>昇腾310</td> 
   <td>16TOPS INT8</td> 
   <td>LPDDR4x 8/4GB</td> 
   <td></td> 
   <td>H.264/H.265 16路1080P@30FPSJPEG 1080P@256FPS</td> 
   <td>1路1080P@30FPS</td> 
   <td>9.5W</td> 
   <td>Caffe/TensorFlow</td> 
  </tr> 
  <tr> 
   <td>Atlas300</td> 
   <td>4x4TFLOPS62TOPS@INT8</td> 
   <td>LPDDR4x 4x 8GB</td> 
   <td></td> 
   <td>H.264/H.265 4x 16路1080P@30FPSJPEG 4x 1080P@256FPS</td> 
   <td>4路1080P@30FPS</td> 
   <td>67W</td> 
   <td></td> 
  </tr> 
  <tr> 
   <td>HI3559A</td> 
   <td>4TOPS@INT8-NNIE+2TOPS@INT8-DSP</td> 
   <td>LPDDR4x 4GB</td> 
   <td></td> 
   <td>视频：8路1080P@30FPSJPEG：1080P@240FPS</td> 
   <td></td> 
   <td>5W</td> 
   <td></td> 
  </tr> 
  <tr> 
   <td>算丰BM1880终端芯片</td> 
   <td>1TOPS@INT8（Winograd算计可达2TOPS@INT8）</td> 
   <td>LPDDR4 最大4GB</td> 
   <td></td> 
   <td>2路1080P@30FPSFHD:1080P@75FPS</td> 
   <td></td> 
   <td>2.5W</td> 
   <td>多框架支持Caffe\ONNX</td> 
  </tr> 
  <tr> 
   <td>算丰BM1682云端芯片</td> 
   <td>3TFLOPS</td> 
   <td></td> 
   <td></td> 
   <td>8路1080P@30FPS</td> 
   <td></td> 
   <td></td> 
   <td>可堆叠多颗芯片</td> 
  </tr> 
  <tr> 
   <td>算丰SC1/SC1+</td> 
   <td>2TFLOPs/4TFLOPs</td> 
   <td>16/32GB</td> 
   <td>50</td> 
   <td></td> 
   <td></td> 
   <td></td> 
   <td>1颗BM1680/2颗</td> 
  </tr> 
  <tr> 
   <td>Nvidia jetson TX2</td> 
   <td>1TFLOPS4TOPS@INT8</td> 
   <td>LPDDR4x 8GB</td> 
   <td>D2D 35D2H/H2D 20</td> 
   <td>8路1080P@30FPS</td> 
   <td></td> 
   <td>7.5W</td> 
   <td></td> 
  </tr> 
 </tbody> 
</table>

实测BM1682 VS HI3559A（单NNIE）网络有快有慢，并不是某个芯片一定快。

<table> 
 <thead> 
  <tr> 
   <th></th> 
   <th>bm1682</th> 
   <th></th> 
   <th></th> 
   <th>hi3559a</th> 
  </tr> 
 </thead> 
 <tbody> 
  <tr> 
   <td>YOLOv3_352x384</td> 
   <td>32.65ms</td> 
   <td></td> 
   <td></td> 
   <td>41.4ms</td> 
  </tr> 
  <tr> 
   <td></td> 
   <td>1</td> 
   <td>2</td> 
   <td>4</td> 
   <td></td> 
  </tr> 
  <tr> 
   <td>YOLOv3_288x320</td> 
   <td>19.31ms</td> 
   <td>33.74ms</td> 
   <td>61.17ms</td> 
   <td></td> 
  </tr> 
  <tr> 
   <td>mobilenetv2_288x320</td> 
   <td>3.16ms</td> 
   <td></td> 
   <td></td> 
   <td></td> 
  </tr> 
  <tr> 
   <td>MTCNN_16x56</td> 
   <td>0.246ms</td> 
   <td></td> 
   <td></td> 
   <td>0.193ms</td> 
  </tr> 
  <tr> 
   <td>CNN_48x168</td> 
   <td>0.649ms</td> 
   <td></td> 
   <td></td> 
   <td>3.75ms</td> 
  </tr> 
 </tbody> 
</table>