Pytorch项目打包和部署（4）——代码——TensorRT+Android

女爷i 2023-02-26 04:27 7阅读 0赞

### 文章目录 ###

*  前言
 *  一、TensorRT
 *  二、Android

# 前言 #

首先下载TensorRT，进入官网[NVIDIA TensorRT | NVIDIA Developer][NVIDIA TensorRT _ NVIDIA Developer]，点击download now，选择对应的TensorRT版本，windows下建议下 TensorRT7，点击同意，选择TensorRT 7.0（7.1是预览版本，不建议下载），选择对应的系统，此处windows下载要对应CUDA版本，一定要更新到对应的版本上去，否则运行会报错。

对于Tensor RT的使用，可以参考TensorRT的开发向导（第二个）:![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dhMXR6eQ_size_16_color_FFFFFF_t_70]  
下载后，解压到系统的一个位置，配置环境变量，系统变量的Path-编辑-新建-E:\\TensorRT-7.0.0.11\\lib，添加即可。

注意：Python只支持3.6，不支持3.7，想用的话需要下载源码进行编译，不过我们主要用C++，感兴趣的小伙伴可以自己尝试Python。

# 一、TensorRT #

找到E:\\TensorRT-7.0.0.11\\samples\\sampleONNXMNIST这个样例，我们可以用其参考。  
![在这里插入图片描述][20200714111556783.png]  
点击sample\_onnx\_mnist.sln，进入VS2017（CLION需要调整CMAKE文件，在此不做介绍），生成一下，不报错就证明配置的没问题。运行会如下报错：  
![在这里插入图片描述][20200714111856186.png]  
原因是E:\\TensorRT-7.0.0.11\\data\\mnist缺少如下文件：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dhMXR6eQ_size_16_color_FFFFFF_t_70 1]  
我们需要在这个文件夹下点击download\_pgms.py这个文件，运行即可生成这些文件；然后运行，控制台会显示类似如下的内容：  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dhMXR6eQ_size_16_color_FFFFFF_t_70 2]

# 二、Android #

下载JDK和Android Studio，安装即可。  
官网：[Java SE Development Kit][]  
[Android Studio][]

[Pytorch官网][Pytorch]Mobile页面下载一些Android的小demo（建议HelloWorld）跑一下，测试安装是否没问题。

下载下来就可以用Android Studio跑一下了，可以用虚拟机，也可以用自己的手机。  
以小米手机为例：设置-我的设备-全部参数-7连击MIUI版本进入开发者模式；更多设置-开发者选项-打开开发者选项-打开USB调试-打开USB安装-手机与电脑连接USB后点击传输文件，一个小DEMO就在手机上跑起来了。

[NVIDIA TensorRT _ NVIDIA Developer]: https://developer.nvidia.com/tensorrt
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dhMXR6eQ_size_16_color_FFFFFF_t_70]: /images/20230209/732442caadbf46d5a2690545ebc4aaa5.png
[20200714111556783.png]: /images/20230209/adb72f7d695c46a4863242eabbf7ef4b.png
[20200714111856186.png]: /images/20230209/95866c77181b4380ba295727c6c77a32.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dhMXR6eQ_size_16_color_FFFFFF_t_70 1]: /images/20230209/a9fa0fefadf44574bdb2747a32f10e93.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dhMXR6eQ_size_16_color_FFFFFF_t_70 2]: /images/20230209/1ecde7b8e30a4c35af09e38af4f31db0.png
[Java SE Development Kit]: https://www.oracle.com/java/technologies/javase/javase-jdk8-downloads.html
[Android Studio]: https://developer.android.google.cn/studio/
[Pytorch]: https://pytorch.org/