Python实现基于darknet实现的快速启动脚本

系统管理员 2024-02-20 08:32 18阅读 0赞

[资源下载地址][Link 1]：https://download.csdn.net/download/sheziqiong/88474980  
[资源下载地址][Link 1]：https://download.csdn.net/download/sheziqiong/88474980  
**基于darknet实现的快速启动脚本**

## 1.项目简介 ##

项目基于darknet开发了一系列的快速启动脚本，旨在让图像识别新手或者开发人员能够快速的启动一个目标检测（定位）的项目。  
如果有没有讲清楚的地方，欢迎提issue和PR，希望能和大家共同完善！

本项目分为两个部分：

1.  提供两个目标检测（**单分类和多分类点选验证码**）的例子，你可以通过例子熟悉定位yolo3定位网络的使用方式
2.  基于darknet提供一系列API，用于使用**自己的数据**进行目标检测模型的训练，并提供web server的代码

![ec8d6300b5fba0bfd227bf17035749bb.png][]  
![052ee7d1aa1a42267f4476c5db469771.png][]  
![1cfa377fde154f6bfb095d17a9d8548e.png][]  
![d368e0abe826ec7188cb3882df5ff47b.png][]

### 1.1项目结构 ###

项目分为`darknet、extent、app`三部分

1.  darknet: 这部分是[darknet][]项目源码，没有作任何改动。
2.  extent: 扩展部分，包含**生成配置**、**生成样本**、**训练**、**识别demo**、**api程序**。
3.  app: 每一个新的识别需求都以app区分，其中包含配置文件、样本和标签文件等。

### 1.2开始一个例子：单类型目标检测 ###

**以点选验证码为例**  
darknet实际上给我们提供了一系列的深度学习算法，我们要做的就是使用比较简单的步骤来调用darknet训练我们的识别模型。

*  推荐使用的操作系统是`ubuntu`，遇到的坑会少很多。
 *  如果使用windowns系统，需要先安装`cygwin`，便于编译darknet。（参考我的博客：[安装cygwin][cygwin]）

下面的步骤都已经通过`ubuntu16.04`测试。

##### 1.下载项目 #####

git clone https://github.com/nickliqian/darknet_captcha.git

##### 2.编译darknet #####

进入`darknet_captcha`目录，下载`darknet`项目，覆盖`darknet`目录：

cd darknet_captcha
    git clone https://github.com/pjreddie/darknet.git

进入`darknet`目录，修改`darknet/Makefile`配置文件

cd darknet
    vim Makefile

*  如果使用GPU训练则下面的GPU=1
 *  使用CPU训练则下面的GPU=0

GPU=1
    CUDNN=0
    OPENCV=0
    OPENMP=0
    DEBUG=0

然后使用`make`编译`darknet`：

make

> 不建议使用CPU进行训练，因为使用CPU不管是训练还是预测，耗时都非常久。  
> 如果你需要租用临时且价格低的GPU主机进行测试，后面介绍了一些推荐的GPU云服务。  
> 如果在编译过程中会出错，可以在darknet的issue找一下解决办法，也可以发邮件找我要旧版本的darknet。

##### 3.安装python3环境 #####

使用pip执行下面的语句，并确保你的系统上已经安装了tk：

pip install -r requirement.txt
    sudo apt-get install python3-tk

##### 4.创建一个应用 #####

进入根目录，运行下面的程序生成一个应用的基本配置：

cd darknet_captcha
    python3 extend/create_app_config.py my_captcha 1

这里的类别默认生成`classes_1`，你可以修改类别名称；  
打开`app/my_captcha/my_captcha.names`修改`classes_1`为主机想要的名称即可。

如何查看`create_app_config.py`的命令行参数解释？  
直接运行`python create_app_config.py`便可以在控制台查看，下面的程序也是如此。

> 如果你对darknet相关配置有一定的了解，可以直接打开文件修改参数的值，这里我们保持原样即可。

##### 5.生成样本 #####

生成样本使用另外一个项目 [nickliqian/generate\_click\_captcha][nickliqian_generate_click_captcha]  
这里我已经集成进去了，执行下面的命令生成样本和对应标签到指定应用中`yolo`规定的目录：

python3 extend/generate_click_captcha.py my_captcha

运行`python generate_click_captcha.py`查看参数解释。

##### 6.划分训练集和验证集 #####

运行下面的程序，划分训练集和验证集，同时将标签的值转换为`yolo`认识的格式：

python3 extend/output_label.py my_captcha 1

这里填写的种类需要与上面一致。  
运行`python output_label.py`查看参数解释。

##### 7.开始训练 #####

到这里，我们要准备的东西还差一样，我们需要下载darknet提供的预训练模型放在`darknet_captcha`目录下：

wget https://pjreddie.com/media/files/darknet53.conv.74

在`darknet_captcha`目录下，执行下面的命令开始训练：

./darknet/darknet detector train app/my_captcha/my_captcha.data app/my_captcha/my_captcha_train.yolov3.cfg darknet53.conv.74

训练过程中模型会每一百次迭代储存一次，储存在`app/my_captcha/backup/`下，可以进行查看。

##### 8.识别效果 #####

使用`GTX 1060`训练大概1.5小时，训练迭代到1000次，会有比较明显的效果。

![d9eb1729e6bf7c7588ef17c996005c75.png][]  
我们找一张验证集的图片使用不同进度下的模型进行识别测试，执行下面的语句开始识别：

python3 extend/rec.py my_captcha 100

这里的100是选择`app/my_captcha/images_data/JPEGImages`目录下的第一百张图片进行识别。  
运行`python rec.py`查看参数解释。

迭代300次：  
![3741b38ffd26043c90c2deb81e1ec640.png][]  
迭代800次：  
![ea3244fd95c6f4fcf97ac248a3026eba.png][]  
迭代1000次：  
![dceec448b3999fdc504c66a58b765981.png][]  
迭代1200次：  
![035ec3e09e67b32be3f2820808f71e62.png][]

##### 9.图片切割 #####

这部分比较简单，网上有很多示例代码，可以调用`darknet_interface.cut_and_save`方法把定位到的字符切割下来。  
![9084cc95a1134e9eefb5002cf7aaf1dd.png][] ![f086141c0f822e55b06bb32963a44011.png][] ![722fb36e3912102a10cd8e10180f81c0.png][]

##### 10.分类器 #####

到分类这一步就比较容易了，可以使用darknet自带的分类器，也可以使用[cnn\_captcha][cnn_captcha]一个使用卷积神经网络识别验证码的项目。

##### 11.总结 #####

我们识别点选验证码的大致流程如下：

1.  搜集样本
2.  打标签（标注坐标和字符）
3.  训练定位器
4.  检测位置，切割图片
5.  训练分类器
6.  使用定位器+分类器识别点选验证码上字符的位置和字符类别

### 1.3第二个例子：多类型目标检测 ###

步骤和上面基本上一致，直接把命令列出来：

# 生成配置文件
    python3 extend/create_app_config.py dummy_captcha 2
    # 生成图片
    python3 extend/generate_click_captcha.py dummy_captcha 500 True
    # 输出标签到txt
    python3 extend/output_label.py dummy_captcha 2
    # 开始训练w
    ./darknet/darknet detector train app/dummy_captcha/dummy_captcha.data app/dummy_captcha/dummy_captcha_train.yolov3.cfg darknet53.conv.74
    # 识别测试
    python3 extend/rec.py dummy_captcha 100

## 2.训练自己的数据 ##

下面的过程教你如何训练自己数据。  
假定我们要创建一个识别路上的车和人的应用，因此类别数量为2。  
假定你现在有一些原始图片，首先你需要给这些图片打上标签，推荐使用[labelImg][]进行打标工作。  
使用教程可以自行谷歌，软件界面大致如下：  
![6be63a8d735f8eac640828cbc9be1bef.png][]

给图片中的人和车分别打上person和car的标签，会生成xml标签文件。  
接下来，我们创建一个应用，应用名称是`car`，类别为`2`类，同时生成一些配置文件：

python3 extend/create_app_config.py car 2

然后把你的原始图片放到指定的路径`app/car/JPEGImages`，把xml标签文件放在`app/car/Annotations`  
yolo训练的时候需要图片中目标的相对坐标，所以这里需要把xml的坐标计算为相对坐标的形式。  
同时car.data中需要分别定义训练集和验证集的样本路径，这里会划分出训练集和验证集，同时生成两个txt文件记录其路径。

python3 extend/output_label.py car 2

要提到的是，这里可以打开car.names，把里面的class\_1和class\_2分别修改为car和person，这里识别结果就会输出car和person。  
然后就可以开始训练了：

./darknet/darknet detector train app/car/car.data app/car/car_train.yolov3.cfg darknet53.conv.74

识别测试和上面也没有上面区别：

# 识别测试
    python3 extend/rec.py car 100

## 3.web服务 ##

启动web服务：

python3 extend/web_server.py

启动前需要按需修改配置参数：

# 生成识别对象，需要配置参数
    app_name = "car"  # 应用名称
    config_file = "app/{}/{}_train.yolov3.cfg".format(app_name, app_name)  # 配置文件路径
    model_file = "app/{}/backup/{}_train.backup".format(app_name, app_name)  # 模型路径
    data_config_file = "app/{}/{}.data".format(app_name, app_name)  # 数据配置文件路径
    dr = DarknetRecognize(
        config_file=config_file,
        model_file=model_file,
        data_config_file=data_config_file
    )
    save_path = "api_images"  # 保存图片的路径

使用下面的脚本`request_api.py`进行web服务的识别测试（注意修改图片路径）:

python3 extend/request_api.py

返回响应，响应包含目标类别和中心点位置：

接口响应: {
        
      "speed_time(ms)": 16469, 
      "time": "15472704635706885", 
      "value": [
        [
          "word", 
          0.9995613694190979, 
          [
            214.47508239746094, 
            105.97418212890625, 
            24.86412811279297, 
            33.40662384033203
          ]
        ],
        ...
    }

## 4.项目说明 ##

### 4.1使用阿里云OSS加速下载 ###

如果你使用国外云主机进行训练，训练好的模型的下载速度确实是一个问题。  
这里推荐使用阿里云oss，在云主机上把文件上传上去，然后使用oss下载下来。  
配置秘钥：

# 从环境变量获取密钥
    AccessKeyId = os.getenv("AccessKeyId")
    AccessKeySecret = os.getenv("AccessKeySecret")
    BucketName = os.getenv("BucketName")

上传图片：

python3 extend/upload2oss.py app/my_captcha/images_data/JPEGImages/1_15463317590530567.jpg
    python3 extend/upload2oss.py text.jpg

### 4.2GPU云推荐 ###

使用租用 vectordash GPU云主机，ssh连接集成了Nvidia深度学习环境的ubuntu16.04系统  
包含以下工具或框架：

CUDA 9.0, cuDNN, Tensorflow, PyTorch, Caffe, Keras

vectordash提供了一个客户端，具备远程连接、上传和下载文件、管理多个云主机等。  
下面是几种显卡的租用价格：  
![54798cb68a7c386127a1c8cc51459b0c.png][]  
[资源下载地址][Link 1]：https://download.csdn.net/download/sheziqiong/88474980  
[资源下载地址][Link 1]：https://download.csdn.net/download/sheziqiong/88474980

[Link 1]: https://download.csdn.net/download/sheziqiong/88474980
[ec8d6300b5fba0bfd227bf17035749bb.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/fd6bf7fd1e96421c8a3583bd31dd8dc7.png
[052ee7d1aa1a42267f4476c5db469771.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/a91ba5519dba4fbdbea6633acbdf007d.png
[1cfa377fde154f6bfb095d17a9d8548e.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/37d3abf1400e46d08a5a19eb31474fd8.png
[d368e0abe826ec7188cb3882df5ff47b.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/b46b07762ef3448e9ff7e24052719d91.png
[darknet]: https://github.com/pjreddie/darknet
[cygwin]: https://blog.csdn.net/weixin_39198406/article/details/83020632
[nickliqian_generate_click_captcha]: https://github.com/nickliqian/generate_click_captcha
[d9eb1729e6bf7c7588ef17c996005c75.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/d10950f2d8a7452687ec1512a7265785.png
[3741b38ffd26043c90c2deb81e1ec640.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/a86f3def808a47249c8d1377c21e8a97.png
[ea3244fd95c6f4fcf97ac248a3026eba.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/6628c41450294fd3bb7aaa143cc76d9e.png
[dceec448b3999fdc504c66a58b765981.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/109e0c408b1f4e298f9ddbd24aa02cc4.png
[035ec3e09e67b32be3f2820808f71e62.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/40f9e412a41d44be96384399627ea1ec.png
[9084cc95a1134e9eefb5002cf7aaf1dd.png]: https://img-blog.csdnimg.cn/img_convert/9084cc95a1134e9eefb5002cf7aaf1dd.png
[f086141c0f822e55b06bb32963a44011.png]: https://img-blog.csdnimg.cn/img_convert/f086141c0f822e55b06bb32963a44011.png
[722fb36e3912102a10cd8e10180f81c0.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/40decb91933847f79196bbcb6e9d508e.png
[cnn_captcha]: https://github.com/nickliqian/cnn_captcha
[labelImg]: https://github.com/tzutalin/labelImg
[6be63a8d735f8eac640828cbc9be1bef.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/20c5d64c5b794572abbd8820dd3a0bf4.png
[54798cb68a7c386127a1c8cc51459b0c.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/20/4277c36c3c3740b6bd2850f704f4130e.png