DenseNet实战：tensorflow2.0以上版本，使用DenseNet121实现图像分类任务

短命女 2022-12-20 05:58 271阅读 0赞

**目录**

摘要

训练

第一步 导入需要的数据包，设置全局参数

第二步 加载图片

第三步 图像增强

第四步 保留最好的模型和动态设置学习率

第五步 建立模型并训练

第六步 保留训练结果，并将其生成图片

完整代码：

测试部分

1、导入依赖

2、设置全局参数

3、加载模型

4、处理图片

5、预测类别

完整代码

--------------------

# **摘要** #

本例提取了猫狗大战数据集中的部分数据做数据集，演示tensorflow2.0以上的版本如何使用Keras实现图像分类，分类的模型使用DenseNet121。

# **训练** #

## **第一步 导入需要的数据包，设置全局参数** ##

import numpy as np

from tensorflow.keras.optimizers import Adam

import cv2

from tensorflow.keras.preprocessing.image import img\_to\_array

from sklearn.model\_selection import train\_test\_split

from tensorflow.python.keras.callbacks import ModelCheckpoint, ReduceLROnPlateau

from tensorflow.keras.applications.densenet import DenseNet121

import os

from  tensorflow.keras.models import load\_model  
这里可以看出tensorflow2.0以上的版本集成了Keras，我们在使用的时候就不必单独安装Keras了，以前的代码升级到tensorflow2.0以上的版本将keras前面加上tensorflow即可。tensorflow说完了，再说明一下几个重要的全局参数  
norm\_size = 100 设置输入图像的大小，图像的大小根据自己的需求设置，别太大，够用就行了。

datapath = 'data/train' 设置图片存放的路径，在这里要说明一下如果图片很多，一定不要放在工程目录下，否则Pycharm加载工程的时候会浏览所有的图片，很慢很慢。  
EPOCHS = 100 epochs的数量，关于epoch的设置多少合适，这个问题很纠结，一般情况设置300足够了，如果感觉没有训练好，再载入模型训练。  
INIT\_LR = 1e-3 学习率，一般情况从0.001开始逐渐降低，也别太小了到1e-6就可以了。  
classnum = 2 类别数量，数据集有两个类别，所有就分为两类。  
batch\_size = 16 batchsize，根据硬件的情况和数据集的大小设置，太小了抖的厉害，太大了收敛不好，根据经验来，一般设置为2的次方。

## **第二步 加载图片** ##

处理图像的步骤:

1.  读取图像
2.  用指定的大小去resize图像。
3.  将图像转为数组
4.  图像归一化
5.  标签onehot（标签要不要做onehot和选用的loss函数有关，本例选用的loss可以直接处理标签，所以不用onehot）

具体做法详见代码：

labelList = \[\]

dicClass = \{'cat': 0, 'dog': 1\}

def loadImageData():

imageList = \[\]

listImage = os.listdir(datapath)

for img in listImage:

labelName = dicClass\[img.split('.')\[0\]\]

print(labelName)

labelList.append(labelName)

dataImgPath = os.path.join(datapath, img)

print(dataImgPath)

image = cv2.imdecode(np.fromfile(dataImgPath, dtype=np.uint8), -1)

image = cv2.resize(image, (norm\_size, norm\_size), interpolation=cv2.INTER\_LANCZOS4)

image = img\_to\_array(image)

imageList.append(image)

imageList = np.array(imageList, dtype="int") / 255.0

return imageList

print("开始加载数据")

imageArr = loadImageData()

labelList = np.array(labelList)

print("加载数据完成")

做好数据之后，我们需要切分训练集和测试集，一般按照4：1的比例来切分。切分数据集使用train\_test\_split()方法，需要导入from sklearn.model\_selection import train\_test\_split 包。例：

trainX, valX, trainY, valY = train\_test\_split(imageArr, labelList, test\_size=0.2, random\_state=42)

## **第三步 图像增强** ##

ImageDataGenerator()是keras.preprocessing.image模块中的图片生成器，同时也可以在batch中对数据进行增强，扩充数据集大小，增强模型的泛化能力。比如进行旋转，变形，归一化等等。

keras.preprocessing.image.ImageDataGenerator(featurewise_center=False,samplewise_center
    =False, featurewise_std_normalization=False, samplewise_std_normalization=False,zca_whitening=False,
     zca_epsilon=1e-06, rotation_range=0.0, width_shift_range=0.0, height_shift_range=0.0,brightness_range=None, shear_range=0.0, zoom_range=0.0,channel_shift_range=0.0, fill_mode='nearest', cval=0.0, horizontal_flip=False, vertical_flip=False, rescale=None, preprocessing_function=None,data_format=None,validation_split=0.0)

参数:

*  featurewise\_center: Boolean. 对输入的图片每个通道减去每个通道对应均值。
 *  samplewise\_center: Boolan. 每张图片减去样本均值, 使得每个样本均值为0。
 *  featurewise\_std\_normalization(): Boolean()
 *  samplewise\_std\_normalization(): Boolean()
 *  zca\_epsilon(): Default 12-6
 *  zca\_whitening: Boolean. 去除样本之间的相关性
 *  rotation\_range(): 旋转范围
 *  width\_shift\_range(): 水平平移范围
 *  height\_shift\_range(): 垂直平移范围
 *  shear\_range(): float, 透视变换的范围
 *  zoom\_range(): 缩放范围
 *  fill\_mode: 填充模式, constant, nearest, reflect
 *  cval: fill\_mode == 'constant'的时候填充值
 *  horizontal\_flip(): 水平反转
 *  vertical\_flip(): 垂直翻转
 *  preprocessing\_function(): user提供的处理函数
 *  data\_format(): channels\_first或者channels\_last
 *  validation\_split(): 多少数据用于验证集

本例使用的图像增强代码如下：

train\_datagen = ImageDataGenerator(featurewise\_center=True,  
                                   featurewise\_std\_normalization=True,  
                                   rotation\_range=20,  
                                   width\_shift\_range=0.2,  
                                   height\_shift\_range=0.2,  
                                   horizontal\_flip=True)  
val\_datagen = ImageDataGenerator()  \# 验证集不做图片增强  
train\_generator = train\_datagen.flow(trainX, trainY, batch\_size=batch\_size, shuffle=True)  
val\_generator = val\_datagen.flow(valX, valY, batch\_size=batch\_size, shuffle=True)

## **第四步 保留最好的模型和动态设置学习率** ##

**ModelCheckpoint****用来保存成绩最好的模型。**

语法如下：

keras.callbacks.ModelCheckpoint(filepath, monitor='val\_loss', verbose=0, save\_best\_only=False, save\_weights\_only=False, mode='auto', period=1)

该回调函数将在每个epoch后保存模型到filepath

filepath可以是格式化的字符串，里面的占位符将会被epoch值和传入on\_epoch\_end的logs关键字所填入

例如，filepath若为weights.\{epoch:02d-\{val\_loss:.2f\}\}.hdf5，则会生成对应epoch和验证集loss的多个文件。

**参数**

*  filename：字符串，保存模型的路径
 *  monitor：需要监视的值
 *  verbose：信息展示模式，0或1
 *  save\_best\_only：当设置为True时，将只保存在验证集上性能最好的模型
 *  mode：‘auto’，‘min’，‘max’之一，在save\_best\_only=True时决定性能最佳模型的评判准则，例如，当监测值为val\_acc时，模式应为max，当检测值为val\_loss时，模式应为min。在auto模式下，评价准则由被监测值的名字自动推断。
 *  save\_weights\_only：若设置为True，则只保存模型权重，否则将保存整个模型（包括模型结构，配置信息等）
 *  period：CheckPoint之间的间隔的epoch数

**ReduceLROnPlateau****当评价指标不在提升时，减少学习率，语法如下：**

keras.callbacks.ReduceLROnPlateau(monitor='val\_loss', factor=0.1, patience=10, verbose=0, mode='auto', epsilon=0.0001, cooldown=0, min\_lr=0)

当学习停滞时，减少2倍或10倍的学习率常常能获得较好的效果。该回调函数检测指标的情况，如果在patience个epoch中看不到模型性能提升，则减少学习率

**参数**

*  monitor：被监测的量
 *  factor：每次减少学习率的因子，学习率将以lr = lr\*factor的形式被减少
 *  patience：当patience个epoch过去而模型性能不提升时，学习率减少的动作会被触发
 *  mode：‘auto’，‘min’，‘max’之一，在min模式下，如果检测值触发学习率减少。在max模式下，当检测值不再上升则触发学习率减少。
 *  epsilon：阈值，用来确定是否进入检测值的“平原区”
 *  cooldown：学习率减少后，会经过cooldown个epoch才重新进行正常操作
 *  min\_lr:学习率的下限

本例代码如下：

checkpointer = ModelCheckpoint(filepath='weights\_best\_ densenet \_model.hdf5',

monitor='val\_accuracy', verbose=1, save\_best\_only=True, mode='max')

reduce = ReduceLROnPlateau(monitor='val\_accuracy', patience=10,

verbose=1,

factor=0.5,

min\_lr=1e-6)

## **第五步 建立模型并训练** ##

model = DenseNet121 (weights=None, classes=classnum)  
optimizer = Adam(lr=INIT\_LR)  
model.compile(optimizer=optimizer, loss='sparse\_categorical\_crossentropy', metrics=\['accuracy'\])  
history = model.fit\_generator(train\_generator,  
                              steps\_per\_epoch=trainX.shape\[0\] / batch\_size,  
                              validation\_data=val\_generator,  
                              epochs=EPOCHS,  
                              validation\_steps=valX.shape\[0\] / batch\_size,  
                              callbacks=\[checkpointer, reduce\],  
                              verbose=1, shuffle=True)  
model.save('my\_model\_ densenet.h5')

## **第六步 保留训练结果，并将其生成图片** ##

loss\_trend\_graph\_path = r"WW\_loss.jpg"

acc\_trend\_graph\_path = r"WW\_acc.jpg"

import matplotlib.pyplot as plt

print("Now,we start drawing the loss and acc trends graph...")

\# summarize history for accuracy

fig = plt.figure(1)

plt.plot(history.history\["accuracy"\])

plt.plot(history.history\["val\_accuracy"\])

plt.title("Model accuracy")

plt.ylabel("accuracy")

plt.xlabel("epoch")

plt.legend(\["train", "test"\], loc="upper left")

plt.savefig(acc\_trend\_graph\_path)

plt.close(1)

\# summarize history for loss

fig = plt.figure(2)

plt.plot(history.history\["loss"\])

plt.plot(history.history\["val\_loss"\])

plt.title("Model loss")

plt.ylabel("loss")

plt.xlabel("epoch")

plt.legend(\["train", "test"\], loc="upper left")

plt.savefig(loss\_trend\_graph\_path)

plt.close(2)

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoaGhoaGhoaGh3d3d3d3d3d3d3_size_16_color_FFFFFF_t_70][]![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoaGhoaGhoaGh3d3d3d3d3d3d3_size_16_color_FFFFFF_t_70 1][]

## **完整代码：** ##

import numpy as np
    from tensorflow.keras.optimizers import Adam
    import cv2
    from tensorflow.keras.preprocessing.image import img_to_array
    from sklearn.model_selection import train_test_split
    from tensorflow.python.keras.callbacks import ModelCheckpoint, ReduceLROnPlateau
    from tensorflow.keras.applications.densenet import DenseNet121
    import os
    from  tensorflow.keras.models import load_model
    
    norm_size = 100
    datapath = 'data/train'
    EPOCHS = 100
    INIT_LR = 1e-3
    labelList = []
    dicClass = {'cat': 0, 'dog': 1}
    classnum = 2
    batch_size = 16
    
    
    def loadImageData():
        imageList = []
        listImage = os.listdir(datapath)
        for img in listImage:
            labelName = dicClass[img.split('.')[0]]
            print(labelName)
            labelList.append(labelName)
            dataImgPath = os.path.join(datapath, img)
            print(dataImgPath)
            image = cv2.imdecode(np.fromfile(dataImgPath, dtype=np.uint8), -1)
            image = cv2.resize(image, (norm_size, norm_size), interpolation=cv2.INTER_LANCZOS4)
            image = img_to_array(image)
            imageList.append(image)
        imageList = np.array(imageList, dtype="int") / 255.0
        return imageList
    
    
    print("开始加载数据")
    imageArr = loadImageData()
    labelList = np.array(labelList)
    print("加载数据完成")
    print(labelList)
    
    model = DenseNet121(weights=None, classes=classnum)
    optimizer = Adam(lr=INIT_LR)
    model.compile(optimizer=optimizer, loss='sparse_categorical_crossentropy', metrics=['accuracy'])
    trainX, valX, trainY, valY = train_test_split(imageArr, labelList, test_size=0.3, random_state=42)
    from tensorflow.keras.preprocessing.image import ImageDataGenerator
    
    train_datagen = ImageDataGenerator(featurewise_center=True,
                                       featurewise_std_normalization=True,
                                       rotation_range=20,
                                       width_shift_range=0.2,
                                       height_shift_range=0.2,
                                       horizontal_flip=True)
    val_datagen = ImageDataGenerator()  # 验证集不做图片增强
    
    train_generator = train_datagen.flow(trainX, trainY, batch_size=batch_size, shuffle=True)
    val_generator = val_datagen.flow(valX, valY, batch_size=batch_size, shuffle=True)
    checkpointer = ModelCheckpoint(filepath='weights_best_Deset_model.hdf5',
                                   monitor='val_accuracy', verbose=1, save_best_only=True, mode='max')
    
    reduce = ReduceLROnPlateau(monitor='val_accuracy', patience=10,
                               verbose=1,
                               factor=0.5,
                               min_lr=1e-6)
    history = model.fit_generator(train_generator,
                                  steps_per_epoch=trainX.shape[0] / batch_size,
                                  validation_data=val_generator,
                                  epochs=EPOCHS,
                                  validation_steps=valX.shape[0] / batch_size,
                                  callbacks=[checkpointer, reduce],
                                  verbose=1, shuffle=True)
    model.save('my_model_Desnet.h5')
    print(history)
    
    loss_trend_graph_path = r"WW_loss.jpg"
    acc_trend_graph_path = r"WW_acc.jpg"
    import matplotlib.pyplot as plt
    
    print("Now,we start drawing the loss and acc trends graph...")
    # summarize history for accuracy
    fig = plt.figure(1)
    plt.plot(history.history["accuracy"])
    plt.plot(history.history["val_accuracy"])
    plt.title("Model accuracy")
    plt.ylabel("accuracy")
    plt.xlabel("epoch")
    plt.legend(["train", "test"], loc="upper left")
    plt.savefig(acc_trend_graph_path)
    plt.close(1)
    # summarize history for loss
    fig = plt.figure(2)
    plt.plot(history.history["loss"])
    plt.plot(history.history["val_loss"])
    plt.title("Model loss")
    plt.ylabel("loss")
    plt.xlabel("epoch")
    plt.legend(["train", "test"], loc="upper left")
    plt.savefig(loss_trend_graph_path)
    plt.close(2)
    print("We are done, everything seems OK...")
    # #windows系统设置10关机
    os.system("shutdown -s -t 10")

# 测试部分 #

## 1、导入依赖 ##

import cv2  
import numpy as np  
from tensorflow.keras.preprocessing.image import img\_to\_array  
from  tensorflow.keras.models import load\_model  
import time

## 2、设置全局参数 ##

norm\_size=100  
imagelist=\[\]  
emotion\_labels = \{  
    0: **'cat'**,  
    1: **'dog'**  
\}

## 3、加载模型 ##

emotion\_classifier=load\_model(**"my\_model\_Desnet.h5"**)  
t1=time.time()

## 4、处理图片 ##

image = cv2.imdecode(np.fromfile(**'test/8.jpg'**, dtype=np.uint8), -1)  
\# load the image, pre-process it, and store it in the data list  
image = cv2.resize(image, (norm\_size, norm\_size), interpolation=cv2.INTER\_LANCZOS4)  
image = img\_to\_array(image)  
imagelist.append(image)  
imageList = np.array(imagelist, dtype=**"float"**) / 255.0

## 5、预测类别 ##

pre=np.argmax(emotion\_classifier.predict(imageList))  
emotion = emotion\_labels\[pre\]  
t2=time.time()  
print(emotion)  
t3=t2-t1  
print(t3)

## 完整代码 ##

import cv2
    import numpy as np
    from tensorflow.keras.preprocessing.image import img_to_array
    from  tensorflow.keras.models import load_model
    import time
    norm_size=100
    imagelist=[]
    emotion_labels = {
        0: 'cat',
        1: 'dog'
    }
    emotion_classifier=load_model("my_model_Desnet.h5")
    t1=time.time()
    image = cv2.imdecode(np.fromfile('test/8.jpg', dtype=np.uint8), -1)
    # load the image, pre-process it, and store it in the data list
    image = cv2.resize(image, (norm_size, norm_size), interpolation=cv2.INTER_LANCZOS4)
    image = img_to_array(image)
    imagelist.append(image)
    imageList = np.array(imagelist, dtype="float") / 255.0
    pre=np.argmax(emotion_classifier.predict(imageList))
    emotion = emotion_labels[pre]
    t2=time.time()
    print(emotion)
    t3=t2-t1
    print(t3)

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoaGhoaGhoaGh3d3d3d3d3d3d3_size_16_color_FFFFFF_t_70]: https://img-blog.csdnimg.cn/20201111085729617.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoaGhoaGhoaGh3d3d3d3d3d3d3,size_16,color_FFFFFF,t_70
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hoaGhoaGhoaGh3d3d3d3d3d3d3_size_16_color_FFFFFF_t_70 1]: /images/20221120/2cd8612c07f84ebb8254a8462035cdff.png