svm_light和libsvm对比测试

朴灿烈づ我的快乐病毒、 2021-10-31 16:18 383阅读 0赞

## 测试概述 ##

svm\_light和libsvm是实现支持向量机的不同工具包，这里在相同数据集（默认参数）下，测试两种工具的训练效果（主要对比训练时间）。

svm\_light可在官网下载

[http://www.cs.cornell.edu/people/tj/svm\_light/?tdsourcetag=s\_pctim\_aiomsg][http_www.cs.cornell.edu_people_tj_svm_light_tdsourcetag_s_pctim_aiomsg]

本次实验下载了windows平台的可执行程序svm\_light\_windows

libsvm同样可以在官网下载

[https://www.csie.ntu.edu.tw/~cjlin/libsvm/][https_www.csie.ntu.edu.tw_cjlin_libsvm]

本次实验下载了libsvm的Python和windows工具包

## 使用说明 ##

**svm\_light\_windows命令**：

训练 svm\_learn -z c path/train a.txt

1）这里“-z c”就是设定好这是一个分类问题，当然也可以缺省，因为默认的-z取值就是c；

2）在同“-z c”的位置，额外我可以写“-w 0.2”来修改模型的松弛参数，缺省时取值为0.1。更多参数设定请参考参数说明；

3）这里“path/train”可以修改成自己的训练集文件的目录；

4）这里“a.txt”即训练的分类器文件名，可以任意指定。

分类 svm\_classify path/test.t a.txt b.txt

用path下的test.t训练,用刚才训练的模型,结果输出在b.txt里。

**libsvm**：

导入 from path.svmutil import \*

其中path是svmutil所在的目录，如果是同级目录则直接使用from svmutil import \*

读取数据 y, x = svm\_read\_problem(train\_file)

训练 model = svm\_train(y, x)

预测 svm\_predict(yt, xt, model)

## 测试环境 ##

<table> 
 <tbody> 
 <tr> 
 <td style="vertical-align:top;width:207.4pt;"> 操作系统 </td> 
 <td style="vertical-align:top;width:207.4pt;"> win10 64位 </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;width:207.4pt;"> CPU </td> 
 <td style="vertical-align:top;width:207.4pt;"> AMD Ryzen 5 2600x 6-core 3.60GHz </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;width:207.4pt;"> 内存 </td> 
 <td style="vertical-align:top;width:207.4pt;"> 16GB </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;width:207.4pt;"> IDE/编辑器 </td> 
 <td style="vertical-align:top;width:207.4pt;"> PyCharm </td> 
 </tr> 
 <tr> 
 <td style="vertical-align:top;width:207.4pt;"> Python版本 </td> 
 <td style="vertical-align:top;width:207.4pt;"> 3.6 </td> 
 </tr> 
 </tbody> 
</table>

## svm\_light\_libsvm\_test.py代码 ##

from svmutil import *
    import time
    import os
    
    
    def svm_light(train_file, test_file):
        """
        python调用svm_light_windows 可执行程序
        :param train_file:训练集
        :param test_file:测试集
        :return:打印训练测试过程中的统计量，输出result
        """
        os.chdir("D:/project/ML/svmlight/svm_light_windows64")  # 控制台定位到svm_light可执行程序目录
        train = "svm_learn " + train_file +" a.txt" # 训练命令
        test = "svm_classify " + test_file +" a.txt b.txt"  # 分类命令
    
        t1 = time.time()
        os.system(train)
        t2 = time.time()
        os.system(test)
        t3 = time.time()
        print("训练时间：%fs" % (t2 - t1))
        # print("执行时间：%fs" %(t3-t1))
    
    
    # 标准化
    def libsvm_scale(train_file, test_file):
        """
         调用libsvm windows下的svm-scale可执行程序对数据集进行标准化
        :param train_file:训练集
        :param test_file:测试集
        :return: 输出标准化后的数据集train.scale test.scale
        """
    
        train_scale = "svm-scale -l -1 -u 1 -s range " + train_file + " > train.scale"  # 标准化训练集，生成标准化规则range
        test_scale = "svm-scale -l -1 -u 1 -r range " + test_file + " > test.scale"  # 采用相同规则标准化测试集
        os.chdir("D:/project/ML/libsvm-master/windows")  # 控制台定位到svm_scale可执行程序目录
        os.system(train_scale)
        os.system(test_scale)
    
    
    def libsvm_python(train_file, test_file):
        """
        导入Python libsvm工具包进行训练和测试
        :param train_file: 训练集
        :param test_file: 测试集
        :return:
        """
        y, x = svm_read_problem(train_file)
        yt, xt = svm_read_problem(test_file)
        t1 = time.time()
        model = svm_train(y, x)
        t2 = time.time()
        p_label, p_acc, p_val = svm_predict(yt, xt, model)
        t3 = time.time()
        print("训练时间：%fs" % (t2 - t1))
        # print("执行时间：%fs" % (t3 - t1))
    
    
    def libsvm_windows(train_file, test_file):
        """
        Python调用libsvm_windows可执行程序进行训练和测试
        :param train_file: 训练集
        :param test_file: 测试集
        :return:
        """
    
        train_scale = "svm-train " + train_file + " a5a.model"  # 训练命令
        test_scale = "svm-predict " + test_file + " a5a.model a5a.out"  # 测试命令
        os.chdir("D:/project/ML/libsvm-master/windows")  # 控制台定位到libsvm_windows路径
        t1 = time.time()
        os.system(train_scale)
        t2 = time.time()
        os.system(test_scale)
        t3 = time.time()
        print("训练时间：%fs" % (t2 - t1))
        # print("执行时间：%fs" % (t3 - t1))
    
    
    if __name__ == '__main__':
        data_path = "D:/project/ML/libsvm-master/python/dataset/"
    
        train_file = data_path+"liver-disorders"
        test_file = data_path+"liver-disorders.t"
        # libsvm_scale(train_file,test_file)
    
        # print("-----------svm_light---------------")
        # svm_light(train_file, test_file)
        # print("----------libsvm_windows------------")
        # libsvm_windows(train_file, test_file)
        # print("----------libsvm_python------------")
        # libsvm_python(train_file, test_file)

## 测试过程 ##

修改数据集路径，每次测试需要更改数据集，运行svm\_light\_libsvm\_test.py

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMzMTg3MTM2_size_16_color_FFFFFF_t_70][]

## 测试结果 ##

本次实验使用的数据集包括人工的和真实的数据集，其中summer-10000是人工的3维数据集，axa系列是libsvm dataset的二分类数据集。每次实验使用相同的数据集用svm\_light和libsvm两种工具进行训练和测试，测试结果的各个统计量如下表所示

<table> 
 <tbody> 
 <tr> 
 <td style="border-color:#bfbfbf;vertical-align:top;width:63.55pt;"> &nbsp; </td> 
 <td style="border-color:#bfbfbf;vertical-align:top;width:73.35pt;"> 数据集大小 </td> 
 <td colspan="2" style="border-color:#bfbfbf;vertical-align:top;width:97pt;"> 训练时间(s) </td> 
 <td colspan="2" style="border-color:#bfbfbf;vertical-align:top;width:90.45pt;"> 支持向量 </td> 
 <td colspan="2" style="border-color:#bfbfbf;vertical-align:top;width:90.45pt;"> 准确率(%) </td> 
 </tr> 
 <tr> 
 <td style="width:51.75pt;"> svm_light </td> 
 <td style="width:45.25pt;"> libsvm </td> 
 <td style="width:51.75pt;"> svm_light </td> 
 <td style="width:38.7pt;"> libsvm </td> 
 <td style="width:51.75pt;"> svm_light </td> 
 <td style="width:38.7pt;"> libsvm </td> 
 </tr> 
 <tr> 
 <td style="border-color:#bfbfbf;vertical-align:top;width:63.55pt;"> summer_ 10000 </td> 
 <td style="vertical-align:top;width:73.35pt;"> 10000,3 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 2.7559 </td> 
 <td style="vertical-align:top;width:45.25pt;"> 13.9509 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 2439 </td> 
 <td style="vertical-align:top;width:38.7pt;"> 9899 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 93.47 </td> 
 <td style="vertical-align:top;width:38.7pt;"> 83.65 </td> 
 </tr> 
 <tr> 
 <td style="border-color:#bfbfbf;width:63.55pt;"> a5a </td> 
 <td style="width:73.35pt;"> 6414,123 </td> 
 <td style="width:51.75pt;"> 0.1960 </td> 
 <td style="width:45.25pt;"> 1.3979 </td> 
 <td style="width:51.75pt;"> 2397 </td> 
 <td style="width:38.7pt;"> 2605 </td> 
 <td style="width:51.75pt;"> 84.39 </td> 
 <td style="width:38.7pt;"> 84.16 </td> 
 </tr> 
 <tr> 
 <td style="border-color:#bfbfbf;vertical-align:top;width:63.55pt;"> a6a </td> 
 <td style="vertical-align:top;width:73.35pt;"> 11220,123 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 0.3840 </td> 
 <td style="vertical-align:top;width:45.25pt;"> 4.3119 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 4121 </td> 
 <td style="vertical-align:top;width:38.7pt;"> 4342 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 84.71 </td> 
 <td style="vertical-align:top;width:38.7pt;"> 84.17 </td> 
 </tr> 
 <tr> 
 <td style="border-color:#bfbfbf;width:63.55pt;"> a7a </td> 
 <td style="width:73.35pt;"> 11610,123 </td> 
 <td style="width:51.75pt;"> 0.6329 </td> 
 <td style="width:45.25pt;"> 8.7549 </td> 
 <td style="width:51.75pt;"> 5883 </td> 
 <td style="width:38.7pt;"> 6159 </td> 
 <td style="width:51.75pt;"> 84.80 </td> 
 <td style="width:38.7pt;"> 84.58 </td> 
 </tr> 
 <tr> 
 <td style="border-color:#bfbfbf;vertical-align:top;width:63.55pt;"> a8a </td> 
 <td style="vertical-align:top;width:73.35pt;"> 22696,123 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 1.0650 </td> 
 <td style="vertical-align:top;width:45.25pt;"> 17.7000 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 8252 </td> 
 <td style="vertical-align:top;width:38.7pt;"> 8544 </td> 
 <td style="vertical-align:top;width:51.75pt;"> 85.12 </td> 
 <td style="vertical-align:top;width:38.7pt;"> 85.00 </td> 
 </tr> 
 </tbody> 
</table>

## 测试结论 ##

在相同数据集相同参数下，svm\_light的训练时间远远小于libsvm，支持向量略少于libsvm，准确率略高于libsvm。总的来说，svm\_light比libsvm快，效果更好。

## 附录 ##

svm\_light\_libsvm\_test.py程序还提供了libsvm\_windows和libsvm\_scale函数，二者的功能分别是：

**libsvm\_windows**:

Python调用libsvm\_windows可执行程序，在本次实验中也一并测试，由于和libsvm的 python包的测试结果差别不大，没有在表格中一同列出，测试结果都是output文件夹里。

**libsvm\_scale**:

libsvm提供了windows平台的标准化数据集的可执行程序，该函数实现了直接在Python中调用，函数说明如下

![20190817152948255.png][]

调用方式如下

![20190817152953889.png][]

结果在libsvm windows文件夹下产生标准化后的数据集train.scale，test.scale

[http_www.cs.cornell.edu_people_tj_svm_light_tdsourcetag_s_pctim_aiomsg]: http://www.cs.cornell.edu/people/tj/svm_light/?tdsourcetag=s_pctim_aiomsg
[https_www.csie.ntu.edu.tw_cjlin_libsvm]: https://www.csie.ntu.edu.tw/~cjlin/libsvm/
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzMzMTg3MTM2_size_16_color_FFFFFF_t_70]: /images/20211031/b9c02366da64473097a21d5292dd9af3.png
[20190817152948255.png]: /images/20211031/c829e3b47e6140ffae4908ef480583a2.png
[20190817152953889.png]: /images/20211031/493948640fdb427baee1bf3daa680a17.png