超参数调节

雨点打透心脏的1/2处 2022-05-19 05:26 259阅读 0赞

1.网格搜索参数GridSearchCV 类

  1. class sklearn.model_selection.GridSearchCV(estimator, param_grid, scoring=None, fit_params=None, n_jobs=1, 
  2. iid=True, refit=True, cv=None, verbose=0, pre_dispatch=‘2*n_jobs’, error_score=’raise’, return_train_score=’warn’)
  1. estimator ： 分类器
  2. param_grid : 需要调参的参数。格式为：param_grid = {‘criterion’: [‘gini’, ‘entropy’],
    ‘max_depth’: [2,3,4,5,6],
    ‘min_samples_split’:[2,3,4,5,6],
    ‘min_samples_leaf’:[2,3,4,5,6]
    }
  3. scoring: 模型评分标准：如下
  4. refit : 默认为True ，在搜索参数结束后，用最佳参数结果再次fit一遍全部数据集
  5. cv： 交叉验证参数，默认为3折
  6. verbose：日志冗长度，int：冗长度，0：不输出训练过程，1：偶尔输出，>1：对每个子模型都输出
  7. pre_dispatch=‘2\n_jobs’：* 指定总共分发的并行任务数。

scoring参数：分类、聚类和回归的评估方法都有。

  1. ['accuracy', 'adjusted_mutual_info_score', 'adjusted_rand_score', 'average_precision', 'completeness_score',
  2.  'explained_variance', 'f1', 'f1_macro', 'f1_micro', 'f1_samples', 'f1_weighted', 'fowlkes_mallows_score',
  3.  'homogeneity_score', 'mutual_info_score', 'neg_log_loss', 'neg_mean_absolute_error', 'neg_mean_squared_error',
  4.  'neg_mean_squared_log_error', 'neg_median_absolute_error', 'normalized_mutual_info_score', 'precision', 'precision_macro', 
  5. 'precision_micro', 'precision_samples', 'precision_weighted', 'r2', 'recall', 'recall_macro', 'recall_micro', 
  6. 'recall_samples', 'recall_weighted', 'roc_auc', 'v_measure_score']

具体含义可以参考：http://sklearn.apachecn.org/cn/0.19.0/modules/model_evaluation.html#scoring-parameter

2.使用网格搜索：

需要我们人工手动输入的参数称为超参数， 进行超参数的选择的过程叫做调参。

  1. #coding=gbk
  2. #调整估计器的超参数,进行超参数的选择的过程叫做调参
  4. #1，网格搜索方法 GridSearchCV
  5. from sklearn import datasets
  6. from sklearn.model_selection import train_test_split
  7. from sklearn.svm import SVC
  8. from sklearn.metrics import classification_report 
  10. from sklearn.model_selection import GridSearchCV    #导入网格搜索方法的包
  11. # Each datapoint is a 8x8 image of a digit. 每一个数据点都是 8x8 的像素点
  12. digits = datasets.load_digits()
  13. print(digits.data.shape)    # (1797, 64)
  14. print(digits.data[:5,:])
  16. # import matplotlib.pyplot as plt 
  17. # plt.gray() 
  18. # plt.matshow(digits.images[3]) 
  19. # plt.show() 
  20. n_samples = len(digits.images)
  21. print(n_samples)    # 1797
  22. X = digits.data
  23. y = digits.target
  24. print(y[:5])    #[0 1 2 3 4] 对应的数字
  26. X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.5, random_state=0)
  28. param_grid = [{
  29.     'kernel':['rbf'],
  30.     'gamma':[1e-3, 1e-4],
  31.     'C':[1, 10,100,1000]
  32.     },{
  33.         'kernel':['linear'],
  34.         'C':[1, 10,100,1000]
  35.         }]
  36. scores =['precision', 'recall']
  37. for score in scores :
  38.     print('score %s' %score)
  39.     print('------')
  40.     clf = GridSearchCV(SVC(), param_grid, cv=5, scoring='%s_macro'%score)   
  41.     clf.fit(X_train, y_train)
  42.     print('best params is :')
  43.     print(clf.best_params_)
  44.     print('grid score')
  45.     print()
  46.     means = clf.cv_results_['mean_test_score']
  47.     stds = clf.cv_results_['std_test_score']
  49.     for mean, std, params in zip(means, stds, clf.cv_results_['params']):
  50.         print('%.3f (+-/%0.03f) for %r'%(mean, std*2, params))
  52.     print('-----')
  53.     print('classification report')
  54.     y_true, y_pred = y_test, clf.predict(X_test)
  55.     report = classification_report(y_true, y_pred)
  56.     print(report)

输出结果：

  1. score precision
  2. ------
  3. best params is :
  4. {'kernel': 'rbf', 'gamma': 0.001, 'C': 10}
  5. grid score
  7. 0.986 (+-/0.016) for {'kernel': 'rbf', 'gamma': 0.001, 'C': 1}
  8. 0.959 (+-/0.029) for {'kernel': 'rbf', 'gamma': 0.0001, 'C': 1}
  9. 0.988 (+-/0.017) for {'kernel': 'rbf', 'gamma': 0.001, 'C': 10}
  10. 0.982 (+-/0.026) for {'kernel': 'rbf', 'gamma': 0.0001, 'C': 10}
  11. 0.988 (+-/0.017) for {'kernel': 'rbf', 'gamma': 0.001, 'C': 100}
  12. 0.982 (+-/0.025) for {'kernel': 'rbf', 'gamma': 0.0001, 'C': 100}
  13. 0.988 (+-/0.017) for {'kernel': 'rbf', 'gamma': 0.001, 'C': 1000}
  14. 0.982 (+-/0.025) for {'kernel': 'rbf', 'gamma': 0.0001, 'C': 1000}
  15. 0.975 (+-/0.014) for {'kernel': 'linear', 'C': 1}
  16. 0.975 (+-/0.014) for {'kernel': 'linear', 'C': 10}
  17. 0.975 (+-/0.014) for {'kernel': 'linear', 'C': 100}
  18. 0.975 (+-/0.014) for {'kernel': 'linear', 'C': 1000}
  19. -----
  20. classification report
  21.              precision    recall  f1-score   support
  23.           0       1.00      1.00      1.00        89
  24.           1       0.97      1.00      0.98        90
  25.           2       0.99      0.98      0.98        92
  26.           3       1.00      0.99      0.99        93
  27.           4       1.00      1.00      1.00        76
  28.           5       0.99      0.98      0.99       108
  29.           6       0.99      1.00      0.99        89
  30.           7       0.99      1.00      0.99        78
  31.           8       1.00      0.98      0.99        92
  32.           9       0.99      0.99      0.99        92
  34. avg / total       0.99      0.99      0.99       899
  36. score recall
  37. ------
  38. best params is :
  39. {'kernel': 'rbf', 'gamma': 0.001, 'C': 10}
  40. grid score
  42. 0.986 (+-/0.019) for {'kernel': 'rbf', 'gamma': 0.001, 'C': 1}
  43. 0.957 (+-/0.029) for {'kernel': 'rbf', 'gamma': 0.0001, 'C': 1}
  44. 0.987 (+-/0.019) for {'kernel': 'rbf', 'gamma': 0.001, 'C': 10}
  45. 0.981 (+-/0.028) for {'kernel': 'rbf', 'gamma': 0.0001, 'C': 10}
  46. 0.987 (+-/0.019) for {'kernel': 'rbf', 'gamma': 0.001, 'C': 100}
  47. 0.981 (+-/0.026) for {'kernel': 'rbf', 'gamma': 0.0001, 'C': 100}
  48. 0.987 (+-/0.019) for {'kernel': 'rbf', 'gamma': 0.001, 'C': 1000}
  49. 0.981 (+-/0.026) for {'kernel': 'rbf', 'gamma': 0.0001, 'C': 1000}
  50. 0.972 (+-/0.012) for {'kernel': 'linear', 'C': 1}
  51. 0.972 (+-/0.012) for {'kernel': 'linear', 'C': 10}
  52. 0.972 (+-/0.012) for {'kernel': 'linear', 'C': 100}
  53. 0.972 (+-/0.012) for {'kernel': 'linear', 'C': 1000}
  54. -----
  55. classification report
  56.              precision    recall  f1-score   support
  58.           0       1.00      1.00      1.00        89
  59.           1       0.97      1.00      0.98        90
  60.           2       0.99      0.98      0.98        92
  61.           3       1.00      0.99      0.99        93
  62.           4       1.00      1.00      1.00        76
  63.           5       0.99      0.98      0.99       108
  64.           6       0.99      1.00      0.99        89
  65.           7       0.99      1.00      0.99        78
  66.           8       1.00      0.98      0.99        92
  67.           9       0.99      0.99      0.99        92
  69. avg / total       0.99      0.99      0.99       899

实际当中有用的参数，以clf表示我们的GridSearchCV对象

clf.best_params_ 返回最好的参数

clf.best_score_ 返回最好的测试分数，它的值和 clf.cv_results_[‘mean_test_score’][dt_grid.best_index_] 是相同的。

clf.best_index_ 返回列表中分数最好的下表

clf.best_estimator_ 返回最好的模型

grid_scores_ 在sklearn 0.18中已经不赞成使用了，用下面的cv_results_来代替

clf.cv_results_ 返回使用交叉验证进行搜索的结果，它本身又是一个字典，里面又有很多内容，我们来看一下上面的clf.cv_results_.keys()里面有什么：

  1. dict_keys(
  2. ['mean_fit_time', 'std_fit_time', 'mean_score_time', 'std_score_time', 
  3. 'param_C', 'param_gamma', 'param_kernel', 'params', 
  4. 'split0_test_score', 'split1_test_score', 'split2_test_score', 'split3_test_score', 'split4_test_score',
  5. 'mean_test_score', 'std_test_score', 'rank_test_score', 
  6. 'split0_train_score', 'split1_train_score', 'split2_train_score', 'split3_train_score', 'split4_train_score', 
  7. 'mean_train_score', 'std_train_score'] )

可以分为上面几类： 第一类是时间， 第二类是参数， 第三类是测试分数，其中又分为每次交叉验证的参数和统计的参数，第四类是训练分数，其中也分为每次交叉验证的参数和统计的参数。

参考：https://www.cnblogs.com/jiaxin359/p/8641976.html#_labelTop

http://sklearn.apachecn.org/cn/0.19.0/modules/grid_search.html#grid-search-tips

发表评论

表情：
评论列表 （有 0 条评论，259人围观）

还没有评论，来说两句吧...

相关阅读

    相关 常用的超参数

    一.概念     通俗的理解是神经网络中的参数指的是那些通过训练可以进行调节的参数.比如权重和偏置量.超参数指的是在训练之前需要手工设定的,不断试错调整的参数. 二.

    我就是我我就是我/ 0 赞/ 334 阅读

    相关 调节心情？

    今天同事们大多来上班了，和前2天的冷清相比，热闹许多，呵呵，但其实我比较喜欢安静。一个同事早上和我打招呼，还垂头丧气的，说有3件事情很失落，我告诉他，年刚过完阿，新的一年开始了

    叁歲伎倆叁歲伎倆/ 0 赞/ 526 阅读