NLP理论实践问题记录

以你之姓@ 2022-01-09 13:15 272阅读 0赞

### 问题记录 ###

*  Task1 问题
 *   *  1 当训练样本很多的时候，每次打开程序再次读取都要耗费很长的时间，持久化的话可否压缩占用的空间，有没有更好地节约时间的方法？
     *  2 训练好的模型怎么保存及重新调用
     *  3 TensorFlow 2.0和1.0的选择
     *  4 cnews\_loader中的batch\_iter方法，默认batch\_size默认64，模型代码中验证使用了128，没见过用100，200这种随机的，batchsize选择的依据是什么？

# Task1 问题 #

## 1 当训练样本很多的时候，每次打开程序再次读取都要耗费很长的时间，持久化的话可否压缩占用的空间，有没有更好地节约时间的方法？ ##

1、pickle保存是模型保存  
2、正确的回答：数据量大是一个模糊的概念。如果数据量小于内存的大小。一次读的问题不大。只不过在代码调试阶段使用小数据调试。正式运行使用全部数据。如果数据量大于内存的大小。可以使用批量读取的方式，或者先编写一个程序把大文件分成若干份。同时，在开发中，数据库使用的越来越多。如果把数据文件提前写入数据库。则可以使用并行的方式批量处理数据。完成数据预处理等过程。这些都是可以使用的方式。

## 2 训练好的模型怎么保存及重新调用 ##

keras模型主要分为model和weight两个部分  
\#保存模型  
\#\#仅保存权重HDF5文件  
model.save\_weights(“model.h5”)  
\#\#保存整个模型及结构  
model.save(‘model\_weight.h5’)

\#加载模型\#  
\#\#载入权重  
loaded\_model.load\_weights(“model.h5”)  
\#\#载入整个模型结构  
model = load\_model(‘model.h5’)

> [https://blog.csdn.net/sjtuxx\_lee/article/details/80399514][https_blog.csdn.net_sjtuxx_lee_article_details_80399514]

\#tensorflow设置模型储存前10  
sess = tf.Session()  
model\_path = ‘’ \#保存的模型路径  
saver = tf.train.Saver(max\_to\_keep=10)  
saver.save(sess, model\_path)  
模型的恢复用restore()函数  
saver.restore(sess, model\_path)

每次训练后，计算 F1值，然后和之前最优的 F1 值进行比较，如果大于的话，就对该模型进行保存。

## 3 TensorFlow 2.0和1.0的选择 ##

Google在最近推出了全新的版本TensorFlow 2.0，2.0版本相比1.0版本不是简单地更新，而是一次重大升级（虽然目前只发布了preview版本）。简单地来说，TensorFlow 2.0默认采用eager执行模式，而且重整了很多混乱的模块。毫无疑问，2.0版本将会逐渐替换1.0版本。

但是按先阶段的行情来看， tf 1 还是 很多开发者的主要工具，所以 tf 1 到 tf 2 还是一个过渡过程，建议先学 tf1 ,成熟的资料比价多

## 4 cnews\_loader中的batch\_iter方法，默认batch\_size默认64，模型代码中验证使用了128，没见过用100，200这种随机的，batchsize选择的依据是什么？ ##

batchsize不是必须为2的幂次，不过一般都是按照2的幂次的方式来设定。一般来说都是解释:  
计算机中CPU和GPU的memory都是2进制方式存储，将batchsize设置成2的幂次可以加快二进制的计算。

[https_blog.csdn.net_sjtuxx_lee_article_details_80399514]: https://blog.csdn.net/sjtuxx_lee/article/details/80399514