tensorflow 变量简单存储与恢复

谁借莪１个温暖的怀抱￠ 2022-06-08 02:22 124阅读 0赞

**原文链接：http://blog.csdn.net/qiqiaiairen/article/details/53184216**

**class tf.train.Saver**

保存和恢复变量

最简单的保存和恢复模型的方法是使用tf.train.Saver 对象。构造器给graph 的所有变量，或是定义在列表里的变量，添加save 和 restore ops。saver 对象提供了方法来运行这些ops，定义检查点文件的读写路径。

检查点是专门格式的二进制文件，将变量name 映射到 tensor value。检查checkpoin 内容最好的方法是使用Saver 加载它。

Savers 可以使用提供的计数器自动计数checkpoint 文件名。这可以是你在训练一个模型时，在不同的步骤维持多个checkpoint。例如你可以使用 training step number 计数checkpoint 文件名。为了避免填满硬盘，savers 自动管理checkpoint 文件。例如，你可以最多维持N个最近的文件，或者没训练N小时保存一个checkpoint.

通过传递一个值给可选参数 global\_step ，你可以编号checkpoint 名字。

**\[python\]**  [view plain][]   [copy][view plain]

1.  saver.save(sess, 'my-model', global\_step=0) ==>filename: 'my-model-0'  
2.  saver.save(sess, 'my-model', global\_step=1000) ==>filename: 'my-model-1000'

另外，Saver() 构造器可选的参数可以让你控制硬盘上 checkpoint 文件的数量。

*  max\_to\_keep:  表明保存的最大checkpoint 文件数。当一个新文件创建的时候，旧文件就会被删掉。如果值为None或0，表示保存所有的checkpoint 文件。默认值为5（也就是说，保存最近的5个checkpoint 文件）。
 *  keep\_checkpoint\_every\_n\_hour:  除了保存最近的max\_to\_keep checkpoint 文件，你还可能想每训练N小时保存一个checkpoint 文件。这将是非常有用的，如果你想分析一个模型在很长的一段训练时间内是怎么改变的。例如，设置 keep\_checkpoint\_every\_n\_hour=2 确保没训练2个小时保存一个checkpoint 文件。默认值10000小时无法看到特征。

注意，你仍然必须调用save() 方法去保存模型。传递这些参数给构造器并不会自动为你保存这些变量。

一个定期保存的训练程序如下这样：

**\[python\]**  [view plain][]   [copy][view plain]

1.  \#Create a saver  
2.  saver=tf.train.Saver(...variables...)  
3.  \#Launch the graph and train, saving the model every 1,000 steps.  
4.  sess=tf.Session()  
5.  **for** step **in** xrange(1000000):  
6.      sess.run(...training\_op...)  
7.      **if** step % 1000 ==0:  
8.          \#Append the step number to the checkpoint name:  
9.          saver.save(sess,'my-model',global\_step=step)

除了checkpoint 文件之外，savers 还在硬盘上保存了一个协议缓存，存储最近的checkpoint 列表。这用于管理 被编号的checkpoint 文件，并且通过latest\_checkpoint() 可以很容易找到最近的checkpoint 的路径。协议缓存存储在紧挨checkpoint 文件的名为 'checkpoint' 的文件中。

如果你创建了几个savers，你可以调用save() 指定协议缓存的文件名。

**tf.train.Saver.\_\_init\_\_**(var\_list=None, reshape=False, shared=False, max\_to\_keep=5, keep\_checkpoint\_every\_n\_hour=10000.0, name=None, restore\_sequentially=False, saver\_def=None, builder=None)

创建一个Saver

构造器添加操作去保存和恢复变量。

var\_list 指定了将要保存和恢复的变量。它可以传dict 或者list

*  变量名字的dict： key 是将用来在checkpoint 文件中存储和恢复的变量的名称。
 *  变量的list:  变量的 op name

例如：

**\[python\]**  [view plain][]   [copy][view plain]

1.  v1=tf.Variable(..., name='v1')  
2.  v2=tf.Variable(..., name='v2')  
3.    
4.  \# Pass the variables as a dict:  
5.  saver=tf.train..Saver(\{ 'v1':v1, 'v2':v2\})  
6.  \# Or pass them as a list  
7.  saver=tf.train..Saver(\[v1,v2\])  
8.  \# Passing a list is equivalent to passing a dict with the variable op names as keys:  
9.  saver=tf.train..Saver(\{v.op.name: v **for** v **in** \[v1,v2\]\})

可选参数 reshape ，如果为True，允许从保存文件中恢复一个不同shape 的变量，但元素的数量和type一致。如果你reshap 了一个变量而又想从一个旧的文件中恢复，这是非常有用的。

可选参数 shared，如果为True，通知每个设备上共享的checkpoint.

**tf.train.Saver.save**(sess, save\_path, global\_step=None, latest\_filename=None, meta\_graph\_suffix='meta', write\_meta\_graph=True)

保存变量

这个方法运行通过构造器添加的操作。它需要启动图的session。被保存的变量必须经过了初始化。

方法返回新建的checkpoint 文件的路径。路径可以直接传给restore() 进行调用。

参数：

*  sess:  用于保存变量的Session
 *  save\_path:  checkpoint 文件的路径。如果saver 是共享的，这是共享checkpoint 文件名的前缀。
 *  global\_step:  如果提供了global step number，将会追加到 save\_path 后面去创建checkpoint 的文件名。可选参数可以是一个Tensor，一个name Tensor或integer Tensor.

返回值：

一个字符串：保存变量的路径。如果saver 是被共享的，字符串以'-?????-of-nnnnn' 结尾。'nnnnn' 是共享的数目。

保存变量

用tf.train.Saver() 创建一个Saver 来管理模型中的所有变量。

**\[python\]**  [view plain][]   [copy][view plain]

1.  \#!/usr/bin/env python  
2.  \# coding=utf-8  
3.    
4.  **import** os  
5.  **import** tensorflow as tf  
6.    
7.  \# Create some variables.  
8.  v1=tf.Variable(\[\[1,1\],\[2,2\],\[3,3\]\],name="v1")  
9.  v2=tf.Variable(\[\[4,4\],\[5,5\],\[6,7\]\],name="v2")  
10. \# Add an op to initialize the variables.  
11. init\_op=tf.initialize\_all\_variables()  
12. \# Add ops to save and restore all the variables.  
13. saver=tf.train.Saver()  
14. \# Later, launch the model, initialize the variables, do some work, save the variables to disk.  
15. with tf.Session() as sess:  
16.     sess.run(init\_op)  
17.     \# Do some work with the model.  
18.     save\_path=saver.save(sess,"/home/yhk/tmp/test/model.ckpt")  
19.     **print** "Model saved in file: ", save\_path

![20161116162629687][]

![20161116162756922][]

如果你不给tf.train.Saver() 传入任何参数，那么server 将处理graph 中的所有变量。其中每一个变量都以变量创建时传入的名称被保存。

**tf.train.Saver.restore(sess, save\_path)**

恢复之前保存的变量

这个方法运行构造器为恢复变量所添加的操作。它需要启动图的Session。恢复的变量不需要经过初始化，恢复作为初始化的一种方法。

save\_path 参数是之前调用save() 的返回值，或调用 latest\_checkpoint() 的返回值。

参数：

*  sess:  用于恢复参数的Session
 *  save\_path:  参数之前保存的路径
 *

[view plain]: http://blog.csdn.net/qiqiaiairen/article/details/53184216#
[20161116162629687]: /images/20220608/fcdef0be45494c659abd63a21d34760f.png
[20161116162756922]: /images/20220608/7c61b3723c0640e68c8a5ae9ac3135d0.png