关于Pytorch模型参数的保存和加载浅谈

浅浅的花香味﹌ 2024-03-23 22:10 88阅读 0赞

![386.jpg][]![39.jpg][]![88.jpg][] ![39.jpg][]

pytorch中state\_dict()和load\_state\_dict()函数配合使用可以实现状态的获取与重载，load()和save()函数配合使用可以实现参数的存储与读取，这篇文章主要介绍了Pytorch模型参数的保存和加载,需要的朋友可以参考下

### 一、导读 ###

在模型训练完成后，我们需要保存模型参数值用于后续的测试过程。由于保存整个模型将耗费大量的存储，故推荐的做法是只保存参数，使用时只需在建好模型的基础上加载。

通常来说，保存的对象包括**网络参数值、优化器参数值、epoch值**等。本文将简单介绍保存和加载模型参数的方法，同时也给出保存整个模型的方法供大家参考。

### 二、参数保存 ###

在这里我们使用 torch.save() 函数保存模型参数：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> <p>3</p> </td> 
   <td> <p><code>import</code> <code>torch</code></p> <p><code>path </code><code>=</code> <code>'./model.pth'</code></p> <p><code>torch.save(model.state_dict(), path)</code></p> </td> 
  </tr> 
 </tbody> 
</table>

**model**——指定义的模型实例变量，如model=net( )

**state\_dict()**——state\_dict( )是一个可以轻松地保存、更新、修改和恢复的python字典对象, 对于model来说，表示模型的每一层的权重及偏置等参数信息；对于 optimizer 来说，其包含了优化器的状态以及被使用的超参数(如lr, momentum,weight\_decay等)

**path**——path是保存参数的路径，一般设置为 path='./model.pth' , path='./model.pkl'等形式。

此外，如果想保存某一次训练采用的optimizer、epochs等信息，可将这些信息组合起来构成一个字典保存起来：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> <p>3</p> <p>4</p> </td> 
   <td> <p><code>import</code> <code>torch</code></p> <p><code>path </code><code>=</code> <code>'./model.pth'</code></p> <p><code>state </code><code>=</code> <code>{ </code><code>'model'</code><code>: model.state_dict(), </code><code>'optimizer'</code><code>: optimizer.state_dict(), </code><code>'epoch'</code><code>: epoch}</code></p> <p><code>torch.save(state, path)</code></p> </td> 
  </tr> 
 </tbody> 
</table>

### 三、参数的加载 ###

使用 load\_state\_dict()函数加载参数到模型中， 当仅保存了模型参数，而没有optimizer、epochs等信息时：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> </td> 
   <td> <p><code>model.load_state_dict(torch.load(path))</code></p> </td> 
  </tr> 
 </tbody> 
</table>

**model**——事先定义好的跟原模型一致的模型

**path**——之前保存的模型参数文件

如若保存了optimizer、epochs等信息，我们这样载入信息：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> <p>3</p> <p>4</p> <p>5</p> <p>6</p> </td> 
   <td> <p><code># 使用torch.load()函数将文件中字典信息载入 state_dict 变量中</code></p> <p><code>state_dict </code><code>=</code> <code>torch.load(path)</code></p> <p><code># 分布加载参数到模型和优化器</code></p> <p><code>model.load_state_dict(state_dict[</code><code>'model'</code><code>])</code></p> <p><code>optimizer.load_state_dict(state_dict[</code><code>'optimizer'</code><code>])</code></p> <p><code>epoch </code><code>=</code> <code>state_dict([</code><code>'epoch'</code><code>])</code></p> </td> 
  </tr> 
 </tbody> 
</table>

我们还可以在每n个epoch后保存一次参数，以观察不同迭代次数模型的表现**。**此时我们可设置不同的path，如 path='./model' + str(epoch) +'.pth'，这样，不同epoch的参数就能保存在不同的文件中。

### 四、保存和加载整个模型 ###

使用上文提到的方法即可：

<table> 
 <tbody> 
  <tr> 
   <td> <p>1</p> <p>2</p> </td> 
   <td> <p><code>torch.save(model, path)</code></p> <p><code>model </code><code>=</code> <code>torch.load(path)</code></p> </td> 
  </tr> 
 </tbody> 
</table>

### 五、总结 ###

pytorch中state\_dict()和load\_state\_dict()函数配合使用可以实现**状态的获取与重载**，load()和save()函数配合使用可以实现**参数的存储与读取**。掌握对应的函数使用方法就可以游刃有余地进行运用。

到此这篇关于Pytorch模型参数的保存和加载的文章就介绍到这了,更多

转自：[微点阅读][Link 1] [https://www.weidianyuedu.com][https_www.weidianyuedu.com]

[386.jpg]: https://images.weidianyuedu.com/thumb/5/386.jpg
[39.jpg]: https://images.weidianyuedu.com/thumb/39.jpg
[88.jpg]: https://images.weidianyuedu.com/thumb/3/88.jpg
[Link 1]: https://m.weidianyuedu.com/
[https_www.weidianyuedu.com]: https://www.weidianyuedu.com