Pytorch 存储模型的同时应该存储Adam或SGD状态

逃离我推掉我的手 2021-06-24 15:59 249阅读 0赞

完整存储模型方便再次训练

save_checkpoint({
        'epoch': epoch + 1,
        'arch': args.arch,
        'state_dict': model.state_dict(),
        'best_prec1': best_prec1,
        'optimizer' : optimizer.state_dict(),
    }, is_best)
    
    
    def save_checkpoint(state, is_best, filename='checkpoint.pth.tar'):
        torch.save(state, filename)
        if is_best:
            shutil.copyfile(filename, 'model_best.pth.tar')

if args.resume:
        if os.path.isfile(args.resume):
            print("=> loading checkpoint '{}'".format(args.resume))
            checkpoint = torch.load(args.resume)
            args.start_epoch = checkpoint['epoch']
            best_prec1 = checkpoint['best_prec1']
            model.load_state_dict(checkpoint['state_dict'])
            optimizer.load_state_dict(checkpoint['optimizer'])
            print("=> loaded checkpoint '{}' (epoch {})"
                  .format(args.resume, checkpoint['epoch']))
        else:
            print("=> no checkpoint found at '{}'".format(args.resume))

发表评论取消回复

表情：

评论列表（有 0 条评论，249人围观）

还没有评论，来说两句吧...

相关阅读

相关优化方法总结以及Adam存在的问题(SGD, Momentum, AdaDelta, Adam, AdamW，LazyAdam)

优化方法总结以及Adam存在的问题(SGD, Momentum, AdaDelta, Adam, AdamW，LazyAdam) 2019年05月29日 01:07:50

分手后的思念是犯贱/ 2023年06月04日 02:50/ 0 赞/ 29 阅读

相关常用的Optimizer：SGD、SGDM、Adagrad、RMSProp、Adam

常用的Optimizer：SGD、SGDM、Adagrad、RMSProp、Adam 下面记了几种：SGD、SGDM、Adagrad、RMSProp、Adam !

男娘i/ 2023年01月18日 06:48/ 0 赞/ 13 阅读

相关 Kafka的存储模型

有部分内容转自[https://www.jianshu.com/p/3e54a5a39683][https_www.jianshu.com_p_3e54a5a39683]这篇讲

ゝ一纸荒年。/ 2022年11月29日 05:58/ 0 赞/ 169 阅读

相关 PyTorch的十个优化器（SGD，ASGD，Rprop，Adagrad，Adadelta，RMSprop，Adam(AMSGrad)，Adamax，SparseAdam，LBFGS）

本文截取自《PyTorch 模型训练实用教程》，获取全文pdf请点击：https://github.com/tensor-yu/PyTorch\_Tutorial 文章目录

本是古典何须时尚/ 2022年10月29日 07:53/ 0 赞/ 265 阅读

相关 RocketMQ存储模型

RocketMQ存储模型简介存储模型 CommitLog ConsumerQueue

古城微笑少年丶/ 2022年10月19日 04:21/ 0 赞/ 199 阅读

相关 SQLite 存储模型(2)

写在前面：接上一节，本节主要讨论索引页面格式，以及索引与查询优化的关系。 (1)索引页面格式 sqlite> select \ from sqlite\_mast

分手后的思念是犯贱/ 2022年07月26日 12:21/ 0 赞/ 198 阅读

相关 [work] 优化方法总结：SGD，Momentum，AdaGrad，RMSProp，Adam

1. SGD Batch Gradient Descent 在每一轮的训练过程中，Batch Gradient Descent算法用整个训练集的数据计算cost f

ゝ一纸荒年。/ 2022年05月10日 23:26/ 0 赞/ 233 阅读

相关优化方法总结：SGD，Momentum，AdaGrad，RMSProp，Adam

本文转自：[https://blog.csdn.net/u010089444/article/details/76725843][https_blog.csdn.net_u01

我会带着你远行/ 2022年05月09日 14:33/ 0 赞/ 204 阅读

相关 Hbase的存储模型

LSM思想： LSM的基本思想是将修改的数据保存在内存，达到一定数量后在将修改的数据批量写入磁盘，在写入的过程中与之前已经存在的数据做合并。同B树存储模型一样，LSM存储

深碍√TFBOYSˉ_/ 2022年01月15日 13:17/ 0 赞/ 256 阅读

相关 Pytorch 存储模型的同时应该存储Adam或SGD状态

完整存储模型方便再次训练 save_checkpoint({ 'epoch': epoch + 1, 'arch': args.arc

逃离我推掉我的手/ 2021年06月24日 15:59/ 0 赞/ 250 阅读