欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

tensorflow在训练过程中逐步减少学习率

程序员文章站 2022-07-13 12:41:57
...

# 声明学习率为不可训练
learning_rate = tf.Variable(float(learning_rate), trainable=False, dtype=tf.float32)
# 学习率递减操作,这里表示每次学习率变成上一次的0.9倍
learning_rate_decay_op = learning_rate.assign(learning_rate * 0.9)

#训练过程中根据loss情况来执行学习率递减操作
if ....:  #这里设置一个需要衰减学习率的条件
    sess.run(learning_rate_decay_op)
相关标签: tensorflow