欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

pytorch官方教程学习笔记02:AUTOGRAD自动求导

程序员文章站 2022-06-11 22:00:06
...

官网

1.创建可求梯度的:

创建一个可以求梯度的张量:requires_grad=True

x = torch.ones(2, 2, requires_grad=True)
print(x)

pytorch官方教程学习笔记02:AUTOGRAD自动求导
之后添加:

a.requires_grad_(True)

2.求Gradients:

out.backward()

则,计算out的所有的变量。都计算出了其对应的梯度,若由x计算出了out:

print(x.grad)

3.特殊,由于计算出y有分段函数,整体不是可求导的,那么:应该给定值让其求导:

v = torch.tensor([0.1, 1.0, 0.0001], dtype=torch.float)
y.backward(v)

print(x.grad)

4.detach():截断反向传播流。

相关标签: pytorch