欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Bool value of Tensor with more than one value is ambiguous

程序员文章站 2022-05-27 12:46:30
...

在跟随 https://juejin.im/post/5b9f1af0e51d450e425eb32d 这篇文章搭建transformer的时候出现了报错:
Bool value of Tensor with more than one value is ambiguous
提示是在行:

if mask_attn
	...

mask_attn是一个boolean矩阵,用来对query和key相乘之后对attention矩阵进行mask处理,在这个方法内部对默认值是None

解决方法,改为:

if mask is not None:
	...