欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

【pytorch Embedding API使用】

程序员文章站 2022-06-13 15:52:05
...

torch.nn.Embedding

import torch
embedding=nn.Embedding(num,dim)

参数说明

1.num:vocabulary的大小
2.dim:embedding向量的维度

具体使用

使用时将self.Embedding实例化到模型的_init_(…)方法内
然后在forward()方法内使用,从而得到输入序列的词嵌入矩阵,大小为[batch_size,N,dim],N为句子长度
训练时使用pytorch的自动求导可实现Embedding矩阵的更新
这应该是叫Word2Vec?