RNN-LSTM:1万个单词与650个词向量关系

来源:4-30 动手实现RNN-LSTM循环神经网络(六):编写神经网络模型(中)1

payzul

2018-03-27

老师你好:
课程中提到,一万个单词映射到650个词向量中。 

一万个单词是怎么映射的呢? 是要从1万个中选择650个单词再映射么? 还是因为向量的特性,1万个也可以映射到650个神经元中?   之后还提到onehot 编码映射到词向量中? 这个再能解释一下么,不太明白?

写回答

2回答

Oscar

2018-04-03

是要从1万个中选择650个单词再映射么?当然不是啦。

onehot 编码 就是这里提到的比如 10000 个单词需要 10000 个不同的 onehot 编码。

词向量可以说是另一种表述形式。

TensorFlow 官网对词向量有一些解释:

https://www.tensorflow.org/programmers_guide/embedding

https://www.tensorflow.org/tutorials/word2vec


推荐大家也去看一些专题,例如:

知乎:word2vec

0
0

梦人

2018-03-29

我的理解:不准之处欢迎拍砖。

类似于矩阵,650个词向量就是行数是650行,如下图横着的一行就是一个向量。

列数的就是向量维度,相当于矩阵的秩 

10000个单词,650行,大概可以有(10000  /650)向上取整数。

0
0

基于Python玩转人工智能最火框架 TensorFlow应用实践

机器学习入门,打牢TensorFlow框架应用是关键!

2214 学习 · 688 问题

查看课程