矩阵QKV的每一行是一个样本，还是一个词向量？

首页课程实战体系课手记专栏慕课教程

矩阵QKV的每一行是一个样本，还是一个词向量？

来源：10-12 Encoder-Decoder架构与缩放点击注意力

慕标9016513

2021-12-01

老师说QKV是三个矩阵，矩阵的每一行都是一个样本，是不是说错了？

应该是每一行都是一个词向量吧？

样本不是要翻译的每一句话吗？

搜索

复制

写回答

1回答

正十七

正十七

2021-12-07

同学你好，你说的对，每一行都是一个词向量，整体才是样本。

0

0

Google老师亲授 TensorFlow2.0 入门到进阶

Tensorflow2.0实战—以实战促理论的方式学习深度学习

1849 学习 · 896 问题

相似问题

多项式的矩阵化？

回答 3

vocab_size = 10000

回答 1

为什么每次的训练结果都不一样呢？

回答 2

为何双向循环神经网络的return_sequences=False时，参数量依旧不变？

回答 1

老师每次load完data都直接进行操作，我经常要花很多时间弄清楚data是什么type

回答 1

打开慕课网App查看更多内容