attention机制中的attention权重怎么学出来的？

首页课程实战体系课手记专栏慕课教程

attention机制中的attention权重怎么学出来的？

来源：2-11 wide_deep模型

慕九州9175731

2019-07-20

老师您好：
请教一个与课程不太相关的问题：attention机制中attention权重是依据什么学出来的？这个学习机制是一个监督模型还是非监督模型呢？

写回答

1回答

正十七

正十七

2019-07-21

其实是课程相关，我们会在最后一节课讲attention相关的知识点。attention权重也是学习出来的。

0

0

Google老师亲授 TensorFlow2.0 入门到进阶

Tensorflow2.0实战—以实战促理论的方式学习深度学习

1849 学习 · 896 问题

相似问题

attention机制的实现

回答 1

Multi-Head Attention图示中，QKV为什么先接一个Linear再到Scaled Dot-Product Attention？

回答 1

为什么z1中会有x2的信息呢？

回答 1

这里维度彻底懵了

回答 1

关于decoder中的QKV问题

回答 2

打开慕课网App查看更多内容