关于矩阵的求导
来源:1-2 课程学习的更多补充说明
code_bean
2022-06-09
老师,请问您有没有讲过这方面的内容呀?感觉深度学习里面这方面的应用比较多。
而我对矩阵求导一点感觉都没有。
写回答
1回答
-
我的课程暂时没有涉及矩阵微积分的内容。
==========
矩阵求导通常不是线性代数的内容,而是高等数学的内容,更准确地说,是多元微积分相关的内容。
不过通常,对于高等数学的学习,多元微积分部分,会更偏向“函数侧”的分析(处理多元函数),而非“矩阵侧”的分析(处理多元变量)。但这类多元微积分的内容依然是基础,比如 MIT 的多元微积分的大纲,你可以简单浏览一下其中涉及的内容:https://ocw.mit.edu/courses/18-02-multivariable-calculus-fall-2007/pages/lecture-notes/
在这个基础上,因为深度学习的火热,现在已经有了非常多的教程,直接介绍深度学习中专门是用的多元微积分(矩阵微积分)的内容。在这里我推荐两份:
1)fast.ai 的一份文档,专门介绍深度学习中使用的矩阵微积分的内容。
传送门:https://explained.ai/matrix-calculus/
2)MIT 的一分矩阵微积分的课程相关的资料:
传送门:https://github.com/mitmath/matrixcalc
继续加油!:)
192024-02-07
相似问题