关于数据归一化
来源:2-5 实战分类模型之数据归一化
qq_慕沐932272
2020-03-21
我主要想问一下为什么要进行数据归一化,归一化后loss确实小了,而且感觉收敛得更快了。
我是这样理解的,就是数据没有归一化之前,是不均匀的感觉,不同维度不太一样,如果两个纬度的话,损失函数的图像像个椭圆,归一化之后更像是一个圆形,梯度下降更快,更稳定
这样理解的对嘛
写回答
1回答
-
同学你好,你理解的很对,归一化之后确实是椭圆和圆的区别。
还有另外一点是归一化之后值的分布变得更均匀了一些。有利于梯度的求解。
10