在线学习的模型是如何进行分批次更新模型的?
来源:2-4 批量学习,在线学习,参数学习和非参数学习
神经旷野舞者
2017-12-24
老师,课程里说在线学习是分批地送进新数据,是不是说批量学习如果更新的话是把所有更新的数据加到旧数据里打包再次喂给机器学习算法?而在线学习的更新则是每次只喂给新更新的数据包?
那么在线学习的模型是怎么更新的,模型怎么会变得原来越好的,每次产生的模型应该是彼此独立的,因为每次送进的数据是新数据而没有包含旧的数据,算法是怎么利用起以前数据使得模型越来越好的?是不是批量学习重新喂的数据不包含旧数据时,批量学习就变成了在线学习?
写回答
1回答
-
这个课程本身没有重点讲在线学习,不过随机梯度下降法本身就是很好的在线学习方式。学习了梯度下降法一章后,或许就会理解如何只通过新的数据来更新模型,让模型越来越好。此时新的数据用于改进原有模型的参数,而不是生成新的模型,所以没有“模型间彼此独立不独立”的问题。旧的数据体现在旧的模型参数上。
042017-12-25
相似问题