tensorflow定点运算

来源:3-30 卷积神经网的压缩方法

qq_夏威夷_2

2019-08-04

老师,关于你提到的tensorflow 模型量化层的内容,在tensorflow中,将浮点数定点化做完运算后,然后再通过一定的处理将定点数还原到原来的浮点数作为输出的这步操作有些不明白。为什么还要将定点数还原到浮点数呢?

写回答

1回答

会写代码的好厨师

2019-08-06

tensorflow的定点化分成两种,一直是训练后定电化,这种只是对参数做了量化,再实际运算的时候需要先转成浮点数再运算,所以用训练后量化模型大小会变小,但是计算时间不会节省。还有一种是加在训练过程中的,属于全量化,全量化才是真正意义上的量化,运算时间和参数大小都是成倍减少

0
0

Python3+TensorFlow打造人脸识别智能小程序

理论与实战项目双管齐下,让AI技术真正落地应用,适合毕设展示。

1086 学习 · 538 问题

查看课程