关于TextCNN的预测效率问题

来源:7-18 TextCNN实现

木子二月鸟

2019-05-21

老师,在工作中使用TextCNN训练了一个分类模型,小数据量的预测是还行,大概1分钟1000行数据,但是如果数据量大了之后比如10w行的话,使用TextCNN的predict方法就很慢了,通常得好几个小时才能完成,有什么优化的办法吗?
图片描述
预测方法输出了预测概率,然后逐条去predict,如果改成批量预测,那predict方法该怎么改呢?有没有可以参考的资料啊?先谢过老师啦

写回答

1回答

正十七

2019-05-27

改成批量预测应该可以,大数据需要大矩阵运算,超出内存所以才慢。

关于实现,我们之前应该讲了很多这样的例子,比如:

if (i+1) % 1000 == 0:
            test_data = CifarData(test_filenames, False)
            all_test_acc_val = []            for j in range(test_steps):
                test_batch_data, test_batch_labels \
                    = test_data.next_batch(batch_size)
                test_acc_val = sess.run(
                    [accuracy],
                    feed_dict = {
                        x: test_batch_data, 
                        y: test_batch_labels
                    })
                all_test_acc_val.append(test_acc_val)
            test_acc = np.mean(all_test_acc_val)
            print('[Test ] Step: %d, acc: %4.5f'
                  % (i+1, test_acc))


1
1
木子二月鸟
多谢老师的回答!非常感谢!
2019-05-27
共1条回复

深度学习之神经网络(CNN/RNN/GAN)算法原理+实战

深度学习算法工程师必学,深入理解深度学习核心算法CNN RNN GAN

2617 学习 · 935 问题

查看课程