tfrecord数据集格式在生产中用的多吗?
来源:4-7 生成tfrecords文件
跟着大数据和AI去旅行
2019-07-04
现在生产中的数据一般都存储到大数据集群中,比如 hdfs,hbase等,tensorflow如何读取hbase中的数据呢,如果数据量太大,内存中放不下,TF该怎样读取数据呢?
写回答
1回答
-
正十七
2019-07-06
同学你好,dataset的封装就可以应对这种情况,我们有一节课是先把文件名做成dataset然后读取各个文件中的数据。这种情况下数据不是都读到内存中来的,而是读到哪个文件就打开哪个文件的。
00
相似问题