Moving方式创建读取文件

来源:9-8 -SparkStreaming操作文件系统数据实战

Yelena_Nic

2018-09-16

老师这里,windows环境下,也要moving吗?
如果是 hdfs的环境 是不是只能在 虚拟机spark环境中写呢?还是可以 直接写在 pycharm中?

写回答

1回答

Michael_PK

2018-09-16

是MV HDFS的数据,小数据量不一定测试的处理,生产环境大数据才可能会发生

0
2
Michael_PK
回复
Yelena_Nic
streaming读取HDFS的文件时,文件是从HDFS的另外文件夹mv过去给streaming使用
2018-09-16
共2条回复

Python3实战Spark大数据分析及调度

使用Python3对Spark应用程序进行开发调优,掌握Azkaban任务调度

1046 学习 · 434 问题

查看课程