spark.eventLog.dir 与 spark.history.fs.logDirectory 配置

来源:7-2 -优化之HistoryServer配置及使用

pain7

2020-09-12

这两个日志两个的配置都是一样的,那为什么还要用两个参数,不统一起来呢?感觉好奇怪啊

写回答

1回答

Michael_PK

2020-09-12

好问题,说明思考了。那么你换个角度想下,如果日志写到了a,b,c三个目录,我只要读b目录呢。那么spark的做法就可以自己指定了想读哪个就哪个

0
4
pain7
非常感谢!
2020-09-12
共4条回复

Python3实战Spark大数据分析及调度

使用Python3对Spark应用程序进行开发调优,掌握Azkaban任务调度

1046 学习 · 434 问题

查看课程