请问老师,本地的spark开发环境是怎么搭的。

来源:3-11 -使用IDE开发pyspark应用程序

ToBemaster

2019-02-22

在使用ide开发那里,老师是用本地的spark环境运行的,前面的课程好像没有说这里的本地环境是怎么配置的。

写回答

3回答

nankjune

2019-10-12

这个地方老师或者同学能解释一下吗?  看老师视频好像是在本机也安了一个spark? 那我本地能不能直接把服务器上的spark文件复制下来直接跟着使用?

0
1
Michael_PK
idea开发,本地不需要安装spark,只要把相关的依赖加进来自动就可以使用的。
2019-10-12
共1条回复

ToBemaster

提问者

2019-02-22

这是pyspark,不是java的项目,没有maven可配呀。

0
1
Michael_PK
py项目,只要把spark那个路径配置上就行了
2019-02-22
共1条回复

Michael_PK

2019-02-22

IDE是在本地的,不需要本地配置spark环境,只要maven里面加spark依赖就行了

0
1
ToBemaster
这是pyspark,不是java的项目,没有maven可配呀。
2019-02-22
共1条回复

Python3实战Spark大数据分析及调度

使用Python3对Spark应用程序进行开发调优,掌握Azkaban任务调度

1046 学习 · 434 问题

查看课程