windows下的pycharm能连到虚拟机的spark吗?

来源:3-11 -使用IDE开发pyspark应用程序

OliverSong

2021-03-09

老师的两个回答把我搞混了:

  1. “idea开发,本地不需要安装spark,只要把相关的依赖加进来自动就可以使用的。“ - https://coding.imooc.com/learn/questiondetail/102896.html
  2. “本地和虚拟机没有关系,这2个地方该装的东西都需要装,比如py啥的,不然没办法本地测试”
    https://coding.imooc.com/learn/questiondetail/72622.html

所以请问老师

  1. 想用本地IDE,本地需不需要装一个spark环境?(本地装spark环境,就不需要老师提供的OOTB了吧?)
  2. 如果不想本地再装一个spark,windows本地的pycharm能连到虚拟机的pyspark环境吗?
    尝试1:试图本地pycharm配置远程虚拟机python解析器(即虚拟机中的app/python3/bin/python3),但是虚拟机中python3并没有装spark(因为import pyspark出错),失败。
    尝试2:想到能否能直接配置虚拟机中SPARK_HOME/python文件夹中的python解析器,但发现没有,仅有“pyspark”文件,但该文件无法被pycharm识别为解析器,失败。
  3. 老师的环境有区分本地和虚拟机吗?(好像没有)
写回答

1回答

Michael_PK

2021-03-10

开发工具比如pycharm之类的,我们进行本地开发,不需要本地安装一个spark环境的,只要依赖有了,本地都可以全部进行local方式的测试

0
4
Michael_PK
回复
qq_慕妹4371975
安装jdk,配置JAVA_HOME
2021-05-02
共4条回复

Python3实战Spark大数据分析及调度

使用Python3对Spark应用程序进行开发调优,掌握Azkaban任务调度

1046 学习 · 434 问题

查看课程