加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

【终极解决】Java gateway process exited before sending the dr

(2017-02-21 17:47:35)
标签:

spark

hadoop

pycharm

pyspark

py4j

分类: 【C、Java与网络编程】
"D:\Program files\Anaconda2\python.exe" C:/Users/PycharmProjects/helloworld/spark1.py SPARK_HOME not in os.environ SPARK_JARS_DIR already set== D:\!spark-1.6.2\jars "set PYTHONHASHSEED=0" "run spark-class2.cmd" ϵͳ�Ҳ���ָ����·���� Failed to find Spark assembly JAR. You need to build Spark before running this program. Traceback (most recent call last): File "C:/Users/PycharmProjects/helloworld/spark1.py", line 70, in conf = SparkConf().setAppName(APP_NAME) # .setMaster("spark://10.120.21.80:8032") File "D:\Program files\Anaconda2\lib\site-packages\pyspark\conf.py", line 104, in __init__ SparkContext._ensure_initialized() File "D:\Program files\Anaconda2\lib\site-packages\pyspark\context.py", line 245, in _ensure_initialized SparkContext._gateway = gateway or launch_gateway() File "D:\Program files\Anaconda2\lib\site-packages\pyspark\java_gateway.py", line 94, in launch_gateway raise Exception("Java gateway process exited before sending the driver its port number")

Exception: Java gateway process exited before sending the driver its port number Process finished with exit code 1
  看到那斜杠不一的路径了吗?当你以为/和\是造成这个exception的关键的时候,其实关键问题并不是这个。配置pycharm打印出来的是乱码,是这个IDE的console没配置识别中文的问题。搜了一会儿没搜到怎么重整这个编码,之前在Java里实现一个console也发现了乱码问题,修理起来还是比较费劲的。
  好了,言归正传,这么多人遇到了Java gateway process问题,说明是个非常头疼的问题。这个问题尤其头疼,是出现在配置windows下的PyCharm环境中。在windows下我也配置了Netbeans,能够成功跑通spark程序,没有任何问题,为什么到了PyCharm下就出毛病了呢?明明是同一个spark文件夹。结果,我发现,PyCharm,或者说pyspark环境,不能识别包含奇怪符号的目录
  我的路径D:\!bigdata\Spark里面有一个感叹号,然后,它就找不到jars了!!!!
  去掉这个感叹号,然后,它就好了!不报错了!
  所以,不要往spark路径里面添加奇怪的标点符号

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有