jar包冲突问题

来源:1-20 -YARN环境搭建及提交作业到YARN上运行

mitocainiao

2017-08-08

http://szimg.mukewang.com/59892c3d000177a110910077.jpg

老师,我没有用cdh那个版本,每次运行spark都会在datanode的机器里的tmp目录下生成一些jar包 导致冲突,该怎么解决呢

写回答

4回答

mitocainiao

提问者

2017-08-08

测试yarn结果

//szimg.mukewang.com/59895b770001e05f07080026.jpg

//szimg.mukewang.com/59895b770001562007560024.jpg

//szimg.mukewang.com/59895b780001a3eb08320497.jpg

//szimg.mukewang.com/59895b78000131a809620527.jpg


0
0

Michael_PK

2017-08-08

你先确保你的yarn能正常运行作业不,你可以提交一个mr的pi上去测试下

0
1
mitocainiao
我用 hadoop jar pi 不会出错 用 yarn jar pi 就报错了 Error: java.io.IOException: Cannot run program "chmod": error=11, Resource temporarily unavailajava.io.IOException: java.net.ConnectException: Call From Master/192.168.1.192 to Master:10020 failed on connection exception: java.net.ConnectException: Connection refused; For more details see: http://wiki.apache.org/hadoop/ConnectionRefused ble
2017-08-08
共1条回复

mitocainiao

提问者

2017-08-08

这个任务执行失败了

//szimg.mukewang.com/59893e460001c82e12310562.jpg

//szimg.mukewang.com/59893e460001394212630808.jpg


0
0

Michael_PK

2017-08-08

你这截图不是问题,影响最终结果吗

0
2
Michael_PK
你这 yarn都有问题……详细查下yarn的执行日志,先确保Hadoop的进程都存在
2017-08-08
共2条回复

以慕课网日志分析为例 进入大数据Spark SQL的世界

快速转型大数据:Hadoop,Hive,SparkSQL步步为赢

1644 学习 · 1129 问题

查看课程