executor

使用spark-submit提交到的各个模式原理图解

落爺英雄遲暮 提交于 2019-11-25 21:58:47
Standalone-client提交任务方式 提交命令 ./spark-submit --master spark://node1:7077 --class org.apache.spark.examples.SparkPi ../lib/spark-examples-1.6.0-hadoop2.6.0.jar 1000 或者 ./spark-submit --master spark://node1:7077 --deploy-mode client --class org.apache.spark.examples.SparkPi ../lib/spark-examples-1.6.0-hadoop2.6.0.jar 100 执行原理图解【完美图示】 执行流程 client模式提交任务后,会在客户端启动Driver进程。 Driver会向Master申请启动Application启动的资源。 资源申请成功,Driver端将task发送到worker端执行。 worker将task执行结果返回到Driver端。 总结 client模式适用于测试调试程序。Driver进程是在客户端启动的,这里的客户端就是指提交应用程序的当前节点。在Driver端可以看到task执行的情况。生产环境下不能使用client模式,是因为:假设要提交100个application到集群运行