当前位置:   article > 正文

Spark远程Debug调试_sparksql debug模式

sparksql debug模式

 

1.首先调试spark分为好几个阶段 有spark提交阶段,spark-driver,executor,下面分别介绍如何进行调试

spark-submit 或者spark-sql的提交

spark-sql的提交 也是通过spark-submit 

spark-submit是通过spark-class

spark-class会去执行 java -cp xxx的命令 来启动spark,

主要看下 

  1. build_command() {
  2. "$RUNNER" -Xmx128m $SPARK_LAUNCHER_OPTS -agentlib:jdwp=transport=dt_socket,server=y,suspend=y,address=5008 -cp "$LAUNCH_CLASSPATH" org.apache.spark.launcher.Main "$@"
  3. printf 
本文内容由网友自发贡献,转载请注明出处:【wpsshop博客】
推荐阅读
相关标签
  

闽ICP备14008679号