spark提交任务到集群的方法

这篇文章主要介绍“spark提交任务到集群的方法”,在日常操作中,相信很多人在spark提交任务到集群的方法问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”spark提交任务到集群的方法”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

成都网站制作、成都做网站的开发,更需要了解用户,从用户角度来建设网站,获得较好的用户体验。创新互联建站多年互联网经验,见的多,沟通容易、能帮助客户提出的运营建议。作为成都一家网络公司,打造的就是网站建设产品直销的概念。选择创新互联建站,不只是建站,我们把建站作为产品,不断的更新、完善,让每位来访用户感受到浩方产品的价值服务。

#Run on a Spark standalone cluster in client deploy mode(运行集群模式,客户端发布模式)

spark-submit \
  --class org.apache.spark.examples.SparkPi \
  --master spark://207.184.161.138:7077 \
  --executor-memory 20G \
  --total-executor-cores 100 \
  /path/to/examples.jar \
  1000

如采用:Run on a Spark standalone cluster in cluster deploy mode with supervise(发布模式为集群,则jar包,每个worker都要有此jar 包)

到此,关于“spark提交任务到集群的方法”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注创新互联网站,小编会继续努力为大家带来更多实用的文章!


当前文章:spark提交任务到集群的方法
文章网址:http://bzwzjz.com/article/jcdgdh.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 网站设计制作报价 成都网站制作 成都网站制作 成都网站建设公司 企业网站设计 成都网站制作 盐亭网站设计 成都商城网站建设 成都网站制作 高端品牌网站建设 成都网站设计 专业网站设计 温江网站设计 手机网站建设 网站建设改版 LED网站设计方案 营销网站建设 重庆网站建设 成都网站建设 定制网站建设 温江网站设计 网站制作报价