spark本地运行模式-创新互联

Spark设置setMaster=local,不提交集群,在本地启用多线程模拟运行

成都创新互联是专业的吉县网站建设公司,吉县接单;提供网站设计、成都网站设计,网页设计,网站设计,建网站,PHP网站建设等专业做网站服务;采用PHP框架,可快速的进行吉县网站开发网页制作和功能扩展;专业做搜索引擎喜爱的网站,专业的做网站团队,希望更多企业前来合作!
object SparkUtil {
  
  private val logger = Logger.getLogger(getClass.getName, true)
  
  def getSparkContext(appName:String, local:Boolean=false, threadNum:Int=4):SparkContext = {
    
      val conf = new SparkConf().setAppName(appName)
      if(local)
        conf.setMaster(s"""local[$threadNum]""")
      val sc = new SparkContext(conf)
      return sc
  }
}

SparkUtil.getSparkContext("testApp",true)  // 本地启4个线程模拟运行

本地模式运行可以测试主要的程序逻辑,并不能一定在集群中正确运行.

另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


网页题目:spark本地运行模式-创新互联
网站链接:http://bzwzjz.com/article/doosji.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 成都网站建设 品牌网站建设 成都网站设计 成都网站建设 成都企业网站制作 成都网站制作 成都网站建设 网站制作 外贸网站建设 成都网站设计 成都网站制作 响应式网站建设 成都商城网站建设 外贸营销网站建设 营销型网站建设 定制网站制作 网站设计制作 成都网站制作 成都网站建设 网站制作公司 泸州网站建设 网站建设