spark中的累加器accumulator怎么用

spark中的累加器accumulator怎么用,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

10年的温泉网站建设经验,针对设计、前端、开发、售后、文案、推广等六对一服务,响应快,48小时及时工作处理。成都全网营销的优势是能够根据用户设备显示端的尺寸不同,自动调整温泉建站的显示方式,使网站能够适用不同显示终端,在浏览器中调整网站的宽度,无论在任何一种浏览器上浏览网站,都能展现优雅布局与设计,从而大程度地提升浏览体验。成都创新互联从事“温泉网站设计”,“温泉网站推广”以来,每个客户项目都认真落实执行。

累加的结果类型与合并的元素类型相同时,更简单的可累加值,即仅通过关联操作“添加”到的变量,因此可以有效地并行支持。它们可用于实现计数器(如MapReduce)或求和。Spark本机支持数值类型的累加器,程序员可以添加对新类型的支持。

通过调用SparkContext#acculator,从初始值v创建累加器。然后,可以使用Accumulable#+=操作符将集群上运行的任务添加到集群中。但是,它们无法读取其值。只有驱动程序才能使用其值方法读取累加器的值。

下面的解释器会话显示用于添加数组元素的累加器:

scala>valaccum=sc.accumulator(0)accum:spark.Accumulator[Int]=0scala>sc.parallelize(Array(1,2,3,4)).foreach(x=>accum+=x)...10/09/2918:41:08INFOSparkContext:Tasksfinishedin0.317106sscala>accum.valueres2:Int=10

看完上述内容,你们掌握spark中的累加器accumulator怎么用的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注箭头云行业资讯频道,感谢各位的阅读!


文章名称:spark中的累加器accumulator怎么用
网页地址:http://bzwzjz.com/article/cpecdh.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 网站建设开发 手机网站制作设计 四川成都网站建设 手机网站制作 温江网站设计 成都网站设计 成都网站设计 网站制作公司 网站建设费用 手机网站制作 手机网站建设 网站设计 成都网站建设 网站设计制作报价 手机网站建设 重庆网站制作 成都网站设计公司 企业网站设计 重庆网站设计 专业网站设计 古蔺网站建设 成都定制网站建设