Spark中怎么调用Jni程序

本篇文章给大家分享的是有关Spark中怎么调用Jni程序,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。

创新互联是一家专业提供关岭企业网站建设,专注与网站设计、成都网站设计H5开发、小程序制作等业务。10年已为关岭众多企业、政府机构等服务。创新互联专业网站设计公司优惠进行中。

1.jni调用中的资源销毁问题处理。

           从saprk on yarn 模式下,每提交一次任务,就启动一组进程,并在任务完成后进程销毁,因此,只要确保全局资源只存在一份就可以保证不会发生内存泄漏,系统崩溃的情况。

 2.jni程序中的多个方法之间静态对象可共享。

3.corsegenbackend进程在任务提交时被创建,并在任务执行完成后被销毁,此进程个数在yarn模式下通过 --num-executors设置。

4.在spark上,任务可能跑在多个进程上,如果jni程序中包含C++静态对象,如何确保静态对象只被初始化加载一次?。

           解决方法:

              1.写在 mapparition中,但是被调用次数过多是个缺点。

              2.写在static块中,可以确保每个进程只对该方法调用一次。

5.spark中的mappartitions方法,如果在后台调用了一次 df.first();则可能会发生只被map一次的情况。

以上就是Spark中怎么调用Jni程序,小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注创新互联行业资讯频道。


分享文章:Spark中怎么调用Jni程序
本文地址:http://bzwzjz.com/article/iescod.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 成都网站设计 成都企业网站制作 商城网站建设 手机网站制作设计 定制网站设计 企业网站设计 成都网站设计 成都定制网站建设 重庆企业网站建设 网站建设 成都网站建设 攀枝花网站设计 网站建设公司 成都网站建设流程 成都网站建设 成都商城网站制作 四川成都网站制作 定制网站建设多少钱 四川成都网站建设 网站制作报价 app网站建设 成都网站建设