spark集群更换python安装环境

    由于需要用到很多第三方的包,比如numpy,pandas等,而生产环境又无法上网单个包安装太麻烦,因此考虑把之前安装的python的独立环境换成Anaconda的集成开发环境。以下是具体步骤:
            1安装Anaconda3-5.0.1-Linux-x86_64.sh脚本
            2给/opt/modules/anaconda3/bin/python3.6建立软链接

ln -s /opt/modules/anaconda3/bin/python /usr/bin/python3
3修改root环境变量
/root/.bashrc
/root/.bash_profile
修改hdfs用户环境变量,因为集群操作大多有hdfs用户完成。
su - hdfs
~/.bashrc
export PATH="/usr/bin:$PATH"
4修改pyspark2命令
vi /usr/bin/pyspark2
修改spark2-submit命令
vi /usr/bin/spark2-submit
修改PYSPARK_PYTHON这个变量
几个节点都要修改,之后spark更换到新的python,常用的包都有了。

成都创新互联公司-专业网站定制、快速模板网站建设、高性价比三水网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式三水网站制作公司更省心,省钱,快速模板网站建设找我们,业务覆盖三水地区。费用合理售后完善,十余年实体公司更值得信赖。


网站题目:spark集群更换python安装环境
路径分享:http://bzwzjz.com/article/jjccsg.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 营销型网站建设 成都网站制作 高端品牌网站建设 成都品牌网站设计 定制网站制作 重庆网站制作 盐亭网站设计 成都响应式网站建设公司 成都定制网站建设 成都网站建设流程 成都企业网站制作 重庆网站建设 营销型网站建设 网站设计 移动手机网站制作 网站制作公司 成都企业网站建设公司 重庆企业网站建设 品牌网站建设 成都响应式网站建设 重庆外贸网站建设 网站建设方案