混合数据湖的好处是什么

这篇文章主要为大家分析了混合数据湖的好处是什么的相关知识点,内容详细易懂,操作细节合理,具有一定参考价值。如果感兴趣的话,不妨跟着跟随小编一起来看看,下面跟着小编一起深入学习“混合数据湖的好处是什么”的知识吧。

创新互联公司专注于湾里企业网站建设,自适应网站建设,成都做商城网站。湾里网站建设公司,为湾里等地区提供建站服务。全流程按需网站设计,专业设计,全程项目跟踪,创新互联公司专业和态度为您提供的服务

在存储大数据时,数据湖和数据仓库都是既定术语,但是这两个术语不是同义词。数据湖是尚未确定用途的大量原始数据。另一方面,数据仓库是用于特定目的的结构化过滤数据的存储库。

共同点

数据仓库和数据湖代表了一个中央数据库系统,可以在公司中用于分析目的。该系统从各种异构数据源中提取,收集和保存相关数据,并提供给下游系统。

数据仓库可以分为四个子过程:

  • 数据获取:从各种数据存储库中获取和提取数据。

  • 数据存储:包括长期归档在内的数据仓库中的数据存储。

  • 数据提供:向下游系统提供所需的数据,提供数据集市。

  • 数据评估:对数据库存的分析和评估。

差异性

数据仓库将经典的ETL流程与关系数据库中的结构化数据结合使用,而数据湖则使用诸如ELT的范式和读取模式以及经常使用的非结构化数据[2]。

混合数据湖的好处是什么

> Differences Data Warehouse vs. Lake

在上方,您可以看到主要区别。您使用的技术也完全不同。对于数据仓库,您将使用SQL和关系数据库,而对于数据湖,您可能将使用NOSQL或两者的混合。

将两者结合在混合数据湖中

那么如何将这两个概念结合起来?在下图中,您可以从高角度查看架构。

该过程是将非结构化和未转换的数据加载到数据湖中。从这里,一方面可以将数据用于ML和Data  Science任务。另一方面,数据也可以转换为结构化形式并加载到数据仓库中。从这里,可以实现通过数据集市和(自助服务)BI工具进行的经典数据仓库分发。

混合数据湖的好处是什么

> Hybrid Data Lake Concept — Image from Author

可以用于此体系结构的主要技术例如:

  • 通过talend,Google Dataflow,AWS Data Pipeline进行ELT / ETL流程

  • 通过Data Lake-HDFS,AWS Athena和S3,Google Cloud Storage

  • 数据仓库通过-Google BigQuery,AWS Redshift,Snowflake

注意:诸如Google的BiqQuery或AWS  Redshift之类的技术通常被视为数据仓库技术与数据湖技术之间的混合体,因为它们通常已经具有NoSQL的某些特征。

关于“混合数据湖的好处是什么”就介绍到这了,更多相关内容可以搜索创新互联以前的文章,希望能够帮助大家答疑解惑,请多多支持创新互联网站!


新闻名称:混合数据湖的好处是什么
转载来于:http://bzwzjz.com/article/jisoih.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 高端品牌网站建设 重庆外贸网站建设 重庆网站设计 专业网站设计 成都网站建设 成都网站制作 手机网站制作 成都网站建设公司 成都品牌网站设计 高端网站设计推广 盐亭网站设计 高端网站设计 品牌网站建设 温江网站设计 成都网站建设 四川成都网站制作 手机网站制作 企业网站制作 成都网站制作 成都商城网站建设 成都网站建设推广 网站制作公司