|
|
|
|
移动端

大数据分析需要什么技术架构?

对于企业而言,坐拥庞大的数据资源,想要实现大数据分析,首要的就是要搭建起自身的大数据系统平台,而每个公司都有自己特定的业务场景,因此在大数据平台上的需求是不一样的。今天我们仅从通用的角度,来聊聊大数据分析需要什么技术架构?

作者:加米谷大数据张衡来源:今日头条|2020-09-17 20:36

对于企业而言,坐拥庞大的数据资源,想要实现大数据分析,首要的就是要搭建起自身的大数据系统平台,而每个公司都有自己特定的业务场景,因此在大数据平台上的需求是不一样的。今天我们仅从通用的角度,来聊聊大数据分析需要什么技术架构?

我们熟悉的以BAT为首的互联网大厂,都拥有自身的大数据系统平台,但是各自面临的业务场景是不同的,比如说腾讯,主要是社交业务场景;百度,主要是搜索业务场景;而阿里,主要是电商业务场景。

这样不同的业务场景下,需要根据实际的业务需求,选择适合自己的技术框架,来搭建自己的大数据架构体系。但是从技术架构体系的共性来说,是可以从通用的技术模块去理解,来帮助我们更好地学习和掌握大数据技术架构的。

大数据分析技术架构通用模块:

数据收集模块:主要负责收集各种数据源的数据,包括日志文件、网络请求、数据库、消息队列等,并将这些数据转换为文件或者消息向后传递。

数据转存模块:主要负责将数据定时传递到分布式存储或者实时传递给下游的数据处理程序。

ETL模块:主要负责数据的清洗、格式和内容的处理和转换、数据分级分拣、加载至数据仓库等。

数据仓库模块:这是整个架构的核心,数据仓库是数据有组织的集中存储的地方,负责数据的存取和管理。

元数据管理模块:主要负责记录和约束数据仓库中数据的含义和格式,控制着数据的生命周期和数据质量。

分析引擎模块:数据分析师交互最多的模块,主要负责执行各种分析语句或代码,完成各种分析任务。

作业管理与调度模块:负责分析作业的管理和定时调度,包括作业的增删改查、查看修改历史、设置调度定时和执行引擎等。

资源分配与调度模块:主要负责在多作业同时运行的场景下,有效协调和分配集群的资源,使资源利用率最大化。

关于大数据分析需要什么技术架构,以上就为大家做了一个简单的介绍了。大数据技术架构需要结合实际业务来考量,学习阶段,先从通用层面去掌握,实际工作当中还需持续积累经验,才能真正地掌握扎实,融会贯通。

【编辑推荐】

  1. 张勇云栖大会再谈新技术:不仅是“免疫力”,更是“生产力”
  2. 大数据将如何推动智慧城市管理创新?
  3. 大数据应用助推“智慧住建”提效升级
  4. 李津:阿里云开启技术服务“新长征”
  5. 物联网与大数据助力提升城市治理水平
【责任编辑:华轩 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

订阅专栏+更多

云原生架构实践

云原生架构实践

新技术引领移动互联网进入急速赛道
共3章 | KaliArch

5人订阅学习

数据中心和VPDN网络建设案例

数据中心和VPDN网络建设案例

漫画+案例
共20章 | 捷哥CCIE

172人订阅学习

搭建数据中心实验Lab

搭建数据中心实验Lab

实验平台Datacenter
共5章 | ITGO(老曾)

108人订阅学习

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊

51CTO服务号

51CTO官微