|
|
|
|
移动端

大数据领域的12大工具,试试看哪个更好用

为了满足旺盛需求,大数据工具在迅速遍地开花。在大数据这一概念和业务战略出现以来的十年间,市面上出现了成千上万执行各种任务和流程的工具,它们都承诺可为你节省时间和资金,发掘业务洞察力从而实现创收。显然,一个不断增长的市场呈现在大数据分析工具的面前。

作者:布加迪编译来源:51CTO|2018-04-12 10:02

【新品产上线啦】51CTO播客,随时随地,碎片化学习

【51CTO.com快译】大数据工具让企业能够从数据仓库获得洞察力,从而在数据驱动的业务环境中提供重要的竞争优势。

为了满足旺盛需求,大数据工具在迅速遍地开花。在大数据这一概念和业务战略出现以来的十年间,市面上出现了成千上万执行各种任务和流程的工具,它们都承诺可为你节省时间和资金,发掘业务洞察力从而实现创收。显然,一个不断增长的市场呈现在大数据分析工具的面前。

其中许多工具一开始就像最初的大数据软件框架Hadoop那样是开源项目,但后来商业公司迅速涌现,为开源产品提供新工具或商业支持和开发。

从中进行遴选可能很困难,尤其是许多大数据工具用途单一,而你可以用大数据处理许多不同的任务,所以你的分析工具箱会塞得满满当当。本文我们列出了市面上主要的大数据分析工具,分三大?类别来介绍。

主要的大数据工具

如前所述,大数据工具往往属于单一用途类别,而使用大数据有多种方式。所以我们将按类别细分,然后讨论每个类别的分析工具。

一、大数据工具:数据存储和管理

大数据完全始于数据存储,也就是说始于大数据框架Hadoop。它是Apache基金会运行的一种开源软件框架,用于在大众化计算机集群上分布式存储非常大的数据集。

很显然,由于大数据需要大量的信息,存储至关重要。但除了存储外,还需要某种方式将所有这些数据汇集成某种格式化/治理结构,从而获得洞察力。因此,大数据存储和管理是真正的基础――离开了它,分析平台一无是处。在一些情况下,这些解决方案还包括员工培训。

这个领域的大玩家包括:

1. Cloudera

实际上是增加了一些额外服务的Hadoop,你会需要它,因为大数据不容易搞。Cloudera的服务团队不仅可以帮助你构建大数据集群,还可以帮助培训你的员工,更好地访问数据。

2. MongoDB

MongoDB是最受欢迎的大数据数据库,因为它适用于管理经常变化的数据:非结构化数据,大数据常常是非结构化数据。

3. Talend

作为一家提供广泛解决方案的公司,Talend的产品围绕其集成平台而建,该平台集大数据、云、应用程序、实时数据集成、数据准备和主数据管理于一体。

图1:Talend大数据集成平台包括数据质量和治理功能

二、大数据工具:数据清理

在你真正处理数据以获取洞察力之前,需要清理和转换数据,转换成可远程搜索的内容。大数据集往往是非结构化、无组织的,因此需要某种清理或转换。

当下,数据可能来自任何地方:移动、物联网和社交媒体,数据清理显得更为必要。并非所有这些数据都可以轻松“清理”以获得洞察力,因此优秀的数据清理工具极其重要。实际上,在未来几年,预计经过有效清理的数据会是可接受的大数据系统与真正出色的大数据系统之间的竞争优势。

4. OpenRefine

OpenRefine是一款易于使用的开源工具,通过删除重复项、空白字段及??其他错误来清理凌乱的数据。它是开源的,但有一个相当大的社区可提供帮助。

5. DataCleaner

与OpenRefine一样,DataCleaner可将半结构化数据集转换成数据可视化工具可以读取的干净可读的数据集。该公司还提供数据仓库和数据管理服务。

6. 微软Excel

说真的,Excel有其用途。你可以从各种数据源导入数据。Excel在手动数据输入和复制/粘贴操作方面特别有用。它能消除重复项,查找和替换内容,检查拼写,还有用于转换数据的许多公式。但Excel很快陷入困境,不适合庞大数据集。

三、大数据工具:数据挖掘

一旦数据经过清理和准备,你可以通过数据挖掘开始搜索数据了。这时你执行这个实际的过程:发现数据、做出决定和进行预测。

数据挖掘是大数据流程的真正核心。数据挖掘解决方案通常底层很复杂,但竭力提供 一种外观漂亮、对用户友好的用户界面,说起来容易做起来难。数据挖掘工具面临的另一个挑战是:它们确实需要人来编制查询,所以数据挖掘工具的好坏取决于使用它的专业人员。

7. RapidMiner

RapidMiner是一款易于使用的预测分析工具,有着对用户友好的可视化界面,这意味着你没必要编写代码即可运行分析产品。

8. IBM SPSS Modeler

IBM SPSS Modeler是一款包括五个数据挖掘产品的套件,面向企业级高级分析。另外IBM的服务和咨询首屈一指。

9. Teradata

Teradata为数据仓库、大数据和分析以及营销等应用提供端到端解决方案。这一切意味着贵公司可以真正成为数据驱动的公司,另外还有商业服务、咨询、培训和支持。

图2:与许多目前的大数据工具一样,RapidMiner解决方案也支持云

大数据工具:数据可视化

数据可视化是指以一种可读、实用的格式显示你的数据。你可以查看图表图形以及直观显示数据的其他图像。

数据可视化既是一门科学,又是一门艺术。随着大数据从有大批数据科学家支持的高管转移到整个公司上下,众多员工可以使用可视化工具极为重要。销售代表、IT支持和中层管理,这些团队个个都需要能够理解数据,因此重点放在易用性上。然而,易于阅读的可视化有时与来自深度特征集的数据读出相冲突,这带来了数据可视化工具面临的主要挑战之一。

10. Tableau

Tableau是该领域的领导者,其数据可视化工具专注于商业智能,无需懂得编程,即可创建各种地图、图表、图形及更多可视化元素。它共有五款产品,一款名为Tableau Public的免费版供潜在客户试用。

11. Silk

Silk是Tableau的简单版,让你可以通过地图和图表将数据可视化,无需任何编程。你在首次加载Silk时,它甚至会试着将数据可视化。它还让用户很容易在网上发布结果。

12. Chartio

Chartio使用自己的可视化查询语言,只要点击几下鼠标即可创建功能强大的仪表板,无需懂得SQL或其他建模语言。它有别于其他工具的地方主要在于,你可以直接连接到数据库,因此不需要数据仓库。

IBM Watson Analytics

IBM Watson Analytics结合了机器学习和人工智能,有助于提供智能数据科学助手,为业务分析员和数据科学家等拥有众多数据科学技能的用户扮演了向导。

大数据工具的三个层次

普华永道的移动数据和分析计划首席技术官Ritesh Ramesh表示,就先进程度和市场战略而言,大数据工具可分成三层金字塔。

第一层:最庞大的是一系列开源工具。每家公司以开源起家,像Cloudera和Hortonworks。除了基本的基础设施、服务器和存储外,没有多大的价值。大多数云厂商已将这一层实现了商品化。

第二层:在这一层,大多数这类厂商已有意增加各自的市场份额,在开源工具上面构建一些专有应用程序,从而做到与众不同。举例说,Cloudera开发了许多产品,比如驻留在Hadoop核心上的数据科学平台。

第三层:这些是针对特定垂直领域的应用程序。这些公司大多与普华永道、高知特或埃森哲等系统集成商合作。真正的价值出在这里,这对大数据工具开发商来说也是非常有效的竞争策略。

Ramesh表示,除了基本功能外,这些工具的三大方面备受欢迎。首先是数据处理工具。他说:“数据学习工具是客户的工具箱中确保数据质量和分析数据的重要工具,比如处理5000万行数据以发现洞察力。”

他表示,领先的厂商包括Trifacta、Paxata和Talend。

第二大类应用程序是治理,比如你如何定义元数据。他说:“好多人在这方面遇到困难。人们只是将大量垃圾数据倒到数据湖。市面上可在数据湖中积极发挥功效的工具不多。由于这项工作主要由IT人员完成,他们更有兴趣将数据倒到数据湖,而不是确立一种治理结构。”

主要厂商包括Waterline Data、以数据编目工具见长的Tamr和Collibra。

Ramesh说,经常出现的第三大需求是安全。他说:“人们希望一个产品就有安全访问的所有层(列、行和对象)。他们希望一款产品为不同的数据对象支持用户访问和安全。这也是个新兴领域。”

这个领域的主要厂商是Wandisco和FireEye。

原文标题:Top 12 Big Data Tools,作者:Andy Patrizio

【51CTO译稿,合作站点转载请注明原文译者和出处为51CTO.com】

【编辑推荐】

  1. 大数据创新应用:高速公路的数据存储及处理
  2. 中国邮政大数据平台建设之总体架构与实现
  3. “你中有我,我中有你”,人工智能想和大数据谈一场恋爱!
  4. 常用的几种大数据架构剖析
  5. 大数据与区块链:一对桴鼓相应的搭档
【责任编辑:武晓燕 TEL:(010)68476606】

点赞 0
分享:
大家都在看
猜你喜欢

读 书 +更多

计算机病毒防范艺术

本书由Symantec首席反病毒研究员执笔,是讲述现代病毒威胁、防御技术和分析工具的权威指南。与多数讲述计算机病毒的书籍不同,本书完全是...

订阅51CTO邮刊

点击这里查看样刊

订阅51CTO邮刊