大数据分析工具有哪些

  “大数据”概念最早由维克托·迈尔·舍恩伯格和肯尼斯·库克耶在编写《大数据时代》中提出,指不用随机分析法(抽样调查)的捷径,而是采用所有数据进行分析处理。那么,大数据的分析工具有哪些呢?下面和小编一起看看吧!

  大数据分析工具有哪些

  大数据分析Storm:Apache Storm是一种开源的分布式实时计算系统。Storm加速了流数据处理的过程,为Hadoop批处理提供实时数据处理。

  Spark:Spark是一个兼容Hadoop数据源的内存数据处理平台,运行速度相比于HadoopMapReduce更快。Spark适合机器学习以及交互式数据查询工作,包含Scala、Python和JavaAPI,这更有利于开发人员使用。

  Twitter流处理工具Summingbird:与Storm和Scalding相似,开发者可以使用非常接近原生的Scala或者Java在Summingbird上执行MapReduce作业。

  AWSKinesis:AmazonKinesis是一种实时数据流处理管理服务。它可以收集和处理来自不同数据源的数据,允许开发者编写可处理实时信息的应用程序,来源网站click-streams、营销和财务信息、制造工具和社交媒体,和操作日志和计量数据。

  DataTorrent:DataTorrent是实时流媒体平台,可使企业执行数据处理或转换结构化与非结构化数据、实时数据流到数据中心。该产品主要利用Hadoop2.0和YARN技术。

  SpringXD:通过任意数量的处理器,SpringXD架构支持事件驱动的数据流摄入。流是由Spring集成适配器支持。

  SQLStream:SQLStream为流媒体分析、可视化和机器数据持续集成提供了一个分布式流处理平台。大数据(Hadoop)即服务ElasticMapReduce:AmazonElasticMapReduce(亚马逊EMR)是一个web服务,提供大量数据处理。通过一个大小可调整的AmazonEC2实例集群,EMR使用Hadoop来分配并处理数据。

  Qubole:Qubote的大数据服务提供Hadoop集群内置数据连接器和大数据项目图形编辑器。

  Mortar:Mortar是一个通用的大规模科学数据平台。它建立在AmazonWeb服务云,使用弹性MapReduce(EMR)启动Hadoop集群并处理大型数据集。Mortar可运行ApachePig,这是一个构建在Hadoop上的数据流语言。此外,Mortar还可运行Hadoop]、Pig、Java、Python和Luigi等,让用户专注于研究科学数据,无需担心IT基础设施。

  Rackspace:RackspaceHadoop集群可运行HadoopRackspace托管专用服务器,自旋向上Hadoop公共云,或配置自己的私有云。

  Joyent:JoyentHadoop是一个基于ApacheHadoop项目大数据托管环境云的解决方案。提供数据存储服务获取、分析和访问任何数据格式、数据管理服务以处理、监控和运行Hadoop及数据平台服务安全、存档和规模一致的可用性。

  Google:Hadoop在谷歌的云平台上使用开源的ApacheHadoop谷歌计算引擎的虚拟机。SQL-in-Hadoop解决方案ApacheHive:ApacheHive优化了大型数据集分布式存储的查询和管理过程。Mapreduce开发者也可以插入自定义映射器和还原剂。

  Impala:Cloudera的Impala是一个开源的大规模并行处理(MPP)SQL查询引擎,运行在ApacheHadoop。用户可直接查询存储在HDFS和ApacheHBase的数据,无需进行数据迁移或转换。

  Shark:Shark是一种与ApacheHive兼容的Spark数据仓库系统。Shark支持Hive查询语言、metastore、序列化格式和用户自定义函数。

  SparkSQL:SparkSQL的前身是shark。在hadoop发展过程中,为了给熟悉RDBMS但又不理解MapReduce的技术人员提供快速上手的工具,hive应运而生,是当时唯一运行在hadoop上的SQL-on-Hadoop工具。但是,MapReduce计算过程中大量的中间磁盘落地过程消耗了大量的I/O,降低的运行效率,为了提高SQL-on-Hadoop的效率,大量的SQL-on-Hadoop工具开始产

生。

  ApacheDrill:ApacheDrill目前是Apache的一个孵化项目。提供了不同数据源特别的查询,包括嵌套数据。受GoogleDremel的启发,Drill是专为大型数据集提供可扩展性和查询的能力。该项目是由MapR写成。

  ApacheTajo:ApacheTajo是ApacheHadoop大数据相关的分布式数据仓库系统。Tajo专为低延迟、可扩展的即时查询、在线聚合及ETL(提取-转换-装载过程)在大型数据集存储在HDFS(Hadoop分布式文件系统)和其他数据源。

  Presto:Presto框架转眼间从Facebook框架是一个Presto是Facebook开发的开源分布式SQL查询引擎,支持对任意级大小的数据源进行快速地交互分析。

  Phoenix:Phoenix是一款开源的ApacheHBaseSQL查询引擎,由JDBC驱动程序,可使用SQL查询和管理HBase表。此项目已提交成为Apache孵化器项目。

  Pivotal’sHAWQ:作为Pivotal大数据集的一部分,HAWQ是一个MPPSQL处理引擎。HAWQ实际上就是一个大规模并行处理工程或MPP,数据库运行在Hadoop中,位于HDFS的顶部。作为一个单一的系统,它将一整套聚合基础设施嵌入系统,那套聚合基础设施可以运行和提供Hadoop和HDFS必须提供的所有功能以及你能从MPP数据库中获得的规模、性能和可查询功能。大数据Lambda架构Lambda系统架构(LA)提供了一个结合实时数据和Hadoop预先计算的数据环境的混合平台,以提供一个实时的数据视图。Lambda架构框架主要包括:

  Twitter’sSummingbird:Twitter的开源Summingbird大数据分析工具,通过整合批处理与流处理来减少它们之间的转换开销。区别于以往的更快、更准确节奏,Summingbird更注重于流处理与批处理的无缝整合,以及编程语言的原生化。

  Summingbird是一个大规模数据处理系统,支持开发者以批处理模式(基于Hadoop/MapReduce)或流处理模式(基于Storm)或混合模式(即组合前两种模式)以统一的方式执行代码。

  Lambdoop:Lambdoop是一个Java框架,用于以与Lambda架构一致的方式开发大数据应用。Lambda架构的特色是有一个不可修改、只能追加数据的主数据库,并组合了批处理、服务和加速等不同的层。

相关文章

生物科学专业介绍

生物科学专业包括了生物科学和生物技术两个专业方向,这些专业学科主要培养学生学习生物科学技术方面的基本理论、基本知识,学生将受到应用基础研究和技术开发方面的科学思维和科学实验训练,进而具有较好的科学素养...
资料大全2013-07-01
生物科学专业介绍

《数据的收集》

教 学 设 计 教 学 后 记 课 题 数 据 的 收 集(2)  ...
资料大全2016-01-01
《数据的收集》

办公室谈名片

会话一 Michael: What are you doing, Billy? Your desk looks like a disaster zone. 迈克尔:你在做什么,比利?你的桌子看起来像个...
资料大全2013-09-09
办公室谈名片

张抗抗:窗前的树

张抗抗:窗前的树我家窗前有一棵树。那是一棵高大的洋槐。……洋槐在春天,似乎比其它的树都沉稳些。杨与柳都已翠叶青青,它才爆发出米粒大的嫩芽:只星星点点的一层隐绿,悄悄然绝不喧哗。又过了些日子,忽然就挂满...
资料大全2015-05-09
张抗抗:窗前的树

湖州碧浪湖 -资料

  湖州碧浪湖位于湖州城南1公里,属东苕溪,湖州碧浪湖。以在观山前,又名岘山漾,一名玉湖,与陈英士陵墓相对。为城南重要景点之一。 碧浪湖湖面较阔,湖中有屿,称浮玉山,湖水满时山顶常露若浮玉,故名,资料...
资料大全2012-04-02
湖州碧浪湖 -资料

房地产教师节活动主题名称大全

房地产通过教师节活动吸引教师与市民的关注,最大限度转化成交率,减少公司积房压力,并提高市场占有率。下面聘才小编为大家收集整理的房地产教师节活动主题名称大全。欢迎大家阅读!!房地产教师节活动主题名称大全...
资料大全2011-08-02
房地产教师节活动主题名称大全