楼主: ZQZ520
16046 214

[行业动态] Spark为什么能成为大数据分析主流工具?Spark大数据培训班   [推广有奖]

回帖奖励 258 个论坛币 回复本帖可获得 2 个论坛币奖励! 每人限 1 次
  • 2关注
  • 42粉丝

运营管理员

院士

6%

还不是VIP/贵宾

-

威望
4
论坛币
167104 个
学术水平
89 点
热心指数
190 点
信用等级
85 点
经验
22186 点
帖子
535
精华
7
在线时间
2210 小时
注册时间
2014-5-7
最后登录
2017-12-14

ZQZ520 在职认证  发表于 2016-9-23 09:11:33 |显示全部楼层

一.Spark是什么?

       Spark是伯克利大学2009年开始研发的一个项目,它是大数据时代下的一个快速处理数据分析工作的框架。spark发展十分迅速,2014年,Hadoop的四大商业机构均宣称全力支持Spark,今后将全面接收基于Spark编写的数据挖掘与分析算法,多家世界顶级的数据企业例如Google,Facebook等现已纷纷转向Spark框架。


       近两年,Spark在中国的发展达到了一个前所未有的状态和高度。其中阿里巴巴的搜索和广告业务,最初使用Mahout和MapReduce来解决复杂的机器学习问题,但是在效率和代码维护方面并不理想,现已转向Spark框架。淘宝技术团队使用Spark实现了多次迭代的机器学习算法和一些高计算复杂度的算法,并将其运用在推荐系统上;同时还利用Spark中的一系列组件解决了基于最大连通图的社区发现、基于三角形计数的关系衡量、基于随机游走的用户属性传播等许多生产问题。此外,腾讯也是最早使用Spark的应用之一,借助Spark快速迭代的优势,腾讯提出了大数据精准推荐,并采用“数据+算法+系统”这套技术方案支持每天上百亿的请求量。


二、为什么spark如此之火?

Spark四大特性之特性一:快速

       相同的实验环境与数据下,在内存中运行相同的程序,Spark比MapReduce快约100倍;在磁盘中运行相同的程序,Spark要MapReduce快约10倍。例如图2所示,Spark和MapReduce进行逻辑回归运算后的实验数据。

图2基于内存的逻辑回归对比实验.png

      针对于非常考验系统性能的排序问题,图3解释Spark与MapReduce对100TB数据样本排序的实验结果比较:MapReduce用了2100台机器,花费72分钟;而Spark仅用207台机器,不到前者的1/10,花费23分钟,接近前者的1/3。

图3 基于硬盘的100T数据排序对比试验.png

     此外,众多实验表明,在处理迭代式应用上Spark比MapReduce快20多倍;计算数据分析类报表的性能提高了40多倍;Spark能够在5-7秒的延时内交互式扫描1TB数据集。


     Spark运行速度如此之快,主要得益于以下两方面:一方面,Spark中的运算大多是基于内存的。Spark提出了一种分布式的内存抽象,称为弹性分布式数据集(RDD,Resilient DistributedDatasets)。RDD支持基于工作集的应用,同时具有数据流模型的特点:自动容错、位置感知调度和可伸缩性。RDD允许用户在执行多个查询时显式地将工作集缓存在内存中,后续的查询能够重用工作集,这极大地提升了查询速度。另一方面,Spark从稳定的物理存储(如分布式文件系统)中加载记录,记录被传入由一组确定性操作构成的DAG,然后写回稳定存储。DAG数据流图能够在运行时自动实现任务调度和故障恢复。尽管非循环数据流是一种很强大的抽象方法,但仍然有些应用无法使用这种方式描述。Spark能够在多个并行操作之间重用工作数据集,适用于非循环数据流模型难以处理的应用。



Spark四大特性之特性二:易用

      Spark编程非常高效、简洁,支持多种语言的API,如Java, Scala, Python等,而且代码非常简洁。例如在基于MapReduce开发的WordCount示例程序中,用户需要重写Map类和Reduce类,虽然MapReduce类似八股文的程序编写模式极大地简化了并行程序开发过程,但是程序代码至少几十行。若基于Spark开发同样的WordCount程序,仅需下面短短的几行代码,例如下面程序是对存储在HDFS上的wc.input中的单词个数进行统计:

sc.textFile("hdfs://master:8020/user/dong/spark/wc.input").flatMap(_.split("")).map((_,1)).reduceByKey(_+_).collect

由此可见,Spark编程非常简洁。这主要是因为Spark是基于Scala开发,其对数据处理提供了丰富的操作,极大地提高了用户的程序开发效率。

目前基于Spark的实际项目开发中约70%采用Scala语言,这是因为Spark本身就是基于Scala开发的;其次是JAVA,约占20%;此外还有Python等。


Spark四大特性之特性三:通用

      相对与第一代的大数据生态系统Hadoop中的MapReduce,Spark 无论是在性能还是在方案的统一性方面,都有着极大的优越性,虽然MapReduce在此方面也在做积极的努力,但Spark的优势还是明显的。Spark框架通常涉及到五个最核心的组件。如图4所示,位于下面的Apache Spark又称为Spark Core。在Spark Core的基础上,针对一些特殊的需求,Spark开发了一系列组件:Spark SQL(在Spark上建立是SQL,类似于Hive);Spark Streaming(实时流处理系统);MLlib(用户友好的机器学习库);GraphX(图处理组件),此外还有一个BlinkDB(基于海量数据的交互式查询引擎,能够在设定的误差范围内或响应时间内进行SQL查询)。将这些组件放在一起,就构成了一个Spark的软件栈。基于这个软件栈Spark提出并实现了一种理念“one stack to rule them all”,即Spark可以对大数据进行综合处理:实时数据流处理、批处理和交互式查询。这一软件栈就体现了Spark的通用性。

图4Spark软件栈图.png


图5Spark对大数据的综合处理示意图.png


Spark四大特性之特性四:多种运行模式

      

      在运行方面,Spark的运行无处不在。Spark既可以运行本地local模式,也可以以Standalone、cluster等多种模式运行在Yarn、Mesos上,还可以运行在云端例如EC2。此外,Spark的数据来源非常广泛,可以处理来自HDFS、HBase、 Hive、Cassandra、Tachyon上的各种类型的数据。


       Spark这套速度极快的内存分析引擎与以往的大数据处理框架相比具有诸多优势,从而能够轻松地为大数据应用企业带来理想的投资回报。Spark项目将一系列创新型思维带入了大数据处理市场,并且表现出极为强劲的发展势头。近年来,CDA大数据团队针对Spark框架开展了广泛深入的研究,并融入到大数据分析的培训课程中,整个课程体系变得更加完善


Spark大数据分析应用班开课了,可以申请免费试听,名额有限!

时间:2018年01月12日——2018年02月06日(16天)

费用:10000元(现场班)/8000元(远程直播)

优惠:1.论坛老学员一律9折优惠;

          2.同一单位3人9折,5人8折优惠;

          以上优惠不叠加



(北京现场班)

(远程直播班)


报名流程:

1:点击“立即报名”,网上填写信息提交;

2:给予反馈,确认报名信息;

3:网上订单缴费;

4:提前一周发送上课路线图


在线咨询:

工作时间:周一至周五 8:30-18:00 其他时间请致电手机


座机:010-68456523

QQ:28819897122881989712

手机:13718534278

邮箱:zhangwei@pinggu.org



支持楼主:购买VIP购买贵宾 购买后,论坛将把您花费的资金全部奖励给楼主,以表示您对TA发好贴的支持
 
载入中......
已有 1 人评分经验 收起 理由
reduce_fat + 100 精彩帖子

总评分: 经验 + 100   查看全部评分




CDA数据分析交流群 217748971
stata SPSS
geexer 发表于 2016-9-23 09:12:20 |显示全部楼层
看不到图,不过还是谢谢楼主
回复

使用道具 举报

ZQZ520 在职认证  发表于 2016-9-23 09:26:42 |显示全部楼层
geexer 发表于 2016-9-23 09:12
看不到图,不过还是谢谢楼主
刚才有缓冲,现在可以了
回复

使用道具 举报

ZQZ520 在职认证  发表于 2016-9-23 09:32:05 |显示全部楼层

Spark大数据分析应用用.png

回复

使用道具 举报

东方祥 发表于 2016-9-23 10:00:02 |显示全部楼层

回帖奖励 +2 个论坛币

大数据分析师帮助企业提升商业价值
回复

使用道具 举报

Frank233 发表于 2016-9-23 10:00:10 |显示全部楼层

回帖奖励 +2 个论坛币

大数据时代,Spark大数据分析工具,你值得拥有!
回复

使用道具 举报

littlelianglian 发表于 2016-9-23 10:03:50 |显示全部楼层

回帖奖励 +2 个论坛币

Hadoop+spark很快,喜欢上这个平台
回复

使用道具 举报

xing@yumu 发表于 2016-9-23 10:09:31 |显示全部楼层

回帖奖励 +2 个论坛币

大数据时代,自己学了一些,想系统的学习学习,这边课程很吸引我
回复

使用道具 举报

deng203 发表于 2016-9-23 10:28:35 |显示全部楼层

回帖奖励 +2 个论坛币

zhichi
回复

使用道具 举报

laodong1983 在职认证  发表于 2016-9-23 10:30:55 |显示全部楼层

回帖奖励 +2 个论坛币

大数据时代来临
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 我要注册

GMT+8, 2017-12-14 21:11