楼主: aongao
2138 2

为什么很多公司的大数据相关业务都基于 Hadoop 方案? [推广有奖]

  • 5关注
  • 31粉丝

VIP

教授

52%

还不是VIP/贵宾

-

TA的文库  其他...

新能源&可持續發展

農業&经济

威望
1
论坛币
33743 个
通用积分
5631.2235
学术水平
153 点
热心指数
194 点
信用等级
114 点
经验
89628 点
帖子
626
精华
2
在线时间
1101 小时
注册时间
2014-1-20
最后登录
2022-4-13

+2 论坛币
k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群
赵安豆老师微信:zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

感谢您参与论坛问题回答

经管之家送您两个论坛币!

+2 论坛币
选择Hadoop的原因最重要的就是这三点:

1,可以解决问题;
2,成本低 ;
3,成熟的生态圈。


一,
Hadoop帮助我们解决了什么问题

无论国内还是国外的大公司对于数据都有着无穷无尽的渴望,都会想尽一切办法收集一切数据,因为通过信息的不对称性可以不断变现,而大量的信息是可以通过数据分析得到的。


数据的来源途径非常的多,数据的格式也越来越多越来越复杂,随着时间的推移数据量也越来越大。因此在数据的存储和基于数据之上的计算上传统数据库很快趋于瓶颈。


而Hadoop正是为了解决了这样的问题而诞生的。其底层的分布式文件系统具有高拓展性,通过数据冗余保证数据不丢失和提交计算效率,同时可以存储各种格式的数据。同时其还支持多种计算框架,既可以进行离线计算也可以进行在线实时计算。


二,为什么成本可以控制的低确定可以解决我们遇到的问题之后,那就必须考虑下成本问题了。
1,
硬件成本
Hadoop是架构在廉价的硬件服务器上,不需要非常昂贵的硬件做支撑

2, 软件成本
开源的产品,免费的,基于开源协议,可以自由修改,可控性更大

3,开发成本
因为属于二次开发,同时因为有非常活跃的社区讨论,对开发人员的能力要求相对不高,工程师的学习成本也并不高

4,维护成本
当集群规模非常大时,开发成本和维护成本会凸显出来。但是相对于自研系统来说的话,还是便宜的很多。
某司自研同类系统几百名工程师近4年的投入,烧钱亿计,都尚未替换掉Hadoop。

5,其他成本
如系统的安全性,社区版本升级频繁而现实是无法同步进行升级所引入的其他隐形成本。

三, 成熟的生态圈有什么好处

成熟的生态圈代表的未来的发展方向,代表着美好的市场前景,代表着更有钱途的一份工作(好吧,“三个代表”).


部分系统归类:部署,配置和监控 Ambari,Whirr监控管理工具 Hue, karmasphere, eclipse plugin, cacti, ganglia数据序列化处理与任务调度 Avro, Zookeeper数据收集 Fuse,Webdav, Chukwa, Flume, Scribe , Nutch数据存储 HDFS类SQL查询数据仓库 Hive 流式数据处理 Pig并行计算框架 MapReduce, Tez数据挖掘和机器学习 Mahout列式存储在线数据库 HBase元数据中心 HCatalog (可以和Pig,Hive ,MapReduce等结合使用)工作流控制 Oozie,Cascading数据导入导出到关系数据库 Sqoop,Flume, Hiho数据可视化 drilldown,Intellicus使用到的公司也非常的多。


来源:知乎







二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

关键词:Hadoop 数据相关 Had 大数据 MapReduce 数据库 成本 信息

沙发
lydieyu 发表于 2014-6-25 09:34:16 |只看作者 |坛友微信交流群
高手高手啊
点一个赞
已有 1 人评分经验 热心指数 收起 理由
aongao + 10 + 1 鼓励积极发帖讨论

总评分: 经验 + 10  热心指数 + 1   查看全部评分

使用道具

藤椅
ReneeD 发表于 2014-7-10 10:37:41 |只看作者 |坛友微信交流群
专家了,
分享了好多,
已有 1 人评分论坛币 热心指数 收起 理由
aongao + 5 + 1 鼓励积极发帖讨论

总评分: 论坛币 + 5  热心指数 + 1   查看全部评分

使用道具

您需要登录后才可以回帖 登录 | 我要注册

本版微信群
加好友,备注cda
拉您进交流群

京ICP备16021002-2号 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问:王进律师 知识产权保护声明   免责及隐私声明

GMT+8, 2024-5-9 09:14