楼主: 胖胖小龟宝
2471 11

[经验分享] 怎么培养数据分析的能力? [推广有奖]

大师

21%

还不是VIP/贵宾

-

TA的文库  其他...

龟宝的档案室

威望
3
论坛币
793110 个
通用积分
21961.2355
学术水平
2211 点
热心指数
2133 点
信用等级
1424 点
经验
978920 点
帖子
10001
精华
25
在线时间
4757 小时
注册时间
2012-7-27
最后登录
2020-12-21

+2 论坛币
k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群
赵安豆老师微信:zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

感谢您参与论坛问题回答

经管之家送您两个论坛币!

+2 论坛币

第一步:数据准备:(70%时间)

  • 获取数据(爬虫,数据仓库)

  • 验证数据

  • 数据清理(缺失值、孤立点、垃圾信息、规范化、重复记录、特殊值、合并数据集)

  • 使用python进行文件读取csv或者txt便于操作数据文件(I/O和文件串的处理,逗号分隔)

  • 抽样(关键是随机)

  • 存储和归档


第二步:数据观察(发现规律和隐藏的关联)

  • 单一变量:点图、抖动图;直方图、核密度估计;累计分布函数

  • 两个变量:散点图、LOESS平滑、残差分析、对数图、倾斜

  • 多个变量:假色图、马赛克图、平行左边图


第三步:数据建模

  • 推算和估算(均衡可行性和成本消耗)

  • 缩放参数模型(缩放维度优化问题)

  • 建立概率模型(二项、高斯、幂律、几何、泊松分布与已知模型对比)


第四步:数据挖掘

  • 选择合适的机器学习算法(蒙特卡洛模拟,相似度计算,主成分分析)

  • 大数据考虑用Map/Reduce

  • 得出结论,绘制最后图表


循环到第二步到第四步,进行数据分析,根据图表得出结论完成文章。

结合实际业务来做数据分析

    “无尺度网络模型”的作者艾伯特-拉斯洛·巴拉巴西认为——人类93%的行为是可以预测的。数据作为人类活动的痕迹,就像金矿等待发掘。但是首先你得明确自己的业务需求,数据才可能为你所用。

1.数据为王,业务是核心

  • 了解整个产业链的结构

  • 制定好业务的发展规划

  • 衡量的核心指标有哪些


    有了数据必须和业务结合才有效果。首先你需要摸清楚所在产业链的整个结构,对行业的上游和下游的经营情况有大致的了解。然后根据业务当前的需要,指定发展计划,从而归类出需要整理的数据。最后一步详细的列出数据核心指标(KPI),并且对几个核心指标进行更细致的拆解,当然具体结合你的业务属性来处理,找出那些对指标影响幅度较大的影响因子。前期资料的收集以及业务现况的全面掌握非常关键。

2.思考指标现状,发现多维规律

  • 熟悉产品框架,全面定义每个指标的运营现状

  • 对比同行业指标,挖掘隐藏的提升空间

  • 拆解关键指标,合理设置运营方法来观察效果

  • 争对核心用户,单独进行产品用研与需求挖掘


     发现规律不一定需要很高深的编程方法,或者复杂的统计公式,更重要的是培养一种感觉和意识。不能用你的感觉去揣测用户的感觉,因为每个人的教育背景、生活环境都不一样。很多数据元素之间的关系没有明显的显示,需要使用直觉与观察(数据可视化技术来呈现)。

3.规律验证,经验总结

     发现了规律之后不能立刻上线,需要在测试机上对模型进行验证。


二维码

扫码加我 拉你入群

请注明:姓名-公司-职位

以便审核进群资格,未注明则拒绝

关键词:数据分析 reduce python 机器学习算法 蒙特卡洛模拟 数据分析 统计 指标

已有 4 人评分经验 论坛币 学术水平 热心指数 信用等级 收起 理由
祝贺人大 + 12 + 12 + 1 精彩帖子
fin-qq + 1 精彩帖子
宁静的城np + 20 精彩帖子
crystal8832 + 12 + 1 + 1 + 1 精彩帖子

总评分: 经验 + 32  论坛币 + 24  学术水平 + 3  热心指数 + 1  信用等级 + 1   查看全部评分

本帖被以下文库推荐

沙发
neversarah 发表于 2014-10-17 13:09:05 |只看作者 |坛友微信交流群
看这个帖子 http://www.moozhi.com/topic/show/543a1527775c309e74b70d8f
已有 2 人评分论坛币 热心指数 收起 理由
祝贺人大 + 5 精彩帖子
crystal8832 + 10 + 1 好的意见建议

总评分: 论坛币 + 15  热心指数 + 1   查看全部评分

使用道具

藤椅
daleming 发表于 2014-10-17 13:17:10 来自手机 |只看作者 |坛友微信交流群
胖胖小龟宝 发表于 2014-10-17 12:51
第一步:数据准备:(70%时间)
  • 获取数据(爬虫,数据仓库)
  • 验证数据
  • 不错,大数据分析慢慢来

    使用道具

    板凳
    Jeanchy 在职认证  发表于 2014-10-17 23:56:09 |只看作者 |坛友微信交流群
    大数据时代更需要我们提高有效数据的提取和处理分析
    已有 1 人评分论坛币 收起 理由
    crystal8832 + 5 我很赞同

    总评分: 论坛币 + 5   查看全部评分

    使用道具

    报纸
    祝贺人大 学生认证  发表于 2014-10-24 16:11:20 |只看作者 |坛友微信交流群
    这个年代,数据才是最值钱的,分析数据的能力绝对重要,无论是简单分析,还是深入分析,要有对数据的敏感度。大家一起学习,加油

    使用道具

    地板
    prescottwong 发表于 2014-10-24 20:34:19 |只看作者 |坛友微信交流群
    大数据的威力在慢慢酝酿,威力初现。

    使用道具

    7
    wmt6008 发表于 2014-10-24 22:46:20 |只看作者 |坛友微信交流群
    提高有效数据的提取和处理分析能力,是时代要求。

    使用道具

    8
    fin-qq 发表于 2014-10-29 10:22:28 |只看作者 |坛友微信交流群
    谢谢分享

    使用道具

    9
    fin-qq 发表于 2014-10-29 10:22:32 |只看作者 |坛友微信交流群
    谢谢分享

    使用道具

    10
    victorjefferson 发表于 2014-10-29 17:39:24 |只看作者 |坛友微信交流群
    谢谢,学习了

    使用道具

    您需要登录后才可以回帖 登录 | 我要注册

    本版微信群
    加好友,备注jltj
    拉您入交流群

    京ICP备16021002-2号 京B2-20170662号 京公网安备 11010802022788号 论坛法律顾问:王进律师 知识产权保护声明   免责及隐私声明

    GMT+8, 2024-4-24 10:28