楼主: 丘延君
3081 102

[书籍介绍] (原创)免费分享:李航《统计学习方法》笔记——从原理到实现:基于R   [推广有奖]

  • 1关注
  • 5粉丝

博士生

43%

还不是VIP/贵宾

-

威望
0
论坛币
4378 个
学术水平
35 点
热心指数
35 点
信用等级
34 点
经验
14174 点
帖子
103
精华
1
在线时间
307 小时
注册时间
2014-12-4
最后登录
2017-9-24
兴趣爱好
R,java,Python,Hadoop,SQL

丘延君 发表于 2017-9-11 11:32:43 |显示全部楼层
李航《统计学习方法》笔记 --从原理到实现:基于R.pdf (1.41 MB) 李航统计学习方法笔记代码.rar (22.29 KB)
最近在看李航的《统计学习方法》,在看的过程中自己整理了一份笔记
整理这份笔记耗时一个月,中间稍有断续,希望对各位ML爱好者有帮助啦。
笔记的内容包括:
1·书本某些证明的推导
2·个人对某些问题的思考
3·1-10章算法的R语言实现
(自己根据书本的算法编了一批函数,这种尝试还是相当有趣的)
4·用编写的函数重现了书本许多例题的求解过程,并以书本的例题核对编写的函数的正确性
编写这本笔记的初衷:
1·网上有一些用python实现《统计学习方法》里算法的博文,奈何我并不会python
2·找不到一本成册的便于阅读的学习笔记
......
笔记简介:
名称:李航《统计学习方法》笔记——从原理到实现:基于R
page:221
目录:
第一章  统计学习方法概论        6
1.6.2 泛化误差上界(P16-P17)        6
1.4.2 过拟合与模型选择(P11)        8
第二章  感知机        11
2.3.1 感知机学习算法的原始形式(P28-P29)        11
2.3.2 算法的收敛性(Novikoff定理)(P31-P33)        12
2.3.3 感知机学习算法的对偶形式(P33-P34)        14
2.3.1 感知机算法的原始形式(P28-P29)        15
2.3.3 感知机学习算法的对偶形式(P33-P34)        22
第三章   近邻法        26
3.2.2 距离度量(P39)        26
3.3.1 构造 树(P41-P42)        30
第四章  朴素贝叶斯算法        36
4.1.1 基本方法(P47-P48)        36
4.1.2 后验概率最大化的含义(P48-49)        36
4.2.1 极大似然估计(P49)        38
4.2.2 学习与分类算法(P50-51)        39
第五章  决策树        46
5.2.2 信息增益(P60-P61)        46
5.2.3 信息增益比(P63)        47
5.3.1 ID3算法/C4.5算法(P63-P65)        52
5.4 决策树的剪枝(P65-P67)        56
5.5.1 CART生成(P68-P71)        59
5.5.2 CART剪枝(P72-P73)        67
第六章  逻辑斯蒂回归与最大熵模型        73
6.1.3 逻辑斯蒂回归模型的参数估计(P79)        73
6.2.3 最大熵模型的学习(P83-P85)        91
6.2.4 极大似然估计(P87)        92
6.3.1 改进的迭代尺度算法(P89-P91)        93
第七章  支持向量机        94
7.1.3 间隔最大化(P101)        94
7.1.4 学习的对偶算法(P104)        96
7.2.3 支持向量(P113)        96
7.4 序列最小最优化算法(P126)        97
第八章  提升方法        112
8.1.2 Adaboost算法(P139)        112
8.2 AdaBoost算法的训练误差分析(P142-P145)        113
8.3.2 前向分步算法与AdaBoost(P145-P146)        114
8.4.3 梯度提升(P151)        116
8.1.3 AdaBoost的例子(P140)        117
第九章  EM算法及其推广        126
9.2 EM算法的收敛性(P161)        126
9.3.1 高斯混合模型(P163)        126
9.4 EM算法的推广(P167)        127
9.3.1 高斯混合模型的EM算法(165)        128
第十章  隐马尔可夫模型        132
10.2.2 前向算法(P175-P176)        132
10.2.3 后向算法(P178-P179)        133
10.4.2 维特比算法(P185)        135
10.2.4 一些概率与期望值的计算(P179-P180)        136
10.2.2 前向算法(P175-P177)        137
10.2.3 后向算法(P178)        143
10.2.4 一些概率与期望值的计算(P179-P178)        146
10.3.1 监督学习方法(P180)        151
10.3.2 Baum-Welch算法(P181-P184)        156
10.4.1 近似算法(P184)        162
10.4.2  维特比算法(P185-P186)        166
十一章  条件随机场        173
参考文献        174
附录1 例1.1的R实现/训练误差与预测误差的对比        177
附录2 线性可分/不可分感知机的R实现        179
附录3 离散特征的2维平衡kd树R代码        182
附录4 离散特征的朴素贝叶斯法R代码        186
附录5 决策树的实现的R代码        188
附录6 逻辑斯蒂回归及最大熵模型的R实现        192
附录7 基于SMO算法的支持向量机的R实现        200
附录8 提升算法的R代码        206
附录9 EM算法的R实现        209
附录10 HMM模型的R实现        211





支持楼主:购买VIP购买贵宾 购买后,论坛将奖励 10 元论坛资金给楼主,以表示您对TA发好贴的支持
 
载入中......
已有 7 人评分经验 论坛币 学术水平 热心指数 信用等级 收起 理由
sfhsky + 20 + 1 精彩帖子
zl89 + 80 精彩帖子
2010517155lpq + 100 + 2 + 2 + 2 精彩帖子
ee_da_da + 5 + 5 + 5 精彩帖子
dixiahe + 1 精彩帖子
jerker + 5 + 5 + 5 + 5 精彩帖子
aclyang + 40 精彩帖子

总评分: 经验 + 201  论坛币 + 45  学术水平 + 13  热心指数 + 12  信用等级 + 12   查看全部评分

本帖被以下文库推荐

stata SPSS
军旗飞扬 发表于 2017-9-11 12:14:08 |显示全部楼层
谢谢楼主分享!
已有 1 人评分经验 收起 理由
dixiahe + 1 精彩帖子

总评分: 经验 + 1   查看全部评分

回复

使用道具 举报

丘延君 发表于 2017-9-11 12:42:29 |显示全部楼层
军旗飞扬 发表于 2017-9-11 12:14
谢谢楼主分享!
已有 2 人评分经验 学术水平 热心指数 信用等级 收起 理由
ee_da_da + 5 + 5 + 5 精彩帖子
dixiahe + 1 精彩帖子

总评分: 经验 + 1  学术水平 + 5  热心指数 + 5  信用等级 + 5   查看全部评分

回复

使用道具 举报

西门高 发表于 2017-9-11 12:53:44 来自手机 |显示全部楼层
丘延君 发表于 2017-9-11 11:32
最近在看李航的《统计学习方法》,在看的过程中自己整理了一份笔记
整理这份笔记耗时一个月,中间稍有断 ...
谢谢分享
已有 1 人评分经验 收起 理由
dixiahe + 1 精彩帖子

总评分: 经验 + 1   查看全部评分

回复

使用道具 举报

Danniel_Mark 发表于 2017-9-11 13:48:42 |显示全部楼层
谢谢分享
已有 1 人评分经验 收起 理由
dixiahe + 1 精彩帖子

总评分: 经验 + 1   查看全部评分

回复

使用道具 举报

Crsky7 发表于 2017-9-11 13:49:39 |显示全部楼层
把R换成Python就完美了
已有 1 人评分经验 收起 理由
dixiahe + 1 精彩帖子

总评分: 经验 + 1   查看全部评分

回复

使用道具 举报

丘延君 发表于 2017-9-11 14:48:25 来自手机 |显示全部楼层
Crsky7 发表于 2017-9-11 13:49
把R换成Python就完美了
奈何并不会Python
已有 2 人评分经验 学术水平 热心指数 信用等级 收起 理由
ee_da_da + 5 + 5 + 5 精彩帖子
dixiahe + 1 精彩帖子

总评分: 经验 + 1  学术水平 + 5  热心指数 + 5  信用等级 + 5   查看全部评分

回复

使用道具 举报

Luxinne 发表于 2017-9-11 14:59:40 来自手机 |显示全部楼层
感谢
已有 1 人评分经验 收起 理由
dixiahe + 1 精彩帖子

总评分: 经验 + 1   查看全部评分

回复

使用道具 举报

仰望自己星空 学生认证  发表于 2017-9-11 15:07:40 来自手机 |显示全部楼层
丘延君 发表于 2017-9-11 11:32
最近在看李航的《统计学习方法》,在看的过程中自己整理了一份笔记
整理这份笔记耗时一个月,中间稍有断 ...
谢谢楼主
已有 1 人评分经验 收起 理由
dixiahe + 1 精彩帖子

总评分: 经验 + 1   查看全部评分

回复

使用道具 举报

dixiahe 发表于 2017-9-11 15:16:16 来自手机 |显示全部楼层
丘延君 发表于 2017-9-11 11:32
最近在看李航的《统计学习方法》,在看的过程中自己整理了一份笔记
整理这份笔记耗时一个月,中间稍有断 ...
不错 支持
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 我要注册

GMT+8, 2017-9-24 16:29