深度学习的数学理论的书籍

相似文件 换一批

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

学习深度学习离不开统计理论和数学理论，这是一本Algebra, Topology, Differential Calculus, andOptimization Theory的书籍，适合于计算科学和机器学习的同学学习，目录如下：
Contents 3
1 Introduction 17
2 Groups, Rings, and Fields 19
2.1 Groups, Subgroups, Cosets . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.2 Cyclic Groups
2.3 Rings and Fields
I Linear Algebra 43
3 Vector Spaces, Bases, Linear Maps 45
3.1 Motivations: Linear Combinations, Linear Independence, Rank . . . . . . . 45
3.2 Vector Spaces .
3.3 Indexed Families; the Sum Notation
P
i2I ai . . . . . . . . . . . . . . . . . . 60
3.4 Linear Independence, Subspaces . . . . . . . . . . . . . . . . . . . . . . . . 66
3.5 Bases of a Vector Space . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
3.6 Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
3.7 Linear Maps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
3.8 Quotient Spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
3.9 Linear Forms and the Dual Space . . . . . . . . . . . . . . . . . . . . . . . . 94
3.10 Summary
4 Matrices and Linear Maps 107
4.1 Representation of Linear Maps by Matrices
4.2 Composition of Linear Maps and Matrix Multiplication . . . . . . . . . . . 112
4.3 Change of Basis Matrix . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117
4.4 The Eect of a Change of Bases on Matrices . . . . . . . . . . . . . . . . . 120
4.5 Summary
4.6 Problems
5 Haar Bases, Haar Wavelets, Hadamard Matrices 131
3
4 CONTENTS
5.1 Introduction to Signal Compression Using Haar Wavelets . . . . . . . . . . 131
5.2 Haar Matrices, Scaling Properties of Haar Wavelets . . . . . . . . . . . . . . 133
5.3 Kronecker Product Construction of Haar Matrices . . . . . . . . . . . . . . 138
5.4 Multiresolution Signal Analysis with Haar Bases . . . . . . . . . . . . . . . 140
5.5 Haar Transform for Digital Images . . . . . . . . . . . . . . . . . . . . . . . 142
5.6 Hadamard Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149
5.7 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
5.8 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
6 Direct Sums 155
6.1 Sums, Direct Sums, Direct Products . . . . . . . . . . . . . . . . . . . . . . 155
6.2 The Rank-Nullity Theorem; Grassmann's Relation

6.4 Problems . . . .
7 Determinants 181
7.1 Permutations, Signature of a Permutation . .
7.2 Alternating Multilinear Maps . . . . . .
7.3 Denition of a Determinant . . . . . .
7.4 Inverse Matrices and Determinants . . .
7.5 Systems of Linear Equations and Determinants .
7.6 Determinant of a Linear Map . . . . . . . . . . . . . . . . . . . . . . . . . . 203
7.7 The Cayley{Hamilton Theorem . . . . . . . . . . . . . . . . . . . . . . . . . 203
7.8 Permanents . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
7.9 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211
7.10 Further Readings . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
7.11 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
8 Gaussian Elimination, LU, Cholesky, Echelon Form 219
8.1 Motivating Example: Curve Interpolation . . . . . . . . . . . . . . . . . . . 219
8.2 Gaussian Elimination . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
8.3 Elementary Matrices and Row Operations . . . . . . . . . . . . . . . . . . . 228
8.4 LU-Factorization . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
8.14 Elementary Matrices and Columns Operations . . . . . . . . . . . . . . . . 281
CONTENTS 5
8.15 Transvections and Dilatations ~
8.16 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 287

9 Vector Norms and Matrix Norms 301
9.1 Normed Vector Spaces .
9.2 Matrix Norms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 312
9.3 Subordinate Norms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317
9.4 Inequalities Involving Subordinate Norms . . . . . . . . . . . . . . . . . . . 324
9.5 Condition Numbers of Matrices . . . . . . . . . . . . . . . . . . . . . . . . . 326
9.6 An Application of Norms: Inconsistent Linear Systems . . . . . . . . . . . . 335
9.7 Limits of Sequences and Series . . . . . . . . . . . . . . . . . . . . . . . . . 336
9.8 The Matrix Exponential . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339
9.9 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342
9.10 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 344
10 Iterative Methods for Solving Linear Systems 351
10.1 Convergence of Sequences of Vectors and Matrices . . . . . . . . . . . . . . 351
10.2 Convergence of Iterative Methods . . . . . . . . . . . . . . . . . . . . . . . . 354
10.3 Methods of Jacobi, Gauss{Seidel, and Relaxation . . . . . . . . . . . . . . . 356
10.4 Convergence of the Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . 364
10.5 Convergence Methods for Tridiagonal Matrices . . . . . . . . . . . . . . . . 367
10.6 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372
10.7 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373
11 The Dual Space and Duality 375
11.1 The Dual Space E and Linear Forms . . . . . . . . . . . . . . . . . . . . . 375
11.2 Pairing and Duality Between E and E . . . . . . . . . . . . . . . . . . . . 382
11.3 The Duality Theorem and Some Consequences . . . . . . . . . . . . . . . . 387
12.1 Inner Products, Euclidean Spaces . . . . . . . . . . . . . . . . . . . . . . . . 413
12.2 Orthogonality and Duality in Euclidean Spaces . . . . . . . . . . . . . . . . 422

12.4 Existence and Construction of Orthonormal Bases . . . . . . . . . . . . . . 432
12.5 Linear Isometries (Orthogonal Transformations) . . . . . . . . . . . . . . . . 439
6 CONTENTS
12.6 The Orthogonal Group, Orthogonal Matrices . . . . . . . . . . . . . . . . . 442
12.7 The Rodrigues Formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 444
12.8 QR-Decomposition for Invertible Matrices . . . . . . . . . . . . . . . . . . . 447
12.9 Some Applications of Euclidean Geometry . . . . . . . . . . . . . . . . . . . 452
12.10 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 453
12.11 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 455
13 QR-Decomposition for Arbitrary Matrices 467
13.1 Orthogonal Re
ections . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 467
13.2 QR-Decomposition Using Householder Matrices . . . . . . . . . . . . . . . . 472
13.3 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 482
13.4 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 482
14 Hermitian Spaces 489
14.1 Hermitian Spaces, Pre-Hilbert Spaces . . . . . . . . . . . . . . . . . . . . . 489
14.2 Orthogonality, Duality, Adjoint of a Linear Map . . . . . . . . . . . . . . . 498
14.3 Linear Isometries (Also Called Unitary Transformations) . . . . . . . . . . . 503
14.4 The Unitary Group, Unitary Matrices . . . . . . . . . . . . . . . . . . . . . 505
14.5 Hermitian Re
ections and QR-Decomposition . . . . . . . . . . . . . . . . . 508
14.6 Orthogonal Projections and Involutions . . . . . . . . . . . . . . . . . . . . 513
14.7 Dual Norms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 516
14.8 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 523
14.9 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 524
15 Eigenvectors and Eigenvalues 529
15.1 Eigenvectors and Eigenvalues of a Linear Map . . . . . . . . . . . . . . . . . 529
15.2 Reduction to Upper Triangular Form . . . . . . . . . . . . . . . . . . . . . . 537
15.3 Location of Eigenvalues . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 541
15.4 Conditioning of Eigenvalue Problems . . . . . . . . . . . . . . . . . . . . . . 544
15.7 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 550
16 Unit Quaternions and Rotations in SO(3) 561
16.1 The Group SU(2) and the Skew Field H of Quaternions . . . . . . . . . . . 561
16.7 Nonexistence of a \Nice" Section from SO(3) to SU(2) . . . . . . . . . . . . 577
16.8 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 579
16.9 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 580
CONTENTS 7
17 Spectral Theorems 583
17.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 583
17.2 Normal Linear Maps: Eigenvalues and Eigenvectors . . . . . . . . . . . . . . 583
17.3 Spectral Theorem for Normal Linear Maps . . . . . . . . . . . . . . . . . . . 589
17.4 Self-Adjoint and Other Special Linear Maps . . . . . . . . . . . . . . . . . . 594
17.5 Normal and Other Special Matrices . . . . . . . . . . . . . . . . . . . . . . . 600
17.6 Rayleigh{Ritz Theorems and Eigenvalue Interlacing . . . . . . . . . . . . . 603
17.7 The Courant{Fischer Theorem; Perturbation Results . . . . . . . . . . . . . 608
17.8 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 611
17.9 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 612
18 Computing Eigenvalues and Eigenvectors 619
18.1 The Basic QR Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . 621
18.2 Hessenberg Matrices . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 627
18.3 Making the QR Method More Ecient Using Shifts . . . . . . . . . . . . . 633
18.4 Krylov Subspaces; Arnoldi Iteration . . . . . . . . . . . . . . . . . . . . . . 638
18.5 GMRES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 642
18.6 The Hermitian Case; Lanczos Iteration . . . . . . . . . . . . . . . . . . . . . 643
18.7 Power Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 644
18.8 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 646
18.9 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 647
19 Introduction to The Finite Elements Method 649
19.1 A One-Dimensional Problem: Bending of a Beam . . . . . . . . . . . . . . . 649
19.2 A Two-Dimensional Problem: An Elastic Membrane . . . . . . . . . . . . . 660
19.3 Time-Dependent Boundary Problems . . . . . . . . . . . . . . . . . . . . . . 663
20 Graphs and Graph Laplacians; Basic Facts 671
20.1 Directed Graphs, Undirected Graphs, Weighted Graphs . . . . . . . . . . . 674
20.2 Laplacian Matrices of Graphs . . . . . . . . . . . . . . . . . . . . . . . . . . 681
20.3 Normalized Laplacian Matrices of Graphs . . . . . . . . . . . . . . . . . . . 685
20.4 Graph Clustering Using Normalized Cuts . . . . . . . . . . . . . . . . . . . 689
20.5 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 691
20.6 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 692
21 Spectral Graph Drawing 695
21.1 Graph Drawing and Energy Minimization . . . . . . . . . . . . . . . . . . . 695
21.2 Examples of Graph Drawings . . . . . . . . . . . . . . . . . . . . . . . . . . 698
21.3 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 702
22 Singular Value Decomposition and Polar Form 705
22.1 Properties of f  f . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 705
22.2 Singular Value Decomposition for Square Matrices . . . . . . . . . . . . . . 709
8 CONTENTS
22.3 Polar Form for Square Matrices . . . . . . . . . . . . . . . . . . . . . . . . . 712
22.4 Singular Value Decomposition for Rectangular Matrices . . . . . . . . . . . 715
22.5 Ky Fan Norms and Schatten Norms . . . . . . . . . . . . . . . . . . . . . . 718
22.6 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 719
22.7 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 719
23 Applications of SVD and Pseudo-Inverses 723
23.1 Least Squares Problems and the Pseudo-Inverse . . . . . . . . . . . . . . . . 723
23.2 Properties of the Pseudo-Inverse . . . . . . . . . . . . . . . . . . . . . . . . 730
23.3 Data Compression and SVD . . . . . . . . . . . . . . . . . . . . . . . . . . . 735
23.4 Principal Components Analysis (PCA) . . . . . . . . . . . . . . . . . . . . . 737
23.5 Best Ane Approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . 748
23.6 Summary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 752
23.7 Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 753
II Ane and Projective Geometry 757
24 Basics of Ane Geometry 759
24.1 Ane Spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 759
24.2 Examples of Ane Spaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . 768
24.3 Chasles's Identity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 769
24.4 Ane Combinations, Barycenters . . . . . . . . . . . . . . . . . . . . . . . . 770
24.5 Ane Subspaces . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 775
24.6 Ane Independence and Ane Frames . . . . . . . . . . . . . . . . . . . . . 781
24.7 Ane Maps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 787
24.8 Ane Groups . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 794

26.4 Projective Frames . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 836
26.5 Projective Maps . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 850
CONTENTS 9
27.5 The Cartan{Dieudonne Theorem for Ane Isometries . . . . . . . . . . . . 945
28 Isometries of Hermitian Spaces 949
28.1 The Cartan{Dieudonne Theorem, Hermitian Case . . . . . . . . . . . . . . . 949
28.2 Ane Isometries (Rigid Motions) . . . . . . . . . . . . . . . . . . . . . . . . 958
29 The Geometry of Bilinear Forms; Witt's Theorem 963
29.1 Bilinear Forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 963
29.2 Sesquilinear Forms . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 971
29.3 Orthogonality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 975
29.4 Adjoint of a Linear Map . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 980
29.5 Isometries Associated with Sesquilinear Forms . . . . . . . . . . . . . . . . . 982

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏2 回帖

关键词：数学理论 深度学习 学理论 学习的 introduction

草根学者辰宇 发表于 2020-11-14 02:22
学习深度学习离不开统计理论和数学理论，这是一本Algebra, Topology, Differential Calculus, andOptimizat ...

Jean Gallier的这本书是开源的！