Nonparametric Econometrics Theory and applications
*this book has R codes as applications
ZONGWU CAI
2007
194pages
Contents
1 Package R and Simple Applications 1
1.1 Computational Toolkits . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 How to Install R ? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.3 Data Analysis and Graphics Using R – An Introduction (109 pages) . . . . . 3
1.4 CRAN Task View: Empirical Finance . . . . . . . . . . . . . . . . . . . . . . 3
1.5 CRAN Task View: Computational Econometrics . . . . . . . . . . . . . . . . 7
2 Estimation of Covariance Matrix 12
2.1 Methodology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
2.2 An Example . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.3 R Commands . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
2.4 Reading Materials – the paper by Zeileis (2004) . . . . . . . . . . . . . . . . 19
2.5 Computer Codes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
3 Density, Distribution & Quantile Estimations 23
3.1 Time Series Structure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.1.1 Mixing Conditions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
3.1.2 Martingale and Mixingale . . . . . . . . . . . . . . . . . . . . . . . . 25
3.2 Nonparametric Density Estimate . . . . . . . . . . . . . . . . . . . . . . . . 26
3.2.1 Asymptotic Properties . . . . . . . . . . . . . . . . . . . . . . . . . . 27
3.2.2 Optimality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
3.2.3 Boundary Problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
3.2.4 Bandwidth Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.2.5 Project for Density Estimation . . . . . . . . . . . . . . . . . . . . . 38
3.2.6 Multivariate Density Estimation . . . . . . . . . . . . . . . . . . . . . 39
3.2.7 Reading Materials . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
3.3 Distribution Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41
3.3.1 Smoothed Distribution Estimation . . . . . . . . . . . . . . . . . . . 41
3.3.2 Relative Efficiency and Deficiency . . . . . . . . . . . . . . . . . . . . 43
3.4 Quantile Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
3.4.1 Value at Risk . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
3.4.2 Nonparametric Quantile Estimation . . . . . . . . . . . . . . . . . . . 46
3.5 Computer Code . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
3.6 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
4 Nonparametric Regression Models 54
4.1 Prediction and Regression Functions . . . . . . . . . . . . . . . . . . . . . . 54
4.2 Kernel Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
4.2.1 Asymptotic Properties . . . . . . . . . . . . . . . . . . . . . . . . . . 56
4.2.2 Boundary Behavior . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58
4.3 Local Polynomial Estimate . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
4.3.1 Formulation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
4.3.2 Implementation in R . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
4.3.3 Complexity of Local Polynomial Estimator . . . . . . . . . . . . . . . 62
4.3.4 Properties of Local Polynomial Estimator . . . . . . . . . . . . . . . 64
4.3.5 Bandwidth Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
4.4 Project for Regression Function Estimation . . . . . . . . . . . . . . . . . . . 70
4.5 Functional Coefficient Model . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
4.5.1 Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
4.5.2 Local Linear Estimation . . . . . . . . . . . . . . . . . . . . . . . . . 72
4.5.3 Bandwidth Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
4.5.4 Smoothing Variable Selection . . . . . . . . . . . . . . . . . . . . . . 74
4.5.5 Goodness-of-Fit Test . . . . . . . . . . . . . . . . . . . . . . . . . . . 74
4.5.6 Asymptotic Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76
4.5.7 Conditions and Proofs . . . . . . . . . . . . . . . . . . . . . . . . . . 78
4.5.8 Monte Carlo Simulations and Applications . . . . . . . . . . . . . . . 85
4.6 Additive Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
4.6.1 Model . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
4.6.2 Backfitting Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . 90
4.6.3 Projection Method . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
4.6.4 Two-Stage Procedure . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
4.6.5 Monte Carlo Simulations and Applications . . . . . . . . . . . . . . . 94
4.6.6 New Developments . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
4.6.7 Additive Model to to Boston House Price Data . . . . . . . . . . . . 95
4.7 Computer Code . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
4.7.1 Example 4.1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 95
4.7.2 Codes for Additive Modeling Analysis of Boston Data . . . . . . . . . 101
4.8 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
5 Nonparametric Quantile Models 107
5.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
5.2 Modeling Procedures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
5.2.1 Local Linear Quantile Estimate . . . . . . . . . . . . . . . . . . . . . 112
5.2.2 Asymptotic Results . . . . . . . . . . . . . . . . . . . . . . . . . . . . 114
5.2.3 Bandwidth Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . 119
5.2.4 Covariance Estimate . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
5.3 Empirical Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
5.3.1 A Simulated Example . . . . . . . . . . . . . . . . . . . . . . . . . . 122
5.3.2 Real Data Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . 125
5.4 Derivations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
CONTENTS iv
5.5 Proofs of Lemmas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138
5.6 Computer Codes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
5.7 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
6 Conditional VaR and Expected Shortfall 148
6.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148
6.2 Setup . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152
6.3 Nonparametric Estimating Procedures . . . . . . . . . . . . . . . . . . . . . 153
6.3.1 Estimation of Conditional PDF and CDF . . . . . . . . . . . . . . . . 154
6.3.2 Estimation of Conditional VaR and ES . . . . . . . . . . . . . . . . . 157
6.4 Distribution Theory . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
6.4.1 Assumptions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
6.4.2 Asymptotic Properties for Conditional PDF and CDF . . . . . . . . . 159
6.4.3 Asymptotic Theory for CVaR and CES . . . . . . . . . . . . . . . . . 162
6.5 Empirical Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
6.5.1 Bandwidth Selection . . . . . . . . . . . . . . . . . . . . . . . . . . . 166
6.5.2 Simulated Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . 166
6.5.3 Real Examples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
6.6 Proofs of Theorems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173
6.7 Proofs of Lemmas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179
6.8 Computer Codes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182
6.9 References . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182