Contents
Preface ix
1 Summary and Display of Data 1
1.1 Random Number Generators . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Samples, Histograms, and Numerical Characteristics . . . . . . . . . . . . . . . . . . . 4
1.3 Exploratory Data Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.4 Graphical Comparisons of Data Sets . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.5 Time Sequences . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.6 Scatter Plots, Least Squares, and Correlation . . . . . . . . . . . . . . . . . . . . . . . 12
2 Probability 19
2.1 Properties of Probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.2 Methods of Enumeration . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.3 Conditional Probability . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26
2.4 Independent Events . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.5 Bayes's Formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
3 Discrete Distributions 35
3.1 Random Variables of the Discrete Type . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.2 Mathematical Expectation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
3.3 The Mean, Variance, and Standard Deviation . . . . . . . . . . . . . . . . . . . . . . . 40
3.4 The Discrete Uniform and Hypergeometric Distributions . . . . . . . . . . . . . . . . . 44
3.5 Bernoulli Trials and The Binomial Distribution . . . . . . . . . . . . . . . . . . . . . . 50
3.6 Geometric and Negative Binomial Distributions . . . . . . . . . . . . . . . . . . . . . . 54
3.7 The Poisson Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60
3.8 Generating Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
4 Continuous Distributions 67
4.1 Random Variables of the Continuous Type . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.2 The Uniform and Exponential Distributions . . . . . . . . . . . . . . . . . . . . . . . . 69
4.3 The Gamma and Chi-Square Distributions . . . . . . . . . . . . . . . . . . . . . . . . . 73
4.4 The Normal Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
4.5 Distributions of Functions of a Random Variable . . . . . . . . . . . . . . . . . . . . . 77
4.6 Mixed Distributions and Censoring . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 80
4.7 Simulation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
5 Sampling Distribution Theory 87
5.1 Independent Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87
5.2 Distributions of Sums of Independent Random Variables . . . . . . . . . . . . . . . . . 90
5.3 Random Functions Associated with Normal Distributions . . . . . . . . . . . . . . . . 95
5.4 The Central Limit Theorem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 97
5.5 Approximations of Discrete Distributions . . . . . . . . . . . . . . . . . . . . . . . . . 104
5.6 Limiting Moment-Generating Functions . . . . . . . . . . . . . . . . . . . . . . . . . . 108
5.7 The t and F Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 110
6 Estimation 115
6.1 Point Estimation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 115
6.2 Con¯dence Intervals for Means . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
6.3 Con¯dence Intervals for Variances . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
6.4 Con¯dence Intervals for Proportions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
6.5 Sample Size . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132
7 Tests of Statistical Hypotheses 135
7.1 Tests about Proportions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 135
7.2 Power Function and Sample Size . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
7.3 Tests about One Mean and One Variance . . . . . . . . . . . . . . . . . . . . . . . . . 140
7.4 Tests of the Equality of Two Variances . . . . . . . . . . . . . . . . . . . . . . . . . . . 143
7.5 Graphical Methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145
7.6 The Basic Chi-Square Statistic . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
7.7 Testing Probabilistic Models . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148
7.8 Contingency Tables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 151
8 Linear Models 157
8.1 One-Factor Analysis of Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
8.2 Two-Factor Analysis of Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159
8.3 Regression Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 162
9 Quality Improvement Through Statistical Methods 171
9.1 Understanding Variability and Control Charts . . . . . . . . . . . . . . . . . . . . . . . 171
10 Nonparametric Methods 175
10.1 Order Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
10.2 Con¯dence Intervals for Percentiles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181
10.3 Binomial Tests for Percentiles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 182
10.4 The Wilcoxon Test . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 184
10.5 Two-Sample Distribution-Free Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187
10.6 Run Test and Test for Randomness . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
10.7 Kolmogorov{Smirnov Goodness-of-Fit Test . . . . . . . . . . . . . . . . . . . . . . . . 192
11 Multivariate Distributions 195
11.1 Multivariate Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
11.2 The Correlation Coe±cient . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201
11.3 Conditional Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204
11.4 The Bivariate Normal Distribution . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
11.5 Correlation Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
11.6 Transformations of Random Variables . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
12 Theory of Statistical Inference 219
12.1 Asymptotic Distributions of MLE's . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
12.2 Chebyshev's Inequality . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219
A A Brief Introduction to Maple 223
A.1 Basic Syntax . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
A.2 Maple Expressions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224
A.3 Assignments and Recall . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 225
A.4 Maple Notation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226
A.5 A Sample Session . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226
A.6 Exercises . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229
B The Statistics Supplement to Maple 231
B.1 The List Data Structure . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
B.2 Procedures for Descriptive Statistics . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232
B.3 Random Sample Generators . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234
B.4 Plotting Routines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
B.5 Regression and Correlation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
B.6 p.d.f.'s of Some Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241
B.7 c.d.f.'s of Some Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 242
B.8 Percentiles of Some Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243
B.9 Samples from Sampling Distributions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
B.10 Con¯dence Intervals . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244
B.11 Analysis of Variance . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245
B.12 Goodness of Fit Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 250
B.13 Nonparametric Tests . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 254
B.14 Miscellaneous Items . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255
C Table of Random Numbers 259
D Data 261
E Index 271