交叉项：中心化与多重共线性

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

关于交叉项问题，很多人认为在模型中加入交叉项时需要对变量进行中心化，认为这样能够解决多重共线性问题，实际上这种想法是错误的。首先我们从源头上解释有这种想法的原因，我们举一个例子看看。

1. * Example generated by -dataex-. To install: ssc install dataex
   
2. clear
   
3. input double(y x1 x2)
   
4. 4 2 3
   
5. 5 3 4
   
6. 4 4 7
   
7. 7 5 6
   
8. 8 3 5
   
9. 9 7 7
   
10. 8 8 3
    
11. end
    
12. gen x1_x2=x1*x2    //生成交叉项
    
13. collin x1 x2 x1_x2
    
14. (obs=7)
    
15. 
    
16.   Collinearity Diagnostics
    
17. 
    
18.                         SQRT                   R-
    
19.   Variable      VIF     VIF    Tolerance    Squared
    
20. ----------------------------------------------------
    
21.         x1      8.37    2.89    0.1194      0.8806
    
22.         x2      8.92    2.99    0.1121      0.8879
    
23.      x1_x2     18.87    4.34    0.0530      0.9470
    
24. ----------------------------------------------------
    
25.   Mean VIF     12.05
    
26. 
    
27.                            Cond
    
28.         Eigenval          Index
    
29. ---------------------------------
    
30.     1     3.7550          1.0000
    
31.     2     0.1435          5.1162
    
32.     3     0.0979          6.1938
    
33.     4     0.0037         31.8179
    
34. ---------------------------------
    
35. Condition Number        31.8179
    
36. Eigenvalues & Cond Index computed from scaled raw sscp (w/ intercept)
    
37. Det(correlation matrix)    0.0514

复制代码

这里的condition number 为31.8179，大于15而且大于30，于是很多人会认为多重共线性相当严重。实际上这是错误的想法，对共线性的检验，我们应该采用中心化后的变量进行collin检验，这样才能真正判断是否存在共线性，我们采用collin,corr命令对中心化后的变量进行多重共线性检验。

1. (obs=7)
   
2. 
   
3.   Collinearity Diagnostics
   
4. 
   
5.                         SQRT                   R-
   
6.   Variable      VIF     VIF    Tolerance    Squared
   
7. ----------------------------------------------------
   
8.         x1      8.37    2.89    0.1194      0.8806
   
9.         x2      8.92    2.99    0.1121      0.8879
   
10.      x1_x2     18.87    4.34    0.0530      0.9470
    
11. ----------------------------------------------------
    
12.   Mean VIF     12.05
    
13. 
    
14.                            Cond
    
15.         Eigenval          Index
    
16. ---------------------------------
    
17.     1     2.1439          1.0000
    
18.     2     0.8271          1.6100
    
19.     3     0.0290          8.5989
    
20. ---------------------------------
    
21. Condition Number         8.5989
    
22. Eigenvalues & Cond Index computed from deviation sscp (no intercept)
    
23. Det(correlation matrix)    0.0514

复制代码

此时我们会发现，condition number=8.5989<15,说明模型并不存在多重共线性。这个结果才是我们需要汇报在文章中的（如果你想检验共线性的，当然我基本上不做共线性检验）。这就是很多人误以为中心化能减少共线性的原因，因为他认为中心化和非中心化能得到不同的结果，而我认为共线性检验的正确做法是上述第二种，也就是说x1 x2的共线性检验应该是中心化后再做collin检验。
实际上你会发现，无论你在模型中使用原始变量还是中心化变量，对系数估计并没有影响，这一点在黄河泉老师的PPT里讲的比较详细，我就不班门弄斧了。简单给出结果，大家看一下：

1. center x1 x2
   
2. 
   
3. reg y x1 x2 x1_x2
   
4. 
   
5. 
   
6. 
   
7.       Source |       SS           df       MS      Number of obs   =         7
   
8. -------------+----------------------------------   F(3, 3)         =      1.06
   
9.        Model |  13.2183951         3  4.40613169   Prob > F        =    0.4821
   
10.     Residual |  12.4958906         3  4.16529688   R-squared       =    0.5140
    
11. -------------+----------------------------------   Adj R-squared   =    0.0281
    
12.        Total |  25.7142857         6  4.28571429   Root MSE        =    2.0409
    
13. 
    
14. ------------------------------------------------------------------------------
    
15.            y |      Coef.   Std. Err.      t    P>|t|     [95% Conf. Interval]
    
16. -------------+----------------------------------------------------------------
    
17.           x1 |      0.257      1.083     0.24   0.828       -3.191       3.705
    
18.           x2 |     -0.428      1.437    -0.30   0.785       -5.001       4.146
    
19.        x1_x2 |      0.095      0.253     0.38   0.732       -0.711       0.902
    
20.        _cons |      5.160      6.156     0.84   0.463      -14.431      24.751
    
21. ------------------------------------------------------------------------------
    
22. 
    
23. . reg y c_x1 c_x2 c.x1#c.x2
    
24. 
    
25. 
    
26.       Source |       SS           df       MS      Number of obs   =         7
    
27. -------------+----------------------------------   F(3, 3)         =      1.06
    
28.        Model |  13.2183951         3  4.40613169   Prob > F        =    0.4821
    
29.     Residual |  12.4958906         3  4.16529688   R-squared       =    0.5140
    
30. -------------+----------------------------------   Adj R-squared   =    0.0281
    
31.        Total |  25.7142857         6  4.28571429   Root MSE        =    2.0409
    
32. 
    
33. ------------------------------------------------------------------------------
    
34.            y |      Coef.   Std. Err.      t    P>|t|     [95% Conf. Interval]
    
35. -------------+----------------------------------------------------------------
    
36.         c_x1 |      0.257      1.083     0.24   0.828       -3.191       3.705
    
37.         c_x2 |     -0.428      1.437    -0.30   0.785       -5.001       4.146
    
38.              |
    
39.    c.x1#c.x2 |      0.095      0.253     0.38   0.732       -0.711       0.902
    
40.              |
    
41.        _cons |      4.197      5.987     0.70   0.534      -14.857      23.251
    
42. ------------------------------------------------------------------------------
    
43. 
    
44. 
    
45. 
    
46. . reg y c.c_x1##c.c_x2
    
47. 
    
48.       Source |       SS           df       MS      Number of obs   =         7
    
49. -------------+----------------------------------   F(3, 3)         =      1.06
    
50.        Model |  13.2183951         3  4.40613169   Prob > F        =    0.4821
    
51.     Residual |  12.4958906         3  4.16529688   R-squared       =    0.5140
    
52. -------------+----------------------------------   Adj R-squared   =    0.0281
    
53.        Total |  25.7142857         6  4.28571429   Root MSE        =    2.0409
    
54. 
    
55. -------------------------------------------------------------------------------
    
56.             y |      Coef.   Std. Err.      t    P>|t|     [95% Conf. Interval]
    
57. --------------+----------------------------------------------------------------
    
58.          c_x1 |      0.733      0.456     1.61   0.207       -0.719       2.186
    
59.          c_x2 |      0.008      0.525     0.02   0.989       -1.663       1.679
    
60.               |
    
61. c.c_x1#c.c_x2 |      0.095      0.253     0.38   0.732       -0.711       0.902
    
62.               |
    
63.         _cons |      6.374      0.785     8.12   0.004        3.876       8.872
    
64. -------------------------------------------------------------------------------
    
65. 
    
66. 
    
67. . reg y x1 x2 c.c_x1#c.c_x2
    
68. 
    
69.       Source |       SS           df       MS      Number of obs   =         7
    
70. -------------+----------------------------------   F(3, 3)         =      1.06
    
71.        Model |  13.2183951         3  4.40613169   Prob > F        =    0.4821
    
72.     Residual |  12.4958906         3  4.16529688   R-squared       =    0.5140
    
73. -------------+----------------------------------   Adj R-squared   =    0.0281
    
74.        Total |  25.7142857         6  4.28571429   Root MSE        =    2.0409
    
75. 
    
76. -------------------------------------------------------------------------------
    
77.             y |      Coef.   Std. Err.      t    P>|t|     [95% Conf. Interval]
    
78. --------------+----------------------------------------------------------------
    
79.            x1 |      0.733      0.456     1.61   0.207       -0.719       2.186
    
80.            x2 |      0.008      0.525     0.02   0.989       -1.663       1.679
    
81.               |
    
82. c.c_x1#c.c_x2 |      0.095      0.253     0.38   0.732       -0.711       0.902
    
83.               |
    
84.         _cons |      2.983      2.868     1.04   0.375       -6.143      12.109
    
85. -------------------------------------------------------------------------------

复制代码

实际上上述结果是完全一致的，前两种可能要结合经济含义手动算一下就可以得到后两种的结果。

1. reg y x1 x2 x1_x2
   
2. sum x2
   
3. dis _b[x1]+`r(mean)'*_b[x1_x2]
   
4. .73314654
   
5. sum x1
   
6. dis _b[x2]+`r(mean)'*_b[x1_x2]
   
7. .0078985

复制代码

所以说中心化并不会解决多重共线性问题，如果你看懂我一开始说道理，原因很简单，那就是我们检验共线性时应该直接对中心化的变量做检验，这样得到的结果就是原始变量的多重共线性检验结果。

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏9 回帖

关键词：多重共线性 多重共线 交叉项 共线性 中心化

那为啥还要中心化？

Bono 发表于 2021-7-8 08:11
那为啥还要中心化？

所以交叉项这里不必中心化

Bono 发表于 2021-7-8 08:11
那为啥还要中心化？

所以交叉项这里不必中心化

知行合一,感谢分享知识.

zdlspace 发表于 2021-7-8 10:45
所以交叉项这里不必中心化

如果要中心化的话，
c_x1#c_x2
和
c.c_x1#c.c_x2
有什么区别

Bono 发表于 2021-7-8 11:24
如果要中心化的话，
c_x1#c_x2
和

这是因子变量的写法，第二种是对的，第一种是错的，Stata识别不了

zdlspace 发表于 2021-7-8 11:33
这是因子变量的写法，第二种是对的，第一种是错的，Stata识别不了

谢谢！
经常在不同的论文里面看到有对变量“中心化”和“去中心化”两种处理方式，请问“中心化”和“去中心化”有什么区别？为什么要这么处理？谢谢！

Bono 发表于 2021-7-8 16:57
谢谢！
经常在不同的论文里面看到有对变量“中心化”和“去中心化”两种处理方式，请问“中心化”和“去 ...

在我这个帖子中，是否中心化，效果一样。

zdlspace 发表于 2021-7-8 18:02
在我这个帖子中，是否中心化，效果一样。

好的，谢谢！