Logistic回归，算法不聚合和拟合概率为0或1-经管之家官网！

小白一枚，程序比较低能……放在最后了。
大概思路是：自变量有11个，都是数值型的。1值的样本是固定的，从900个0值中抽取等量的数据进行逻辑回归。因为样本量比较小，所以做了100次重复抽取，计算回归系数的95%置信区间和显著次数。
然后好几个样本就警告了：

Warning messages:
1: glm.fit:算法没有聚合
2: glm.fit:拟合機率算出来是数值零或一

结果就是回归结果特别飘忽不定，无法得到稳定的回归系数TT
怀疑是自变量多重共线性，计算了kappa值，如下图。
数据都不怎么好，这是抽样100次的结果，只有samp3的均值在100以下，而高亮的是回归后出现多次不聚合或P=1的样本，好像没有直接关系啊，kappa值高的也有能聚合的，kappa值低的也有不聚合的><
另外，查到说共线性可以用step逐步回归解决的，但是尝试后发现结果还是不聚合啊吐血……
所以想问一下:
1、出现不聚合和拟合概率为0或1的情况，原因是什么？
2、多重共线性应当如何处理？扩大样本量是不现实了，如何判断哪个因子共线性高从而剔除之？
3、感觉11个因子太多了，如何进行模型的筛选和优化？
跪谢！
附上低能程序（好羞耻><）

1. for (i in 1:time)
   
2. {
   
3. j <- sample(1:n0,n1,replace = TRUE)
   
4. samp <- samp0[j,]
   
5. data <- rbind(samp1,samp)
   
6. y <- data$y
   
7. x1 <- data$lai1
   
8. x2 <- data$lai2
   
9. x3 <- data$zhu
   
10. x4 <- data$yan
    
11. x5 <- data$density
    
12. x6 <- data$H
    
13. x7 <- data$h
    
14. x8 <- data$K
    
15. x9 <- data$N
    
16. x10 <- data$P
    
17. x11 <- data$organics
    
18. logit <- glm(y~x1+x2+x3+x4+x5+x6+x7+x8+x9+x10+x11,family=binomial)
    
19. 
    
20. for (k in 1:11)
    
21. {
    
22. r[i,k] <- logit$coefficients[k+1]
    
23. P <- summary(logit)$coefficients[k+1,4]
    
24. if (P<0.01){
    
25. P.001[k] <- P.001[k]+1
    
26. }else{
    
27. if(P<0.05){
    
28. P.005[k] <- P.005[k]+1
    
29. }else{
    
30. P.NO[k] <- P.NO[k]+1
    
31. }
    
32. }
    
33. }
    
34. AIC <- c(AIC,AIC(logit))
    
35. BIC <- c(BIC,BIC(logit))
    
36. pR2 <- c(pR2,pR2(logit)[4])
    
37. }

复制代码

扫码或添加微信号：坛友素质互助

「经管之家」APP：经管人学习、答疑、交友，就上经管之家！
免流量费下载资料----在经管之家app可以下载论坛上的所有资源，并且不额外收取下载高峰期的论坛币。
涵盖所有经管领域的优秀内容----覆盖经济、管理、金融投资、计量统计、数据分析、国贸、财会等专业的学习宝库，各类资料应有尽有。
来自五湖四海的经管达人----已经有上千万的经管人来到这里，你可以找到任何学科方向、有共同话题的朋友。
经管之家（原人大经济论坛），跨越高校的围墙，带你走进经管知识的新世界。
扫描下方二维码下载并注册APP