Question about LR test in MLE

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

Original LR test includes ll(unconstraint)=ll(a)+ll(b), ll(constraint)=ll(a&b) with a restriction of df=2, chi square=-2( ll(constraint)-ll(unconstraint))

Now modify one value in original model and generates two more final results, in original model have variable w=1, in two new models w=0.5, w=3
now need to test the null hypothesis the best between the three is a=1,   how to do LR test?

ll(unconstraint)=max {ll(action&belief)-ll(action)-ll(belief)), w=0.5, 1, 3}
ll(constraint)={ll(action&belief)-ll(action)-ll(belief)), w=1}
with the original ristriction gives a df=2, in this new test df=3

is this right?

dissertation deadline approaching, sos .....

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：question About Quest test Bout

= = = = = = = = = = = =

5555 没人理么

看不懂你的表述啊，a是啥？b是啥？a&b又是啥？

其实大家都想帮你，问题是你有你的模型表述方式，但能不能写的更一般化一点？让大家都能看懂？

第一步就没看明白，我猜a和b各是一个标量的参数，那么unrestricted很好理解，没问题，问题是a&b是什么？如果我把a&b理解为一个f(a,b)=0,那么这个 df 就应该是1啊……如果你是想把a，b restrict成某两个已知的数，那么为什么要写成a&b呢？

……很多不理解……

= = 啊。。。上次电脑上没有中文。。。这次重新写清楚一点吧。。。。
简单来说现在有两份data，分别是action 和 stated belief，然后分别从两份data中推出 underlying belief，然后null hypothesis是两份data中的underlying belief相同，于是现在有三个ln L，分别是action data中出来的，stated belief 中出来的和 加入restriction之后两份data同时做MLE的时候出来的，分别表示为ll(a),ll(b)和ll(a&b),  简单来说其实就是ll(unconstraint)=ll(a)+ll(b)然后ll(constraint)=ll(a&b), 在这里面做LR test，就是ll(unconstraint)-ll(constraint)=ll(a)+ll(b)-ll(a&b)
现在的问题是，我把以上的过程重复做了三遍，在MLE的过程中改变了一个系数，现在有三个系数所导出的结果，分别是w=0.5, 1, 3. 然后现在就分别有三个ll(a),ll(b)和ll(a&b),  现在的null hypothesis是 这三个系数中最好的w是w=1，应该怎么做？
所谓的最好应该是指最consistent，也就是说在w给定的时候ll(a)+ll(b)-ll(a&b)最接近于0吧，那么是不是应该设成
ll(unconstraint)=max {ll(action&belief)-ll(action)-ll(belief)), w=0.5, 1, 3}
ll(constraint)={ll(action&belief)-ll(action)-ll(belief)), w=1}
不过这样好像感觉也不大对啊。。。。 求指导。。。
（= = 表述很混乱，大家耐着性子帮我看看啊。。。）

另外再求问，两组并列的数据，能有什么方法求他们之间的相似程度么？如果 correlation coefficient=1 外加两组数据分别sum up结果相同，可以得到他们之间相似的结论么？所谓相似就是说1.111和1.112的意思。。。=  = 好像找不到什么好的表述方式。。。

我并不是介意你用英语表述，事实证明你的中文表述还不如你的英语表述……更乱……

LR test是这样的，你有一组数据 D ，你有一些参数 par, 你想要测试一些条件 r(par) =0，比如某个par是零，或者某两个par相等，你有一个LogLikelihood function LL( par | D )，先无条件的最大化一下，得到一个LL0，在有条件下最大化一下，得到LL1，然后取差乘以-2。

我痛苦的仔细的反复的看了你的例子……最多理解如下，

你有两组数据，我将他们称之为数据A部分，和数据B部分，你有一个参数，如果单独对A部分数据做MLE，得到par1和LL01，如果单独对B部分数据做MLE，得到par2和LL02.，对吧？

你想测试par1是否等于par2，然后你把两部分数据合起来做一个MLE，又得到一个par3和LL1，这个是restricted model下得到的评估值。

如果我理解的正确，你就直接把LL01加上LL02 再减去 LL1，乘以2，这就是LR。DF就是条件数。

w是啥？貌似我们的术语不属于一个系统啊？

你理解的都正确啊。。。 是我说的里面的前一部分。。。
等于说我现在重新修改了一下用来做MLE的equation中的某个系数，然后重复了你说的那个过程，在原先过程中这个系数w=1,现在我把这个系数改成了别的值，现在我就有了另外的两个结果，然后我想知道怎么去找这三个结果中最好的结果，也就是说我要在这三个系数中找一个最合适的系数，该怎么弄？
我最初的设想就是希望你说的数据A部分和数据B部分是consistent的，也就是说restricted model之下得出的结果和unrestricted model下做出的结果应该是consistent的，在这样的设想下找的这三个系数w，然后想看在哪个系数w这个结果最consistent，这样的情况下能用LR test来做么？

不得不从原理上来讲了……LR test只是一个检验假说可信度的东西，仅此而已！如果LR通过了，那么只能说明，不能拒绝该假说，仅此而已！这样的通过，在统计学上来说，只是说，假说不能被武断拒绝，但是没说假说一定成立！如果LR被拒绝了，只是说这个假说可信度不高，仅此而已！假说是否被拒绝，一般都是看P值，如果P值实在是小的离谱，都能赶上火星撞地球那种，当然是拒绝了，如果虽然小，但还不至于离谱，假说是否成立，还得继续加大样本才能完全决定！

我从你的例子里，看出点逻辑上的问题……你还有个参数w，对吧？这个参数w，到底是已知还是未知啊？？如果是已知，我看到你都设为常数来着……那何必换呢？如果不是已知的，那你干嘛不一起放进par里，一起用来max呢？你把w分别设为0.5,1,3，然后做了三次LR test，一共max了六次，对吧？你仔细思考一下，如果w是已知，换三次有什么意义？这有违已知的前提……如果w是未知，你把w换了三次值，我们一般将这种Likelihood称为conditional likelihood，这种结果要表述的是：当w分别为0.5,1,3时（注意，这已经成了assumption的一部分了），判断null hypothesis（a&b）是否成立的LR test。w不同值之间的LR，没有可比性！

记住一点，经典统计学（特指，不是贝叶斯）里，假说检验试验，对于非嵌套（non nested）模型（比如，restricted model和unrestricted model就是嵌套的），没有任何比较意义！你这个就是non nested models comparison，LR是没有意义的……

谢谢解释！ 我也是一直觉得互相之间好像不能用 LR 来做。。。但是又不知道该怎么个弄法。。。。
那可以比较三个w情况下做出来的p value吗？等于说比较在不同w取值下null hypothesis 成立的可能性的大小。。。这个可以做比较么？
我文章的出发点就是在w=1的情况下Null hypothesis是reject的，我想证明w取其他值的时候null hypthoesis 是可以accept的，现在改了w取值之后得到了不同的p value， 可以把P value拿出来直接对比，证明在w取其他值的时候null hypthoesis更可能成立么？