Parametric Statistical Inference in the Zone of Moderate Deviation Probabilities

中等偏差概率區域的參數統計推斷

https://arxiv.org/pdf/2604.24736

摘要

針對中等偏差概率區域，開發了一種參數統計推斷理論。這種新的證明方法基于基于Hellinger距離的對數似然比的泰勒級數展開。證明了貝葉斯估計量和極大似然估計量在中等偏差概率區域的大偏差原理。針對中等偏差概率區域，還建立了對數似然比的一致近似以及關于后驗貝葉斯測度集中的定理。

1 引言

在統計學中，我們不斷遇到小概率。置信估計中的顯著性水平和假設檢驗中的錯誤概率取值都很小。研究此類問題的標準方法是將其視為大偏差和中等偏差概率問題。這就提出了一個問題：“在什么條件下，關于統計量分布正態近似的結果可以擴展到中等偏差概率區域？”對于極大似然估計量和似然比檢驗，一系列工作在相當嚴格的條件下獲得了此類結果 [1, 2, 8, 11, 14, 17]，而這些條件相比于證明其漸近正態性時的條件 [10, 12, 13, 18] 更為嚴格。對于貝葉斯估計量，僅獲得了集中不等式 [10]。這些不等式 [10] 的對數漸近性在階數上是最優的。

此前，為了研究極大似然和似然比估計量的中等偏差概率的漸近性，使用了基于其導數的對數似然比的泰勒級數展開 [1, 2, 8, 11, 14, 17]。在證明似然比的局部漸近正態性（LAN）時，除了這種技術外，還采用了另一種基于Hellinger距離的技術 [9, 10, 13, 18]。我們要使用這后一種技術來研究中等偏差概率區域內的統計推斷理論問題。我們要設法將這種方法為正態近似獲得的主要結果擴展到該區域。我們證明了中等偏差區域內對數似然比的一致LAN定理，建立了中等偏差區域內極大似然和貝葉斯估計量的大偏差原理，并證明了中等偏差區域內后驗貝葉斯測度集中的大偏差原理。我們定理的條件顯著弱于之前證明極大似然估計量和極大似然比檢驗的中等偏差概率定理時的條件 [1, 2, 8, 11, 14, 17]。

第2節介紹了條件和問題設定。上述結果在第3節中給出。證明在隨后的章節中提供。

2 問題陳述

3 主要結果

3.1 中等偏差區域內對數似然比的局部漸近正態性

3.2 極大似然估計量

對于估計量的中等偏差概率問題，關系式 (3.9)–(3.11) 和 (3.13)–(3.15) 證明了在對多維參數進行假設檢驗時，應用似然比檢驗、Wald 檢驗和 Rao 檢驗的等價性。

在定理 3.3 和 3.4 中，假設集合 Θ 是有界的。針對無界集合 Θ 的極大似然估計量 (MLEs) 的中等偏差概率的不等式是在文獻 [10] 第一章的定理 5.1 和 5.4 中獲得的。這些不等式使得將定理 3.3 和 3.4 的證明擴展到無界集合 Θ 的情形成為可能。因此，如果文獻 [10] 第一章定理 5.4 的條件 (1)–(3) 額外成立，那么 (3.6)–(3.15) 對于無界區域 Θ 仍然有效。容易看出，它們可以被以下更簡單的充分條件所替代：

3.3 貝葉斯估計量

3.4 關于后驗貝葉斯測度集中的中等偏差概率

對于任意可測集 A ? Θ ， A 的后驗貝葉斯測度為

4 定理 3.1 和 3.3 的證明

在 4.1 節中，我們證明了對數似然比的有限維逼近的估計式 (3.1)。隨后在 4.2 節中，我們獲得了一致逼近估計，從而完成了定理 3.1 的證明。4.3 節提供了定理 3.3 的證明。

4.2 一致逼近

4.3 定理 3.3 的證明

若一個估計量是不一致的且 Fisher 信息有限，則它在中等偏差區域內滿足 Bahadur 漸近有效性的下界（見文獻[5]定理 2.2）。這一下界與定理 3.3 中 MLE 的下界一致。在文獻[10]第二章定理 3.2 的條件下，MLE 是漸近正態的，因而是不一致的。由于定理 3.3 的條件蘊含了文獻[10]中定理 3.2 的條件，為證明 (3.6)，只需建立上界即可。定義事件：

5 定理 3.5 的證明

原文鏈接：https://arxiv.org/pdf/2604.24736