A Domain-Theoretic Foundation for Imprecise Probability and

Credal Sets

不精確概率與信任集的域論基礎(chǔ)

https://arxiv.org/pdf/2604.09272

摘要

我們開(kāi)發(fā)了一個(gè)域論框架，用于在具有可數(shù)基連續(xù)開(kāi)集格的一般拓?fù)淇臻g上進(jìn)行不精確概率推理和推斷。我們要解決兩種不同形式的不確定性：部分或不完整的事件描述，以及由信任集（credal sets）表示的概率分布集——以及它們的組合。在這個(gè)框架內(nèi)，我們構(gòu)建了條件概率理論，并推導(dǎo)了新的推斷規(guī)則，用于在這兩種互補(bǔ)的不精確性存在的情況下執(zhí)行貝葉斯更新。這些結(jié)果被擴(kuò)展到不精確概率事件的條件獨(dú)立性理論。我們還為條件概率、貝葉斯更新和條件獨(dú)立性制定了邏輯謂詞，并獲得了相關(guān)的可靠性和完備性結(jié)果。一個(gè)關(guān)鍵貢獻(xiàn)是構(gòu)建了從任何信任集到區(qū)間域的 Scott 連續(xù)映射，提供了容量理論和 Choquet 積分經(jīng)典結(jié)果的域論實(shí)現(xiàn)。最后，我們引入并研究了一類(lèi)由具有不精確概率權(quán)重的迭代函數(shù)系統(tǒng)生成的新信任集族，拓寬了計(jì)算上可處理的不精確概率模型的范圍。由此產(chǎn)生的可計(jì)算框架統(tǒng)一了關(guān)于不確定性的邏輯、拓?fù)浜蜏y(cè)度論視角，支持在部分和集值信息下的魯棒概率推斷。

關(guān)鍵詞： 域論，條件概率，信任集，條件獨(dú)立性

1 引言

不精確概率為在信息部分、模糊或集值時(shí)的不確定性推理提供了一個(gè)魯棒框架。它通過(guò)允許分布集（信任集）和區(qū)間值概率，推廣了經(jīng)典概率，從而在安全關(guān)鍵應(yīng)用中實(shí)現(xiàn)更謹(jǐn)慎的推斷。

我們考慮第二可數(shù)局部緊致 Sobert 拓?fù)淇臻g。我們將這樣的空間稱(chēng)為基本拓?fù)淇臻g。在這些空間中，開(kāi)集格是一個(gè)可數(shù)基連續(xù)格 [GHK+03]，代表了一個(gè)具有可數(shù)基的空間 Locale。這些基本空間包括可分局部緊致度量空間以及可數(shù)基連續(xù)域。此外，任何 Polish 空間都是其形式球連續(xù)域的最大元素空間 [EH98]。這意味著基本拓?fù)淇臻g涵蓋了概率論中使用的所有標(biāo)準(zhǔn)空間。

此外，在此類(lèi)空間上的任何連續(xù)概率賦值都可以擴(kuò)展為 Borel 測(cè)度 [AMESD00, KL05]。對(duì)于 Hausdorff 空間，通過(guò)所得 Borel 測(cè)度的外正則性，這種擴(kuò)展是唯一的。

在接下來(lái)的章節(jié)中，我們?cè)谶@種不精確設(shè)定下，為條件概率、貝葉斯更新和條件獨(dú)立性發(fā)展了一個(gè)域論基礎(chǔ)。一個(gè)關(guān)鍵結(jié)果是從信任集到區(qū)間概率的 Scott 連續(xù)包絡(luò)映射，它將容量論思想和 Choquet 積分提升到了域框架中 [Cho54, Gra16, ACdCT14, GL13]。我們還引入了一類(lèi)由具有不精確權(quán)重的迭代函數(shù)系統(tǒng)生成的新信任集族。

雖然區(qū)間算術(shù)已被應(yīng)用于工程背景下的貝葉斯法則 [FKG+03]，且魯棒貝葉斯分析考慮了先驗(yàn)集 [Ber85]，但據(jù)我們所知，基于單調(diào)性的精確端點(diǎn)公式推導(dǎo)此前尚未發(fā)表。我們證明（引理 6.1）經(jīng)典的貝葉斯更新

由于基本空間的開(kāi)集格是可數(shù)基且連續(xù)的，它可以被賦予一個(gè)有效結(jié)構(gòu)，使得格上的可計(jì)算開(kāi)集和可計(jì)算函數(shù)可以被枚舉；見(jiàn) [Plo81, Smy77]。這導(dǎo)致了不精確概率和信任集的一個(gè)可計(jì)算框架。

符號(hào)約定

我們用 D D 表示任何基本空間、豪斯多夫空間或域。當(dāng)我們具體只處理豪斯多夫基本空間時(shí)，我們用 X X 而不是 D D來(lái)表示它。

2 域論基礎(chǔ)

回顧一下，完備格 L L 上的連續(xù)概率賦值 σ 是一個(gè) Scott 連續(xù)映射 σ : L → [ 0 , 1 ] ，具有模性

2.1 可逼近關(guān)系

遵循不精確概率的既定框架和傳統(tǒng)，正如經(jīng)典開(kāi)創(chuàng)性著作 [Wal91] 中廣泛描述的那樣，我們將為基本的域論構(gòu)造制定謂詞。這可以通過(guò)域論中豐富的可逼近映射、Locale 和 Stone 對(duì)偶性理論來(lái)實(shí)現(xiàn) [Sco70, Smy77, AJ95, Abr91, Vic89]。

3 基本空間的事件域

給定一個(gè)基本空間 D ，我們將其開(kāi)集視為可觀測(cè)或半可判定的謂詞 [Abr91, Smy77]。由于在概率論與統(tǒng)計(jì)學(xué)中取事件的補(bǔ)集是一項(xiàng)基本工具，且開(kāi)集的補(bǔ)集未必是開(kāi)集，我們考慮用不相交開(kāi)集對(duì)開(kāi)集的外部進(jìn)行逼近。這引導(dǎo)我們將 D 的事件域 E ( D ) 定義為不相交開(kāi)集對(duì)的偏序集，其序關(guān)系由按分量的子集包含關(guān)系給出：

4 信任集

用于指代概率分布凸集的現(xiàn)代術(shù)語(yǔ)“信任集”（credal set）在后續(xù)的處理中得到了標(biāo)準(zhǔn)化 [ACdCT14]，盡管其基礎(chǔ)理論是由 Walley [Wal91] 在“概率測(cè)度集”（sets of probability measures）這一名稱(chēng)下發(fā)展的。

如上所述，基于域論計(jì)算得出的下概率和上概率，對(duì)應(yīng)于關(guān)于由信任集 K K 誘導(dǎo)的容度（capacities）的示性函數(shù)（indicator functions）的 Choquet 積分。

5 事件的條件概率

5.1 條件概率謂詞

由于 Scott 連續(xù)映射 C 是由輸入連續(xù)賦值 σ 在輸入開(kāi)集或其交集上的一對(duì)有理函數(shù)給出的，原則上可以通過(guò)對(duì)給定運(yùn)算進(jìn)行復(fù)合來(lái)獲得表示 C 的可逼近映射。然而，這種方法會(huì)導(dǎo)致相當(dāng)復(fù)雜的表達(dá)式。一種更自然且直接的技術(shù)是為 C 的下部和上部制定兩個(gè)關(guān)鍵謂詞，并將它們與表示 σ 的謂詞 G 聯(lián)系起來(lái)。

信任集方法生成一個(gè)區(qū)間，用以捕捉跨越多個(gè)先驗(yàn)分布的不確定性；而經(jīng)典方法僅得出一個(gè)單一數(shù)值，該數(shù)值取決于對(duì)先驗(yàn)的任意選擇（此處為平均值）。在安全關(guān)鍵型應(yīng)用中，區(qū)間的下界提供了一種魯棒且規(guī)避風(fēng)險(xiǎn)的估計(jì)，而經(jīng)典點(diǎn)估計(jì)則可能錯(cuò)誤地表征真實(shí)的不確定性。進(jìn)一步的比較見(jiàn)表3。

6 事件的貝葉斯更新

6.1 貝葉斯推斷規(guī)則

例 6.5. 考慮一種疾病的醫(yī)學(xué)檢測(cè)。設(shè)：

• H ：患者患有該疾病的假設(shè)。
• E ：檢測(cè)呈陽(yáng)性的證據(jù)。

我們擁有不精確的信息：

1. 先驗(yàn)患病率：根據(jù)流行病學(xué)研究，該疾病的患病率估計(jì)在 1% 到 5% 之間，但確切值是不確定的。
2. 檢測(cè)靈敏度：在患有該疾病的條件下，檢測(cè)呈陽(yáng)性的概率在 85% 到 95% 之間。
3. 檢測(cè)特異性：在未患該疾病的條件下，檢測(cè)呈陰性的概率在 90% 到 99% 之間。

在經(jīng)典貝葉斯分析中，通常選擇點(diǎn)估計(jì)：

6.2 信任集的貝葉斯更新

7 擴(kuò)展到多維情形

8 條件獨(dú)立性

8.1 強(qiáng)條件獨(dú)立性

在本節(jié)前文中，我們已看到，經(jīng)典條件獨(dú)立性意味著當(dāng)兩個(gè)獨(dú)立事件 U U 和 V V 在給定 W W的條件下時(shí)，下條件支撐（lower conditional support）會(huì)分解。在此域論設(shè)定中，我們還擁有由上條件支撐所提供的額外信息。

強(qiáng)條件獨(dú)立性中關(guān)于右端點(diǎn)的額外假設(shè)具有局限性，在許多應(yīng)用中不太可能成立。然而，它帶來(lái)了計(jì)算上的高效性，因?yàn)闂l件概率的兩個(gè)端點(diǎn)可以通過(guò)取對(duì)應(yīng)端點(diǎn)的乘積來(lái)獲得?？梢詫?qiáng)條件獨(dú)立性視為在圖模型中提供的一種用于計(jì)算條件概率右端點(diǎn)的“樂(lè)觀”規(guī)則。

對(duì)于強(qiáng)條件獨(dú)立性，我們有兩個(gè)額外的規(guī)則來(lái)取代 (CI7) 和 (CI8)：

關(guān)于各種方法的比較，見(jiàn)表 5。主要區(qū)別如下：

• 經(jīng)典 (Classical)： 點(diǎn)估計(jì) (0.56) 假設(shè)知識(shí)精確且分解完美。
• Fréchet： 保守區(qū)間 [0.42, 0.80] 保證了包含性但較寬（寬度 0.38）。
• 強(qiáng) (Strong)： 更窄的區(qū)間 [0.42, 0.72]（寬度 0.30）但需要強(qiáng)分解假設(shè)。

關(guān)于實(shí)際意義，我們有：

• 診斷 (Diagnosis)： 如果我們需要 > 0.7 的概率來(lái)進(jìn)行診斷：
• • 經(jīng)典： 否 (0.56 < 0.7)
  • Fréchet： 可能 (0.42-0.80 包含 > 0.7)
  • 強(qiáng)： 可能 (0.42-0.72 包含 > 0.7)
• 安全性 (Safety)： Fréchet 更安全（總是包含真實(shí)概率）。
• 效率 (Efficiency)： 強(qiáng)獨(dú)立性更高效（區(qū)間更窄）。

最后，關(guān)于何時(shí)使用每種方法：

• Fréchet 規(guī)則： 安全關(guān)鍵型應(yīng)用、未知依賴(lài)關(guān)系、保守的風(fēng)險(xiǎn)評(píng)估。
• 強(qiáng)獨(dú)立性： 當(dāng)負(fù)面證據(jù)的獨(dú)立性合理時(shí)，效率是首要任務(wù)。
• 經(jīng)典： 當(dāng)參數(shù)精確已知且獨(dú)立性假設(shè)得到充分驗(yàn)證時(shí)。

9 具有不精確概率的迭代函數(shù)系統(tǒng)

在本節(jié)中，我們通過(guò)考慮與基本空間的事件域相對(duì)偶的域，繼續(xù)橋接經(jīng)典容度理論 [Cho54, Wal91] 與域論的概念。該對(duì)偶域采用基本空間的覆蓋閉子集對(duì)，并按逆包含關(guān)系排序。利用該對(duì)偶域，我們將一族新的信任集（credal sets）表述為帶有概率的迭代函數(shù)系統(tǒng)（IFS）的不變測(cè)度。

迭代函數(shù)系統(tǒng)（IFS）及其不變測(cè)度已在分形幾何和動(dòng)力系統(tǒng)中得到廣泛研究，其應(yīng)用范圍涵蓋計(jì)算機(jī)圖形學(xué)、圖像壓縮、自然現(xiàn)象建模、信號(hào)處理、生物結(jié)構(gòu)分析以及金融時(shí)間序列 [IFS22]。我們?cè)诒竟?jié)的結(jié)果為將這些經(jīng)典應(yīng)用擴(kuò)展到概率不確定或部分指定的設(shè)定提供了數(shù)學(xué)上嚴(yán)謹(jǐn)?shù)幕A(chǔ)。

9.1 帶概率的 IFS 的信任集

在本小節(jié)中，我們引入一族新的信任集，即那些由帶概率的迭代函數(shù)系統(tǒng)（IFS）的不變測(cè)度組成的信任集。IFS 理論一直是多個(gè)學(xué)科中一個(gè)活躍的研究領(lǐng)域。

9.1.1 具有不精確轉(zhuǎn)移矩陣的馬爾可夫鏈

在本節(jié)中，我們介紹并分析了具有不精確概率權(quán)重的迭代函數(shù)系統(tǒng)。類(lèi)似地，據(jù)我們所知，附錄 B 針對(duì)轉(zhuǎn)移概率被指定為不精確值的有限狀態(tài)馬爾可夫鏈，提供了一種新穎的處理方法。

結(jié)論

我們?yōu)椴痪_概率與信任集建立了一個(gè)全面的域論基礎(chǔ)，提供了一個(gè)統(tǒng)一的計(jì)算框架，能夠同時(shí)處理部分事件描述（在事件域 E ( D ) 中表示為不相交開(kāi)集對(duì)）以及由上空間 U ( P ( X ) 中的緊致信任集所表征的分布不確定性。我們的主要貢獻(xiàn)包括：在事件域上構(gòu)造 Scott 連續(xù)的區(qū)間概率映射；基于單調(diào)性推導(dǎo)出的貝葉斯更新精確區(qū)間擴(kuò)展及其配套的可靠且完備的推斷規(guī)則；針對(duì)不精確事件的條件獨(dú)立性理論，同時(shí)包含保守型（Fréchet）與強(qiáng)分解規(guī)則；以及引入了一類(lèi)由帶有不精確概率權(quán)重的迭代函數(shù)系統(tǒng)所生成的新型信任集族，并給出了相關(guān)不動(dòng)點(diǎn)映射連續(xù)性的證明。我們?yōu)橄嚓P(guān)概念制定了邏輯謂詞，并推導(dǎo)出了相應(yīng)的可靠性與完備性結(jié)果。所有運(yùn)算均能 Scott 連續(xù)地?cái)U(kuò)展至信任集空間，從而保證有限逼近的收斂性。

本工作為信任網(wǎng)絡(luò)與不精確貝葉斯網(wǎng)絡(luò)的域論處理奠定了必要的數(shù)學(xué)基礎(chǔ)架構(gòu)。該框架保證了基于不精確參數(shù)與部分指定觀測(cè)的推斷具備計(jì)算上的嚴(yán)謹(jǐn)性，其由域論的逼近性質(zhì)以及通過(guò)可逼近映射構(gòu)建的邏輯基礎(chǔ)所支撐。未來(lái)的工作將集中于構(gòu)建顯式的域論信任網(wǎng)絡(luò)，開(kāi)發(fā)利用本文所提連續(xù)性與逼近結(jié)構(gòu)的精確及近似推斷算法，并將該方法拓展至不精確環(huán)境下的序列決策問(wèn)題。

原文鏈接：https://arxiv.org/pdf/2604.09272