我的論文（僅在互聯網上發表）“關於拉里·瓦瑟曼的例子” [ 1]以及我，瓦瑟曼，羅賓斯和其他一些人之間的博客交流中對此進行了討論。 Wasserman博客上的評論者：[ 2]

簡短的回答是，Wasserman（和羅賓斯）通過暗示高維空間中的先驗“必須”具有暗示以下兩者的特徵而產生悖論：先驗先驗地確定感興趣的參數，或者先驗先知不存在明顯相關的問題（選擇偏差）。實際上，明智的先驗將不具有這些特徵。我正在寫一篇總結性博客文章以將其匯總。 2007年有一篇出色的論文，其中顯示了Hameling和Toussaint提出的Wasserman和Ritov考慮的明智貝葉斯方法：“ Robins-Ritov問題的貝葉斯估計器” [ 3]

在這個示例中，我認為沒有什麼吸引力。作為對貝葉斯和似然袋鼠的潛在批評。...常數$ c $是已知的，等於$$ 1 \ big / \ int_ \ mathcal {X} g（x）\ text {d} x $$ If給定樣本$ x_1，\ ldots，x_n $，$ c $是圖片中唯一的“未知”對象，因此沒有關於該問題的統計信息，我也不同意存在 estimators $ c $。 $ c $上的 prior 也不行（上述值的狄拉克質量除外）。這至少不是一個統計問題，而是一個數字問題。

可以通過（頻繁）密度估計使用樣本$ x_1，\ ldots，x_n $來提供$ c $的數值近似值，這僅僅是出於好奇。不批評其他統計方法：我還可以使用貝葉斯密度估計...

我同意這個例子很奇怪。我的意思是說這確實是一個難題。（這個例子實際上是由於Ed George。）

它的確提出了一個問題，即對某事被“知道”。 基督徒說$ c $是已知的。但是，至少從純粹的主觀概率的角度來看，您並不知道它只是因為原則上可以知道。 （假設您無法進行數值積分。）主觀貝葉斯將所有事物視為具有分佈的隨機變量，包括$ c $。

無論如何，論文

A。 Kong，P.McCullagh，X.-L. Meng，D。Nicolae和Z. Tan（2003），蒙特卡洛積分的統計模型理論， J。皇家統計。 Soc。 B ，第一卷65，不。 3，585–604

（經討論）基本上解決了相同的問題。

克里斯·西姆斯（Chris Sims）在他的答案中所提到的例子具有非常不同的性質。

提議的統計模型可以描述如下：您有一個已知個非負可積函數$ g：\ mathbb {R} \ to \ mathbb {R} $，以及一個非負隨機變量$ C $。假定$ C = c $，且條件密度$ f_ {X_i \ mid C}（x_i \ mid c）= c \，則假定隨機變量$ X_1，\ dots，X_n $是條件獨立且相同分佈的， g（x_i）$，代表$ c>0 $。

不幸的是，通常，這不是對統計模型的有效描述。問題是，根據定義，$ f_ {X_i \ mid C}（\，\ cdot \ mid c）$ 必須是幾乎每個$ c $可能值的概率密度。 ，一般來說，顯然是假的。實際上，僅對於單個值$ c = \ left（\ int _ {-\ infty} ^ \ infty g（x）\，dx \ right）^ {-1} $是正確的。因此，只有在瑣碎的情況下，當$ C $的分佈集中在該特定值時，才能正確指定模型。當然，我們對這種情況不感興趣。我們想要的是由Lebesgue度量控制的$ C $的分佈，並具有一個很好的pdf $ \ pi $。

因此，定義了$ x =（x_1，\ dots，x_n）$， expression $$ L_x（c）= \ prod_ {i = 1} ^ n \ left（c \，g（x_i）\ right）\，，$$作為$ c $的函數，對於固定的$ x $，並不對應於真正的似然函數。

此後的一切都繼承自這個問題。特別地，用貝葉斯定理計算的後驗是偽的。很容易看到：假設您有適當個先前的$$ \ pi（c）= \ frac {1} {c ^ 2} \，I _ {[1，\ infty）}（ c）\，。$$注意$ \ int_0 ^ \ infty \ pi（c）\，dc = 1 $。根據示例中顯示的計算，後驗應該是$$ \ pi（c \ mid x）\ propto \ frac {1} {c ^ {2-n}} \，I _ {[1，\ infty）} （c）\，。$$，但是如果這是對的，則此後驗將始終是不合適的，因為$$ \ int_0 ^ \ infty \ frac {1} {c ^ {2-n}} \，I _ {[1， \ infty）}（c）\，dc $$對每個樣本大小$ n \ geq 1 $都不同。

這是不可能的：我們知道，如果我們以適當的先驗開始，則後驗對於每個可能的樣本都不會不合適（在一組無效的先驗預測概率內可能是不合適的）。

這個例子有點古怪和人為。可能性出現錯誤的原因是因為g是已知函數。唯一未知的參數是c，它不是可能性的一部分。另外，由於已知g，因此數據不提供有關f的信息。您何時在實踐中看到這樣的事情？因此，後驗與先驗成正比，關於c的所有信息都在先驗。

好的，請考慮一下。頻繁使用者使用最大可能性，因此，頻繁使用者有時也依賴於可能性函數。好吧，常客可以用您可能會說的其他方式估算參數。但是這個成熟的問題只有一個參數c，並且關於c的數據中沒有信息。由於g是已知的，因此不存在與可以從數據周期中收集的未知參數有關的統計問題。

具有諷刺意味的是，進行貝葉斯計算的標準方法是使用MCMC樣本的頻繁分析。在此示例中，我們可能會認為$ c $與我們要計算的邊際可能性密切相關，但是從試圖嘗試也以貝葉斯方式進行計算的意義上，我們將成為貝葉斯純粹主義者。 / p>

這並不常見，但是可以在貝葉斯框架中進行此積分。這包括在函數$ g（）$（實際上是高斯過程）上放置先驗值，以在某些點上評估函數，以這些點為條件，併計算$ g（）$後面的積分。在這種情況下，可能性包括在多個點上評估$ g（）$，但是否則$ g（）$未知，因此，可能性與上述給出的可能性完全不同。該方法已在本文中進行了演示 http://mlg.eng.cam.ac.uk/zoubin/papers/RasGha03.pdf

我認為沒有任何問題貝葉斯方法。書面可能性將$ g（）$視為無處不在。如果真是這樣，那麼這個問題將沒有統計方面。如果假定$ g（）$未知，那麼在有限的點上，貝葉斯方法就可以了。

我們可以擴展可能的 knowns 的定義（類似於數據的擴展，以允許丟失 但丟失的數據的數據）以包含NULL（否數據生成）。

假設您有適當個先前的$$ \ pi（c）= \ frac {1} {c ^ 2} \，I _ {[1，\ infty）} （c）\，。$$ Now為x定義數據模型

如果$ c = \ left（\ int _ {-\ infty} ^ \ infty g（x）\，dx \ right）^ {-1} $

$ f_ {X_a \ mid C}（x_a \ mid c）f_ {X_i \ mid C}（x_i \ mid c）= c \，1 g（x_i）$ { a for any}

否則$ f_a {X_a \ mid C}（x_a \ mid c）= 0 $

所以後驗將是0或1（適當），但是可能性

因此您需要進行ABC。

從上述數據模型中提取一個“ c”。（因為您無法確定數據模型中所需的條件。）

現在通過一些數值積分來近似$ \ left（\ int _ {-\ infty} ^ \ infty g（x）\，dx \ right）^ {-1} $並保持“ c”近似-“ c” < epsilon。

保留的“ c”將是真實後驗的近似值。

（近似值的準確性取決於epsilon以及對該近似值進行條件調整的充分性。）

等等，什麼？您有$$ \ pi（c | x）= \ left（\ Pi_i g（x_i）\ right）\ cdot c ^ n \ pi（c）\ ,, $$，所以它確實取決於$ \ {的值x_i \} $。僅僅因為您將依賴項隱藏在“ $ \ propto $”中並不意味著您可以忽略它？