MCMC 混合的局部與全域收縮原理
研究論文提出一個基於收縮的框架,用於證明馬可夫鏈蒙地卡羅(MCMC)演算法的混合時間界限。該框架建構在 Eγ-散度(γ≥1)下的全局和局部收縮係數。對於緊凸域上的投影朗之萬蒙地卡羅,高斯平滑為 Eγ-散度產生明確的全局收縮係數,從而直接證明了對一般平滑、可能非凸勢能的離散化穩態分佈的指數收斂。收斂速率是明確的,適應於任意隨機批次採樣方案,並為包括 KL 散度、χ² 散度和 Rényi 散度在內的多種散度提供收斂保證。對於獨立 Metropolis-Hastings 演算法,若目標分佈為 π、提議分佈為 q,且未綁定重要性權重 w=dπ/dq,全局收縮係數通常較為平凡。因此,論文引入了在核心區域 C_R={w≤R} 上的局部收縮係數,並證明其控制核心區域的拒絕剖面。這導致由局部收縮係數和尾剖面 H_R=π(w>R) 控制的熱啟動收斂界限,在某些情況下恢復了現有的基於矩的收斂速率,並在重尾情況下保持有效。
來源:網頁來源