May 2024 Metropolis–Hastings transition kernel couplings
John O’Leary, Guanyang Wang
Author Affiliations +
Ann. Inst. H. Poincaré Probab. Statist. 60(2): 1101-1124 (May 2024). DOI: 10.1214/22-AIHP1360

Abstract

Couplings play a central role in the analysis of Markov chain convergence and in the construction of novel Markov chain Monte Carlo estimators, diagnostics, and variance reduction techniques. The set of possible couplings is often intractable, frustrating the search for tight bounds and efficient estimators. To address this challenge for algorithms in the Metropolis–Hastings (MH) family, we establish a simple characterization of the set of MH transition kernel couplings. We then extend this result to describe the set of maximal couplings of the MH kernel, resolving an open question of O’Leary, Wang and Jacob (In Proceedings of The 24th International Conference on Artificial Intelligence and Statistics (2021) 1225–1233 PMLR). Our results represent an advance in understanding the MH transition kernel and a step forward for coupling this popular class of algorithms.

Les techniques de couplage jouent un rôle central dans l’analyse de la convergence des chaînes de Markov et dans la construction de nouveaux estimateurs à partir de Chaînes de Markov par Monte Carlo, ainsi que de diagnostiques et techniques de réduction de la variance. Souvent, l’ensemble des couplages possibles n’est pas calculable et la recherche de bornes précises et d’estimateurs efficaces semble hors d’atteinte. Pour aborder un tel défi pour les algorithmes de la famille Metropolis–Hastings (MH), nous établissons une caractérisation simple de l’ensemble des couplages des noyaux de transition MH. Nous étendons ensuite ce résultat en décrivant l’ensemble des couplages maximaux des noyaux MH, résolvant une question ouverte de O’Leary, Wang and Jacob (In Proceedings of The 24th International Conference on Artificial Intelligence and Statistics (2021) 1225–1233 PMLR). Nos résultats représentent un progrès dans la compréhension des noyaux de transition MH et des couplages pour cette classe d’algorithmes populaire.

Funding Statement

The first author was supported in part by NSF Grant DMS-1844695. The second author was supported in part by NSF Grant DMS-2210849.

Acknowledgements

The authors thank Pierre E. Jacob, Persi Diaconis, and Qian Qin for helpful comments.

Citation

Download Citation

John O’Leary. Guanyang Wang. "Metropolis–Hastings transition kernel couplings." Ann. Inst. H. Poincaré Probab. Statist. 60 (2) 1101 - 1124, May 2024. https://doi.org/10.1214/22-AIHP1360

Information

Received: 27 September 2022; Revised: 23 December 2022; Accepted: 31 December 2022; Published: May 2024
First available in Project Euclid: 11 June 2024

Digital Object Identifier: 10.1214/22-AIHP1360

Subjects:
Primary: 60J05 , 60J22 , 65C05

Keywords: Couplings , Markov chain Monte Carlo , Metropolis–Hastings algorithm

Rights: Copyright © 2024 Association des Publications de l’Institut Henri Poincaré

Vol.60 • No. 2 • May 2024
Back to Top