Sucedeu ao seu irmão Bento VIII. Eram ambos membros da poderosa casa de Túsculo. Quando eleito Papa não era bispo tendo sido ordenado de imediato para poder ocupar o cargo. Tinha sido cônsul e senador.
Com o falecimento do imperador Henrique II do Sacro Império Romano em 1024 apoiouConrado II, coroando-o com grande pompa em São Pedro na Páscoa de 1027.
Sucedeu-lhe o jovem sobrinho Bento IX. De notar que não existiu um Papa João XX, sendo o sucessor do mesmo nome o português João XXI.