Na blagdan Svih svetih 1503. godine za papu je izabran Julije II., rođenim imenom Giuliano della Rovere. Zanimljivo je da je konklava na kojoj je izabran bila najkraća u povijesti. Naime, trajala je samo oko deset sati, a održana je u noći s 31. listopada na 1. studenog 1503. godine. Kratkoća konklave bila je, između ostaloga, uzrokovana i činjenicom da je prethodni papa – Pio III. – preminuo nakon pontifikata od samo 27 dana.

Kardinali s konklave na kojoj je bio izabran Pio III. nisu, stoga, stigli otići daleko od Rima u trenutku kada je taj papa preminuo, pa su se mogli u kratkom vremenu vratiti i na brzinu izabrati Julija II. za novog papu. Na konklavi je bilo prisutno ukupno 38 kardinala, a navodno su za Julija II. glasovali svi osim dvojice – njega samog i francuskog kardinala Georgesa d’Amboisea (koji je navodno bio drugi glavni kandidat za papu).

Papa Julije II. pripadao je obitelji della Rovere, jednoj od rijetkih koja je tijekom povijesti dala dvojicu papa (osim Julija II. još i Siksta IV., koji se zvao Francesco della Rovere, a po kojemu je nazvana znamenita Sikstinska kapela). Na talijanskom jeziku riječ 'rovere' označava vrstu hrasta, a obitelj della Rovere doista je u svom grbu imala hrast.