Bio je to sastavni dio II. Vatikanskog ekumenskog sabora, kojeg je pokrenuo još Pavlov prethodnik sv. Ivan XXIII. Tijekom drugoga od četiri zasjedanja raspravljalo se o poglavlju "O ekumenizmu". Ondje su se nalazili sporni dijelovi o Židovima i o vjerskoj slobodi. Papa je obećao da će posjetiti Jeruzalem i na Kristovu grobu se sastati s patrijarhom Atenagorom.

Pavao VI. je zrakoplovom stigao u Amman, gdje se susreo s jordanskim kraljem Husseinom, a zatim se odvezao do Jeruzalema. U Jeruzalemu je prvo posjetio jordansko područje podijeljenoga grada. Suznih očiju molio se u Crkvi Kristova groba. Dok je Papa molio nad mjestom Svetoga Križa, vojnici su morali zaustaviti razdragane vjernike.

Papin susret s pravoslavnim patrijarhom Jeruzalema, a potom i s Atenagorom, duhovnim vođom istočne pravoslavne crkve bio je presudan korak naprijed za provedbu ekumenizma, kojim je počelo premošćivanje devet stoljeća religijske shizme i antagonizma kršćanskoga Istoka i Zapada.

Pedeset godina poslije, u studenom 2014., u Jeruzalemu su se susreli „Petar i Andrija naših dana“ - papa Franjo i carigradski patrijarh Bartolomej I. Potpisali su zajedničku izjavu u kojoj su istaknuli vlastitu odlučnost da pojačaju svoje zauzimanje u nastojanjima za puno jedinstvo svih kršćana, prije svega katolika i pravoslavnih, a istodobno su se založili za traženje konstruktivnog dijaloga s islamom, temeljenog na uzajamnom poštovanju i prijateljstvu.