Uskup Sophronius menolak untuk menyerahkan kunci Baitul Maqdis kepada Pasukan Islam. Dia hanya akan menyerahkan kunci itu kepada pria yang memiliki nama tiga huruf yakni ‘Ain, mim, dan Ra. Mereka bahkan menyebutkan ciri-ciri orang yang akan menerima kunci tersebut dengan merujuk kitab-kitab mereka.
Setelah mencermati ciri-ciri yang disampaikan, para sahabat kemudian mengatakan bahwa yang dimaksud adalah Amirul Mukminin Umar bin Khattab.
Panglima Tertinggi Abu Ubaidah kemudian mengirim surat kepada Khalifah Umar bin Khattab untuk memberitahukan keinginan petinggi gereja di Baitul Maqdis.
Setelah berembug dengan para sahabat di Madinah, Khalifah Umar bin Al-Khathab memenuhi permintaan mereka dan memutuskan untuk pergi ke Elia, nama Baitul Maqdis ketika itu.
Khalifah Umar berangkat sendirian hanya ditemani oleh seorang asisten. Dalam perjalanan, Khalifah Umar hanya mengendarai satu unta. Khalifah Umar dan asistennya bergantian naik di atas unta tersebut.
Saat hendak mencapai Al-Quds, Khalifah Umar berjalan kaki karena saat itu giliran sang asisten naik unta. Lantaran tidak enak hati, sang asisten memaksa Umar saja yang naik unta. Tapi Umar menolak.
Khalifah Umar bin Al-Khathab memasuki Baitul Maqdis melalui Jabal Mukabbir (جبل مكبر /Gunung tempat bertakbir). Dinamakan demikian karena Khalifah Umar bin Al-Khathab memperhatikan kota Al-Quds (Elia) dari atas gunung seraya bertakbir dan umat Islam pun bertakbir bersamanya.
Saat itu, seluruh penduduk Al-Quds melihat Khalifah Umar datang dengan unta yang ditunggangi pelayannya. Semua orang takjub. Uskup Sophronius pun terkaget-kaget dengan pemandangan itu. Dia tidak menyangka pria dengan pakaian sederhana dan membiarkian untanya ditunggangi oleh pelayan adalah Pemimpin Tertinggi Penakluk Baitul Maqdis.
Dalam kesempatan tersebut, Khalifah Umar bin Al-Khathab menuliskan sebuah dokumen perjanjian keamanan, yang sekarang dikenal dengan "Al-Ahdah Al-Umariyah" (Umariyya Covenant) atau "Perjanjian Umar". Hingga kini, kesepakatan itu masih disimpan di Gereja Suci Sepulchre di Yerusalem. Teks perjanjian tersebut adalah sebagai berikut:
Bismillahirrahmanirrahim.
Ini adalah jaminan keamanan dari hamba Allah, Umar, Amirul Mukminin, kepada penduduk Yerusalem. Umar memberikan jaminan terhadap jiwa mereka, harta, gereja-gereja, salib-salib, orang-orang yang lemah, dan mereka tidak dipakasa meninggalkan agama mereka. Tidak ada seorang pun diantara mereka yang merasa terancam dan diusir dari Yerusalem.
Dan orang-orang Yahudi tidak akan tinggal bersama mereka di Yerusalem. (Ini adalah permintaan penduduk Yerusalem, karena penduduk Yerusalem sangat membenci orang-orang Yahudi. Orang-orang Yahudi membunuhi tawanan Nasrani di wilayah Persia. Sampai ada riwayat yang menyebutkan, Umar menjamin tidak ada Yahudi yang lewat dan bermalam di Yerusalem).
Penduduk Yerusalem diwajibkan membayar pajak sebagaimana penduduk kota-kota lainnya, mereka juga harus mengeluarkan orang-orang Bizantium, dan para perampok. Orang-orang Yerusalem yang tetap ingin tinggal di wilayah Bizantium, mereka boleh membawa barang-barang dan salib-salib mereka.
Mereka dijamin aman sampai mereka tiba di wilayah Bizantium. Setelah itu mereka pun masih diperbolehkan kembali lagi ke Yerusalem jika ingin berkumpul dengan keluarga mereka, namun mereka wajib membayar pajak sebagaimana penduduk lainnya.
Apabila mereka membayar pajak sesuai dengan kewajiban, maka persyaratan yang tercantum dalam surat ini adalah di bawah perjanjian Allah, Rasul-Nya, Khalifah, dan umat Islam.
Setelah kesepakatan, kunci Baitul Maqdis resmi diserahkan pada tahun 16 H/ 637 M. Gerbang Al-Quds pun terbuka dan Khalifah Umar dijamu di Gereja Suci Sepulchre. Saat di dalam, Uskup menawarkan jika Umar ingin shalat. Umar menolak dengan alasan ia khawatir umat Islam nanti akan mengikutinya. Dia shalat di area selatan gereja yang kemudian menjadi Masjid Umar di Al-Quds.
(Tarikh at-Thabari)
