哈里發(fā)歐麥爾繼承了先知時代的美德，嚴格執(zhí)行以《古蘭經》和圣訓為基礎的伊斯蘭法制，社會逐漸繁榮富強，穆斯林軍隊解放了周圍許多被壓迫的人民。

公元636年，穆斯林大軍在幾次戰(zhàn)役中擊敗東羅馬占領軍，解放了被歐洲人統(tǒng)治數百年的耶路撒冷古城。掌管城門鑰匙的耶路撒冷長老們對圍城的穆斯林將士說：“聽說你們穆斯林社會的首領歐麥爾是一位英明的哈里發(fā)，我們愿意開城投降，但是必須是哈里發(fā)本人親自來到。”

前線的消息傳到了麥地納，哈里發(fā)歐麥爾得知后傳話，立即動身到耶路撒冷去接受開城儀式。他帶了一名隨從，兩人只有一匹馬，在數百里的沙漠旅途中輪流騎這匹馬。當兩人走近城門時，正輪到隨從騎馬，歐麥爾為他牽馬。

耶路撒冷的長老們已經等待多時，估計穆斯林的首領應該到了。這時，他們看見兩個人向城門方向走來，便連忙迎上前去，向騎馬的人鞠躬敬禮，說著歡迎哈里發(fā)到來的話語。騎馬的人立即恐慌起來，連連推辭說：“那位牽馬的人才是你們要迎接的穆斯林領袖！”