世界上第一個穆斯林禮拜的地方是麥地那的先知穆罕默德的故居，當時穆罕默德領導穆斯林在這里做禮拜，一個相當大的院子，中間只有一座小房屋，是穆罕默德的住宅，院子一邊樹立著一排棗椰樹干做的柱子，在柱子和墻之間，覆蓋著用棗椰樹葉做的涼棚，穆斯林們可以在涼棚蔭影下做禮拜，防止曝曬的陽光，穆罕默德在站在房間的門廊里領導做禮拜。

     以后清真寺都是仿照這種方式，世界上第一座清真寺是麥加的庫巴清真寺，據(jù)說是穆罕默德親自率領人們用四天時間就建成的，《古蘭經(jīng)》中稱這座寺是“從頭一天起就以虔敬為基礎而修建的清真寺”。 清真寺內(nèi)不得供奉任何雕像、畫像和供品，只有圍繞的柱廊，中心一個大拱頂，主要的墻要向著麥加的方向，墻中間有一個凹下的龕，叫做米海拉布，是指示穆斯林禮拜方向的。龕中有一座帶階梯的高臺，是在主麻日時，為伊瑪目站在上面帶領誦讀《古蘭經(jīng)》用的，叫敏拜爾，誦讀古蘭經(jīng)時不得有音樂和歌唱。底下一般鋪有地毯，因為穆斯林需要赤腳禮拜。

     清真寺外面或一進門地方有自來水或噴泉，要求穆斯林凈手臉后才能禮拜。有的清真寺有木隔壁或隔間，以前是為參加禮拜的領袖防止被暗殺，使他們能在其中禮拜，現(xiàn)在有時作為男女分隔用。以前清真寺不允許女性入內(nèi)，現(xiàn)在比較開明的國家也允許女性參加禮拜，但一般所有的清真寺都不允許非穆斯林入內(nèi)，認為他們是不潔凈的。

     由于《古蘭經(jīng)》要求穆斯林每日要做五次禮拜：日出時、正午、下午、日落和夜晚，在古代沒有時鐘的情況下，很難掌握統(tǒng)一的時間，因此在清真寺外見有宣禮塔，每到禮拜時間，要有大嗓門的人在塔上大聲呼喚，有的大清真寺四周有許多宣禮塔，一般為四個，朝著四方。

     現(xiàn)代都裝有擴音器，不再用人，擴音器音量大，因此有的現(xiàn)代建造的清真寺只有一個宣禮塔。在世界不同地區(qū)的清真寺建筑也不太相同，但內(nèi)部基本一致。中國內(nèi)地的原有的清真寺都已經(jīng)采用中國傳統(tǒng)的木結構建筑，和其他寺廟相似，唯一區(qū)別是采用綠色屋頂，（佛教寺廟用黃色或灰瓦屋頂），西北的清真寺在屋脊上還裝有三個立著的花柱，中間一個在頂上有伊斯蘭教新月標志。

      內(nèi)地由于穆斯林人口不多，常聚居在一處，清真寺一般沒有宣禮塔，西北有的清真寺有建造像佛塔一樣結構的宣禮塔，不過頂上裝飾有新月?，F(xiàn)代新建的清真寺也采用國際流行的大拱頂結構。穆斯林在清真寺內(nèi)禮拜時要排成長排，跪拜俯伏，以額觸地，因此世界各地的穆斯林所用的帽子都沒有帽沿，如果戴著有帽沿的帽子，要將帽沿轉(zhuǎn)向腦后，否則不能將額觸地。