Kudüs şehri hakkında tarihin biraz derinliklerine gidecek olursak İbrahim'in oğlu İshak ve torunu Yakup içinde Kudüs şehrinin de bulunduğu Kenan diyarında yaşadılar. Bu bölgenin insanlarına Allahü Teala'nın Emir ve yasaklarını anlattılar. Bir ismi de İsrail olan Yakup oğlu Yusuf Mısır'a maliye nazırı olunca diğer oğulları ile birlikte Kudüs'ün bulunduğu bölge olan Kenan diyarından ayrılıp Mısır'a gitti ve oraya yerleşti. Yakup aleyhisselamın 12 oğlunun neslinden gelen ve İsrailoğulları adıyla anılan insanlar Mısır'da kaldılar.
Hem peygamber hem de hükümdar olan Davut Kudüs'te Mescid-i Aksa'nın inşaasını başlattı. Mescidin temelini attı bir adam boyu kadar yükselince inşaat'ın tamamlanmasını oğlu Süleyman'a vasiyet etti. Davut'un vefatı üzerine 12 veya 13 yaşında Sultan daha sonra peygamber olan Süleyman, babasının hazırlattığı temeller üzerine Mescidi Aksa'yı yaptırdı. Bu mabedi 7 yılda pek çok sanatkarane inşa ettirdi. Sonra usta ve mühendislere 12 mahallesi olan Kudüs şehrini yaptırdı.
Süleyman, Musa dan beri nesilden nesile geçerek gelen, içinde tevrat'ın 10 emri yazılı olan levhaların ve kutsal emanetlerin bulunduğu 'Mukaddes sandığı' Mescidi aksa'da bir odaya yerleştirdi. Sonraki zamanlarda hıristiyanlığın yayılması ve Bizans imparatorlarının hıristiyanlığı kabul etmeleri üzerine Bizans imparatorları Mescidi aksa'yı tamir ettirip kudüs'ü imar ettiler. İmparatorluğun hakimi durumunda olan Hristiyanlar için mukaddes bir şehir hüviyetine giren Kudüs'te, Hz Meryem'in hatıralarına birçok kiliseler yaptırdılar. Kudüs Hristiyanların dini merkezi haline geldi.
Hıristiyanlar hac için Kudüs'e gelip kutsal yerleri ziyaret ettiler. İslamiyetin ilk yıllarında bulunan Müslümanlar Kudüs'te bulunan Mescid-i aksa'ya yönelerek namaz kılmışlardır. Yani Mescidi Aksa Müslümanların ilk kıblesidir. Peygamber efendimiz miraç'a giderken Kudüs'e ki Mescidi aksa'dan göğe yükselmiştir.
Hz Ömer 638 senesinde Kudüs'ü muhasara etti. Hristiyanlar cizye vermeyi kabul ederek Müslümanların himayesine girdiler. Hz Ömer'e Kudüs'ün anahtarlarını bizzat kendileri teslim ettiler. Böylece kendi Devletleri olan bizans'ın ağır vergi ve işkencelerinden, eziyet ve zulümlerinden kurtuldular.