ইতিহাসে প্রথম নির্মিত মসজিদ হলো পবিত্র মক্কা নগরীতে অবস্হিত মসজিদুল হারাম। এরপরের স্থানে আছে ফিলিস্তিনের জেরুসালেম শহরে অবস্থিত মুসলমানদের তৃতীয় পবিত্রতম মসজিদ বায়তুল মুকাদ্দাস বা মসজিদে আকসা। ইসলামের ইতিহাসে মসজিদ দুটি অনেক বেশি গুরুত্বপূর্ণ।
আবু জর গিফারি রাদিয়াল্লাহু তাআলা আনহু থেকে বর্ণিত, তিনি বলেন, ‘আমি বললাম, ‘হে আল্লাহর রাসূল! দুনিয়াতে প্রথম কোন মসজিদটি নির্মিত হয়েছে? তিনি বলেন, মসজিদুল হারাম। আমি পুনরায় জিজ্ঞেস করলাম, তারপর কোনটি? প্রতিউত্তরে তিনি বললেন, তারপর হলো মসজিদুল আকসা। এরপর আমি জানতে চাইলাম যে, উভয়ের মধ্যে ব্যবধান কত বছরের? তিনি বললেন চল্লিশ বছরের ব্যবধান’। (সহিহ বুখারি: ৩১১৫)
