احداث بناهاى مذهبى همچون مسجد و مدرسه به موازات گسترش حوزە نفوذ اسلام گسترش يافت. احداث مساجد اوليه که بناهاى ساده‌اى بودند، در محوطه‌هاى مربع يا مستطيل‌شکل و رو به قبله صورت مى‌گرفت که با ديوارهاى خشتى ساخته مى‌شدند؛ مانند مسجد مدينه، کوفه و بصره.
احداث مساجد در مقايسه با ديگر بناهاى اسلامى اهميت بيشترى داشت و مسجد از بزرگ‌ترين بناهاى هر شهر و روستا بشمار مى‌رفت.
در صدر اسلام مساجد علاوه بر محل انجام فرايض و اقامهٔ نماز، نهادى سياسي، اجتماعى و ادارى محسوب مى‌گشت.
مساجدى چون مسجد شوش و فهرج از قديمى‌ترين نمونه‌هاى مساجد در ايران دورۀ اسلامى است. شيوۀ بنا و ويژگى‌هاى اين‌ها به معمارى بناهاى ساسانى شبيه است.
از جمله بناهاى ديگر اين دوران، تاريخانهٔ دامغان است که تاريخ احداث آن‌را حدود ۳۰۰ هجرى مى‌دانند. اين مسجد داراى حياط بزرگى است به‌شکل مربع که رواق‌هايى با طاق ضربى اطراف آن‌را فرا گرفته‌اند. تاريخانهٔ دامغان به شيوۀ معمارى اسامى بدست هنرمندان دورۀ اسلامى بنا گرديد.
نخستين مساجد جامع پلان محکم و استوارى داشتند. ديوار رو به قبله تالار نماز، مزين به محراب بود. از بخش‌هاى مهم مسجد جامع، منير بود که جايگاه بلندى همراه با چند پلکان داشت که در سمت راست محراب ايجاد مى‌شد و عموماً از جنس چوب ساخته مى‌شد و قابل حمل بود.
با تأسيس سلسلهٔ امويان در دمشق و عباسيان در بغداد، معمارى نيز دچار دگرگونى‌‌‌هايى شد. بناهايى چون قبه‌الصخره، مسجد جامع دمشق و مسجد سامره حاصل اين تحولند. در اين بناها از معمارى قبل از اسلام بويژه دورۀ ساسانى الهام گرفته شده است. از ديگر مساجد اين دوران مسجد جامع نايين، مسجد جامع نيريز، مسجد جامع شيراز مى‌باشد.
از دوران صدر اسلام آرامگاه‌هاى بزرگى باقى مانده است. اما بناهاى تدفينى از قبل از سلجوقيان تا قرن سيزدهم در شرق ايران بصورت برج‌هاى تدفينى با پلان چند ضلعى يا مدور ساخته شده است.