در شمال مسجد گنبد دیگری واقع شده است که به طور محلی به “گنبد خاکی” یا “خاگی” شناخته می‌شود. این گنبد به سبک رازی ساخته شده است و در گذشته خارج از محوطهٔ مسجد قرار داشته است. از این گنبد، ملکشاه سلجوقی پیش از ادای نماز جمعه، استفاده می‌کرد و تشریفات مربوط به این مناسبت را در زیر آن انجام می‌داد. همچنین، به علت رقابتی که بین تاج‌الملک و نظام‌الملک وجود داشته، این گنبد با سبک معماری رازی طراحی شده است.
سخنان آرتور پوپ به هنگام بازدید از گنید تاج‌الملک
من آن روز وقتی به تماشای مسجد جامع اصفهان رفتم و در زیر این گنبد قرار گرفتم، متوجه شدم که تمام وجودم در تسخیر گنبد و مسجد است… من از آن به بعد بارها به مسجد رفتم و با تماشای گنبد این مسجد، زبان به تحسین گشودم و عشق و علاقهٔ خود را به اصفهان و ایران، روزافزون دیدم… می‌خواهم که جسدم را در این خاک مقدس دفن کنند.
گنبد تاج‌الملک در زمینهٔ فرهنگ و هنر ایران اسلامی مقام ویژه‌ای دارد. آجرها و تزئینات هندسی و نقوشی که بر روی این گنبد کار شده‌اند، بسیار هنرمندانه و زیباست و ارزش بسیاری دارد. این گنبد از صورت مربعی به هشت‌ضلعی و سپس به شانزده‌ضلعی تبدیل می‌شود و بر روی استوانه‌ای بنا گشته است. ابعاد آن به ترتیب ۱۰/۵ متر قطر و ۱۹/۵ متر ارتفاع است.
گنبد تاج‌الملک دو پوسته دارد و پوستهٔ خارجی آن با آجرهای زیبا پوشانده شده‌است که به زیبایی و جلال بنا می‌افزاید. در داخل گنبد، یک کتیبهٔ تاریخی موجود است که تاریخ ساخت آن به ۴۸۱ ه.ق/۱۱۰۱ میلادی برمی‌گردد و بنیانگذار آن به نام تاج‌الملک معرفی شده است. برخی از باستان‌شناسان نیز معتقدند که این بنا ممکن است به عنوان آرامگاه، سایبان، آب‌نما یا کتابخانه بنا شده باشد. اما هیچیک از این نظریه‌ها به طور قطعی تأیید نشده است.
کتیبهٔ گنبد تاج‌الملک به خط کوفی ساده برجسته و با آجر نوشته شده است و آیهٔ ۵۴ سورهٔ اعراف را به خود اختصاص داده است. نام بنیانگذار این گنبد ابوالغَنائم مرزبان بن خسرو فیروز شیرازی (ملقب به تاج‌الملک) و تاریخ ساخت آن ۴۸۱ ه.ق برجسته شده است. همچنین، در داخل گنبد تاج‌الملک، کتیبه‌های دیگری نیز به خط کوفی ساده بر روی آجرهای برجسته وجود دارد که آیه‌هایی از سورهٔ اسراء و آل‌عمران را به خود اختصاص داده‌اند.
در کل، گنبد تاج‌الملک با استفاده از معماری هنرمندانه و تزئینات زیبا، یک اثر بی‌نظیر از هنر و ارزش فرهنگی در ایران اسلامی محسوب می‌شود که جذابیت بسیاری برای بازدیدکنندگان دارد.
