Masjid Rahmatan Lil 'Alamin Ponpes Al-Zaytun Indramayu ini dibangun dengan dana sekitar Rp 135 miliar. Peletakan batu pertama masjid ini dilakukan pada zaman R Nuriana sebagai Gubernur Jawa Barat saat itu.
Pembangunan masjid ini boleh dibilang merupakan satu tonggak sejarah pembangunan sebuah simbol dan monumen kebesaran umat Islam di negeri ini.
Di samping memiliki areal yang luas dengan daya tampung yang besar, Masjid Rahmatan Lil ’Alamin, juga mempunyai seni artistik yang tinggi, ditambah dengan dom atau kubah yang besar dilapisi bahan seperti emas yang maknanya agar Indonesia dapat tampil berkualitas emas.
Gaya arsitekturnya pun merupakan perpaduan menyeluruh dari semua gaya arsitektur yang ada di dunia ini. Gaya arsitektur bernilai estetika universal, yang di pesantren ini disebut sebagai gaya arsitektur Rahmatan Lil ‘Alamin.
Luas bangunan 99 x 99 meter dari Masjid Rahmatan Lil 'Alamin ini merupakan filosofi dari sifat-sifat Allah atau Asmaul Husna yang berjumlah 99. Bila diputar ke arah mana saja, angka ini tidak akan pernah berubah, bermakna selalu punya nilai yang sama yaitu 99.
Sedangkan, filosofi enam lantai masjid adalah Arkanul Iman, rukun iman yang berjumlah enam.