Konon, masjid ini adalah masjid tertua di Cirebon, yaitu dibangun sekitar tahun 1480 M atau semasa dengan Wali Songo menyebarkan agama Islam di tanah Jawa. Nama masjid ini diambil dari kata "sang" yang bermakna keagungan, "cipta" yang berarti dibangun, dan "rasa" yang berarti digunakan.

Menurut tradisi, pembangunan masjid ini dikabarkan melibatkan sekitar lima ratus orang yang didatangkan dari Majapahit, Demak, dan Cirebon sendiri. Dalam pembangunannya, Sunan Gunung Jati menunjuk Sunan Kalijaga sebagai arsiteknya. Selain itu, Sunan Gunung Jati juga memboyong Raden Sepat, arsitek Majapahit yang menjadi tawanan perang Demak-Majapahit, untuk membantu Sunan Kalijaga merancang bangunan masjid tersebut.

Konon, dahulunya masjid ini memiliki memolo atau kemuncak atap. Namun, saat azan pitu (tujuh) salat Subuh digelar untuk mengusir Aji Menjangan Wulung, kubah tersebut pindah ke Masjid Agung Banten yang sampai sekarang masih memiliki dua kubah. Karena cerita tersebut, sampai sekarang setiap salat Jumat di Masjid Agung Sang Cipta Rasa digelar Azan Pitu. Yakni, azan yang dilakukan secara bersamaan oleh tujuh orang muazin berseragam serba putih.