Masjid ini bisa menjadi salah satu masjid terpenting di Bangkok lantaran menunjukkan imigrasi komunitas Muslim ke kawasan tersebut pada tahun 1800-an.
Ketika awal dibangun, Masjid Haroon terbuat dari kayu dan diduga dirancang dengan perpaduan gaya Ayutthaya-Jawa.
Pada tahun 1934, putra Haroon, Muhammad Yusuf memperbarui masjid menjadi bentuk bata dan kapur, seperti saat ini.