در برخی از منابع آمده، اینجا محل اقامه نماز عید توسط امام علی علیه السلام است؛ آن هم زمانی که عثمان در محاصره مخالفانش بود و آن حضرت نماز را اقامه کرد. بنای نخست این مسجد را طبق معمول از زمان امارت عمر بن عبدالعزیز می‌دانند. طبیعی است در قرون بعد از آن، این بنا مکرر تعمیر شده است؛ از جمله زین الدین ضیغم در سال ۸۸۱ هجری آن را بازسازی کرده است. در این اواخر، بنای کهن این مسجد تخریب و در سال ۱۴۱۱ هجری از نو تجدید بنا گردید و مساحت فعلی آن ۸۸۲ مترمربع است