此廟為明萬歷陳冰年間(1616)直隸寶鼎府城所守。當方山縣韓吉村的人們看到城裏沒有寺廟時，每當他們在節日時去拜訪他們的家鄉，法國公眾就決定用他們自己的資金建造它。他們先買了12畝魏的菜園，周圍除了廟外，很多外地的親戚都借住官宅。
當時法公只建了三廳兩衛。皖戰軍閥段的第二師師長向回民部下征集銀元1000，炮兵營長馬向部下征集銀元500，修建兩側耳房和前廳。聶鐵的其余部分由馬玉林、阿訇和鄉下佬等完成。
光緒三十年，浴室南北講堂擴建，堂內地板由伊瑪目馬國仁完成。
伊斯蘭教不崇拜偶像。本來正殿的屋脊就不適合動物的形象。需要白雲張出資把泥塑動物搬進花草裏，做了18的屏風放在正殿裏。閆大洲出資500銀元，在廳內做了胡圖柏樓(明買爾)。
大雄寶殿內有21座清真寺，在文革中與原寺壹樣被毀。匾額、經書和大量物品被付之壹炬。正廳改成了俱樂部，報告廳變成了街道辦工廠，洗浴間變成了木工車間。1979年省民委確定為重點開放清真寺，1984年被列為市級重點文物保護單位。1987在群眾捐款和政府資助下修復，次年竣工。新中國成立後，歷任伊瑪目分別是尹寬(寧夏)、劉克儉(河北大廠)、馬(定州)、馬(保定)。前伊瑪目張英傑是省伊拉克協會的成員，也是市伊拉克協會的主席。他在二林學識深厚，培養了許多學識淵博的宗教人才，勤於教育事務，贏得了穆斯林群眾的好評。重新開放1O多後，先後有美國、日本、加納、英國、以色列、利比亞、巴基斯坦、新加坡的客人和全國各地宗教界知名人士到訪。清代石碑2塊，光緒年間石碑2塊，阿拉伯文、波斯文書籍228本。該寺原有土地56畝，現有寺舍44間支撐著寺院。這座寺廟附近居住著回民，有1500多戶，其中回民占80%以上，有3436人。保定市伊斯蘭教協會設在該寺。