此廟為明萬歷陳冰年間(1616)直隸寶鼎府城所守。當方山縣韓吉村的人們看到城裏沒有寺廟時,每當他們在節日時去拜訪他們的家鄉,法國公眾就決定用他們自己的資金建造它。他們先買了12畝魏的菜園,周圍除了廟外,很多外地的親戚都借住官宅。
當時法公只建了三廳兩衛。皖戰軍閥段的第二師師長向回民部下征集銀元1000,炮兵營長馬向部下征集銀元500,修建兩側耳房和前廳。聶鐵的其余部分由馬玉林、阿訇和鄉下佬等完成。
光緒三十年,浴室南北講堂擴建,堂內地板由伊瑪目馬國仁完成。
伊斯蘭教不崇拜偶像。本來正殿的屋脊就不適合動物的形象。需要白雲張出資把泥塑動物搬進花草裏,做了18的屏風放在正殿裏。閆大洲出資500銀元,在廳內做了胡圖柏樓(明買爾)。
大雄寶殿內有21座清真寺,在文革中與原寺壹樣被毀。匾額、經書和大量物品被付之壹炬。正廳改成了俱樂部,報告廳變成了街道辦工廠,洗浴間變成了木工車間。1979年省民委確定為重點開放清真寺,1984年被列為市級重點文物保護單位。1987在群眾捐款和政府資助下修復,次年竣工。新中國成立後,歷任伊瑪目分別是尹寬(寧夏)、劉克儉(河北大廠)、馬(定州)、馬(保定)。前伊瑪目張英傑是省伊拉克協會的成員,也是市伊拉克協會的主席。他在二林學識深厚,培養了許多學識淵博的宗教人才,勤於教育事務,贏得了穆斯林群眾的好評。重新開放1O多後,先後有美國、日本、加納、英國、以色列、利比亞、巴基斯坦、新加坡的客人和全國各地宗教界知名人士到訪。清代石碑2塊,光緒年間石碑2塊,阿拉伯文、波斯文書籍228本。該寺原有土地56畝,現有寺舍44間支撐著寺院。這座寺廟附近居住著回民,有1500多戶,其中回民占80%以上,有3436人。保定市伊斯蘭教協會設在該寺。