鄭州清真寺因地處北大銜，故又名北大街清真寺、北大清真寺或北大寺，是伊斯蘭教在鄭州建造最早、規(guī)模最大的清真寺。

伊斯蘭教與其它宗教最不同的一點(diǎn)是民族與宗教合一，哪里有穆斯林哪里也就有清真寺。所以鄭州伊斯蘭教是隨著回族人口的出現(xiàn)而傳入的。唐代，公元7世紀(jì)初，管城已是兩京（長安、洛陽）通往沿海各地的水陸碼頭，一些過往的阿拉伯使節(jié)和商人，或寄寓或留居，成了當(dāng)今鄭州回族最早的來源。唐代宗寶應(yīng)元年(762年)，兵馬副帥仆固懷恩及其所率軍隊(duì)在安史之亂平息后，留駐汴洛黃河兩岸。

據(jù)史家考證，仆固懷恩是一位“勇敢善戰(zhàn)的穆斯林人”，他所率領(lǐng)的軍隊(duì)，主要是回紇、南蠻和大食人，也成為鄭州回族的來源之一。唐中和四年(884年)，李克用奉命率兵五萬進(jìn)剿黃巢起義軍，其大本營就設(shè)在鄭州。后來又有一些回族因經(jīng)商或從軍等原因逐漸在鄭州城鄉(xiāng)定居下來，明代鄭州城內(nèi)的“回回巷”（今管城回族區(qū)清真寺街一帶），已是回族群處的地方。同時(shí)清真寺作為伊斯蘭教傳教和活動(dòng)的場(chǎng)所也陸續(xù)興建起來。

鄭州清真寺始于元末明初，位于北大街128號(hào)，為鄭州伊斯蘭教傳播發(fā)源地。寺內(nèi)乾隆二十六年（1761年）碑文記載：“由明以迄大清數(shù)百年，掌教者有三師?！鼻迩∈拍旰退氖吣陜纱沃匦?。雍正三年（1725年）重修寺門照壁，嘉慶七年（1802年）重修大殿滾白，光緒三十三年（1907年）重修望月樓。1953年、1982年鄭州市政府兩次撥款共40萬元進(jìn)行了翻修。寺院現(xiàn)占地近17畝，為兩進(jìn)院對(duì)稱，中國傳統(tǒng)宮殿式建筑，主要由大門、望月樓、大殿、南北講堂浴室、殯儀館組成。

清真寺正門面闊三間，進(jìn)深二間，高約10米，單檐歇山頂，建筑面積96平方米。房頂覆以灰筒瓦，脊上浮雕蓮花，戧脊前端置以云盤，檐下飾斗拱一斗二升，明間用石柱四根，平面呈小八角形；周圍用木柱，中間為木制通柱二根，兩柱前后有高達(dá)一米的抱鼓石二對(duì)。實(shí)榻大門三合，分別設(shè)在正脊下方的中柱兩側(cè)。門前有月臺(tái)，方磚鋪地，設(shè)垂帶式踏跺四級(jí)，威嚴(yán)莊重。

望月樓又名喚醒樓，是伊斯蘭教寺院中特有的建筑，為阿訇觀月、齋戒之用。高10米，上下兩層，平面正方形，重檐歇山樓閣式建筑，建筑面積49平方米。瓦頂及山面飾黃綠二色琉璃瓦花紋和懸魚博風(fēng)，脊上雕飾蓮花，下檐用一斗二升加麻葉頭斗拱，上檐置單昂三踩斗拱，轉(zhuǎn)角用重昂把臂廂拱。周圍有十二根石柱支撐，其中十根小八角形，二根四方形；前四根用漢文刻對(duì)聯(lián)二幅，后四根用阿拉伯文刻對(duì)聯(lián)二幅。前檐懸有豎匾“望月樓”，下檐橫匾為“萬化朝真”，后檐扇形匾書“遠(yuǎn)矚西域”，中檻上方掛“正教昌明”大匾一塊，為光緒二十一年(1895)阿馬圖魯楊歧珍書。望月樓小巧玲瓏，造型、結(jié)構(gòu)和藝術(shù)等皆為此寺之精華。望月樓兩側(cè)各有硬山單披式掖門。

大殿亦稱禮拜殿，為清真寺的主體建筑，高約十米，面闊五間，進(jìn)深四間，有卷棚、前殿、后殿和廡殿式后窖。四座殿宇前后相連，組合一處，稱為勾連搭式，面積423平方米，可容納500多人同時(shí)做禮拜。殿頂用琉璃瓦和灰瓦，脊上浮雕花草紋飾。卷棚用四根石柱為小八角形，上刻阿拉伯文對(duì)聯(lián)，殿內(nèi)有光緒年間所置阿拉伯文橫匾。禮拜殿前兩側(cè)是講堂和硬山單披式掖門，并有陪房、沐浴室等。

寺內(nèi)存有明宣德年間兩個(gè)紫銅香爐，上有銘文印文章；清代大小碑刻16通，有數(shù)百年樹齡的古槐兩株。

清真寺首先是穆斯林沐浴、禮拜和舉行宗教儀式的場(chǎng)所，其次還負(fù)有舉辦宗教教育、培養(yǎng)海里凡（學(xué)生）、傳播宗教常識(shí)和學(xué)問的使命。清真寺也是向阿訇們向穆斯林宣傳《古蘭經(jīng)》圣訓(xùn)、教規(guī)、教義、圣史的講壇，每逢主麻日(星期五)、齋月內(nèi)、開齋節(jié)、宰牲節(jié)圣紀(jì)日，各寺阿訇要向本坊教民講“臥爾茲”（勸戒）。同時(shí)清真寺也是為穆斯林群眾主持婚、喪、嫁、娶、紀(jì)念亡人的地方。負(fù)責(zé)寺里日常行政事物的是社頭，現(xiàn)在是管委會(huì)主任。

清真寺還接納招待外地來游的傳經(jīng)學(xué)者，如明朝時(shí)從西域來的真人默穆都哈，死后葬在老墳崗，尊稱巴巴墓。

20世紀(jì)二三十年代，河南省著名阿訇馬常青、龐士謙、尚希賢等都在這里招收海里凡（即“哈里發(fā)”是伊斯蘭語。亦譯“”它的意思是阿訇的學(xué)生，替位者，接班人。），設(shè)帳講學(xué)，培養(yǎng)宗教職業(yè)者。1989年3月，接待了來我國參觀訪問的伊朗駐中國大使布魯杰迪及子女一行四人，贈(zèng)送了地毯和《古蘭經(jīng)》。

寺內(nèi)有對(duì)聯(lián)如下：

大殿對(duì)聯(lián)：

1、認(rèn)真主無形無影憑萬物作證；參造化非高非遠(yuǎn)唯一理在心。

2、一天畫圓須知丹青無二；滿地文章當(dāng)思運(yùn)筆是誰。

3、匾有：乾隆十三年馬長青阿旬所寫兩幅。

鄭州北大清真寺有明代宣德爐兩只，為稀世之物。本寺是河南省級(jí)文物保護(hù)單位之一。