清真大寺始建于唐贞观二年，距今已有千年历史。该寺建筑古朴，结构严谨，整个建筑既有中国传统汉式木构建筑特色，又有阿拉伯风格。它也是我国唯一一座在《二十四史》中有载的清真寺。大寺内明嘉靖丙午（1546年）陨石碑刻，也是现知全国独一无二的一块刻在陨石上的阿汉文碑刻。

寺庙现存有正门、十字穿心楼阁、石桥、礼拜殿，主体建筑由四组殿堂相连而成，在中线两侧还有沐浴室。其中畔池、后拱桥、陨石台、牌坊、碑楼等为明清遗物，寺内还存有康熙圣谕牌、历代《古兰经》手抄本、刻印本及清真寺藏书伴游等珍贵典籍文物。