據清《黃岡縣志》記載,黃州儒學始建于宋代,儒學宮址在黃州城東。由于戰爭及天災等破壞,明、清時期陸續重修重建。清光緒初年,學宮移至清準大門內即今市實驗小學處。當時,學宮大門為戟門,二門為欞星門,后為泮池,池上有石橋。過橋為大成門,再進為大成殿,正中央供“大成至圣先師孔子牌位,兩側供”,“亞圣顏回等七十二賢人”的牌位。大成殿后為崇圣殿,再為尊經閣。大成殿東西兩廡,共列祀歷代79位先賢和61位先儒。
現存的房屋實際是儒學宮建筑群中的一部分即大成殿,是清代建筑。因多經戰亂,到清末,該殿也已破敗。民國初年,黃岡縣政府捐資進行了一次大的維修。(屋內大梁上有文字記載)。到1959年,政府部門在該處開辦黃州第一所小學——黃師附小。2002年,大成殿使用單位黃岡市實驗小學集資再次維修。維修的的大成殿(文廟)面貌煥然一新。
文廟,俗稱“考棚”,為歇山頂古代宮殿式建筑,黃瓦紅墻,木質結構,占地面積480平方米。學校在該殿內開辦了圖書室,成為師生們閱讀的場所。殿前的泮池,經過校方維修,保存完好。