1897年，日人為使臺灣人學習本國語（日本語）而於鰲峰山下文昌祠成立“台中國語傳習所牛罵頭分教場”， 1898年獨立為牛罵頭公學校，並於文昌祠後院北側擴建校舍，校舍臨今中山路之兩層樓建築物，大半由紅磚砌成極為精緻，現已改建為「國泰世華銀行」的嶄新商業大樓。

1935年，清水公學校在今之光華路校址建造新的校舍，學校大門及園區內環境得天獨厚，U型教室建築設計精細，英式磚砌手法為當時期典範，通風口、防蟲網等設施，都是人性化考量，搭配絕佳的校園規劃，是一座珍貴的教育殿堂，1935年4月21日的中部大地震，清水街房幾乎全毀，新建的校舍及講堂亦受到部份毀損，當時還進行了修復及補強工程，因此1999年的921大地震，校舍依然屹立不搖，成為見證兩次大地震的震災紀念建築物，十分難得。值得欣慰的是此U型校舍及講堂，已劃定為「縣定古蹟」，在台中縣文化局及文建會的協助之下，今年六月已完成修建工作，完整保存後，為全國第一宗校園古蹟，且是唯一”活的古蹟”，結合古蹟教育與學校教育，開全國先例，校門、圓環榕樹、誠字碑、U型教室及舊講堂已成為校友永恆回憶的最佳場景。