臺北城是清朝最後所建城池之一。當年的城牆如今皆已傾圮，只留下幾座城門遺跡，成為歷史的見證。臺北城的城牆寬4公尺、高5公尺，圍繞約4公里，是座非常堅固的城池。

一般的中國城牆都有4個門，可是臺北城有5個門，據說是當時的板橋富商林本源家族為了方便出入，特別捐贈所建造的。雖然這樣的傳說尚未受到證實，但小南門在中國式的城池建築中，的確是個非常特別的例子。可惜的是，雖然它和東門、南門一起逃過了日本人的摧毀，但卻在國民政府來臺後，被改建成北方宮殿式的城樓，只有底部的城座仍然保持當年原始的樣貌，繼續守護著臺北。