946 年 7 月,臺南市政府派韓石爐籌設臺南市第一所市立初級中學,校址定於原臺南神社外苑,並於同年 9 月開始招生,稱「臺南市立初級中學」,以韓石爐為首任校長。第二任校長楊德均為效法武訓興學之精神,定武氏出生之 12 月 5 日為校慶。 1951 年試辦高級中學,因校地狹小不利發展,於 1953 年 8 月與逢甲國民學校(今忠義國小)互換校地而遷至現址,並於其後改稱「臺南市立中學」。[1]
1956 年籌辦公園分部,並於隔年 11 月 16 日設校,稱「臺南市立延平初級中學」(今延平國中);[4]1960 年設灣裡分部,隔年獨立為「臺南市立南寧初級中學」(今南寧高中)。 1961 年因實施「省辦高中,縣市辦初中」之政策,高中部停止招收新生,並將原有之學生移轉至臺灣省立臺南第一中學(今臺南一中)及第二中學(今臺南二中),同時初中部開始招收女性學生。 1968 年 8 月因臺灣實施九年國民義務教育,改為現名