A magyar zeneiskolai hálózat, a mai értelemben vett „intézményrendszer” előfutáraként a XIX. század első felében Kolozsvárott, majd a Budapesti Nemzeti Zenede megalakulásával jött létre. A XIX-XX. század fordulója táján több nagyváros is követte ezt a példát, de a kisebb települések csak később, a XX. század második felében csatlakozhattak e folyamathoz. Az 1950-es években Kodály Zoltán zenepedagógiai munkássága nyomán az ország számos általános iskolájában bevezették az úgynevezett emelt óraszámú, ének-zene tagozatos oktatást. Noha az ideológiai nevelés az 50-es években már a kisiskolás korban „szocialista érzelmű hazafiakat” akart nevelni, paradox módon a népi és a polgári zenei kultúra átmentését (és ha burkoltan is, de az egyházzenét sem feledve) tette lehetővé Kodálynak és közvetlen munkatársainak ének-zenei iskolateremtő tevékenysége.

Így történt Tatán is, hogy 1957-ben Baranyi József az I. sz. Általános Iskola (Fazekas utcai Általános Iskola) akkori igazgatója létrehozta – a 75/1956-os miniszteri rendelet alapján – az  ének-zene tagozatot. A következő évben már a hangszeres oktatás is megkezdődött, ugyanebben az épületben két tanárt alkalmaztak a hegedű és a zongora tanítására. A hatvanas években már három zongora- és két hegedűtanár oktatott a tagozaton. 1967-ben ez a hangszeres zeneoktatás a Tatabányai Állami Erkel Ferenc Zeneiskola tagiskolájaként, majd 1969-től önálló intézményként folytatta munkáját Tatán, a Kossuth tér 10. szám alatti épületben.

Ez a ház – Körmendi Géza kutatásai szerint – a XIX. század elején épült. Sokszor bővítették, átalakították, s 1950-ig mint vendéglő és fogadóként működött. A legutolsó tulajdonosáról Hajba vendéglőnek nevezett épületet államosították, s 1969-ig, az új Művelődési Központ felépültéig, a Béke Művelődési Háznak adott otthont. A zeneiskola fokozatosan vette birtokba az épületet, amely belső átalakítások után 2010. augusztusáig adott otthont a zeneoktatásnak.

2010-ben költöztünk jelenlegi épületünkbe, melyben addig a Fazekas Utcai Általános Iskola  működött.