Alūksnes Mūzikas skola savu darbību uzsāk 1945. gadā Alūksnes pilsētas vidusskolas ēkā, Ernsta Glika ielā – 10.

1963. gada februārī skolai tiek piešķirta ēka Strādnieku (tagad Tirgotāju) ielā 3.

Ar 1992./1993. mācību gadu mūzikas skola klāt pamatēkai (Tirgotāju 3) iegūst papildus 6 mācību klases Dārza ielā 8A (ēkas 2. stāvā) un ar 2007. gada martu vēl divas mācību klases (ēkas 1. stāvā).

Ar 2011. gada 01. septembri skola maina atrašanās vietu uz savu tagadējo adresi – Jāņkalna ielā 38, Alūksnē.

Par skolas dibināšanas oficiālo datumu atzīmējams 1945. gada 15. oktobris, bet Skolas atklāšanas svinīgais akts noticis 18. novembrī Alūksnes pilsētas vidusskolas zālē.