O termo "conservatório" originalmente foi usado na Itália dos séculos XIV e XV para as creches, orfanatos e asilos mantidos pela igreja para abrigar órfãos e crianças abandonadas. Era costume educar as crianças para uma profissão com o objetivo de "conservarli", ou seja mantê-los longe dos perigos da vida.

​

A palavra conservatório, com a acepção mais específica de escola de música, é mais comum a partir das práticas na cidade de Nápoles, na Itália do Século XIV. Entre as escolas temos o Conservatório Della Madona de Loreta (1537, dirigido pelo padre espanhol Juan de Tapia), "I poveri di Gesù Cristo" (1599, construído pelo frade Marcello Fossataro), "La pietà dei turchini" e o "Sant'Onofrio a porta Capuana", além de um conservatório exclusivamente feminino chamado "dell ' annunziata ". As instituições conseguiam excelentes resultados na educação das crianças abandonadas recolhidas, integrando-as à comunidade através da arte e formando excelentes músicos, instrumentistas, compositores, regentes e cantores.

​

No Brasil, o ensino da música nos primeiros séculos era ministrado pela Igreja Católica e por instituições leigas como a Irmandade de Santa Cecília. O primeiro conservatório do Brasil é o Conservatório Imperial de Música, no Rio de Janeiro, instituído por um decreto de D. Pedro II de 27 de Novembro de 1841, regulamentado em 21 de Janeiro de 1847. As aulas só começaram em 13 de Agosto de 1848, sob a direção de Francisco Manuel da Silva. Em 12 de Janeiro de 1890, após a proclamação da República, passou a denominar-se Instituto Nacional de Música. Entre seus diretores, destacam-se os compositores Leopoldo Miguez, Alberto Nepomuceno, Henrique Oswald, Abdón Milanez, Luciano Gallet, o pianista Guilherme Fontainha e a maestrina Joanidia Sodré.

​

Ainda no século XIX seriam fundados o Conservatório Carlos Gomes em Belém do Pará e o Instituto de Música da Bahia. O Conservatório Dramático e Musical de São Paulo começa suas atividades em 1906. O Conservatório Pernambucano de Música, fundado em 1930, é a inspiração direta para a criação das escolas de música de João Pessoa e de Natal.