早在人类还没有产生语言时，就已经知道利用声音的高低、强弱等来表达自己的意思和感情。随着人类劳动的发展，逐渐产生了统一劳动节奏的号子和相互间传递信息的呼喊（狩猎、打夯），这便是最原始的音乐雏形；当人们庆贺收获和分享劳动成果时，往往敲打石器、木器以表达喜悦、欢乐之情，这便是原始乐器的雏形。

　　据考古发现，中国音乐可追溯至7000多年前。当时的先民们可能已经可以烧制陶埙，挖制骨哨。河南舞阳县贾湖遗址的骨笛溯源于距今8000年左右，是全世界最古老的吹奏乐器。其中的一支七孔骨笛保存得非常完整，该骨笛演奏音乐能发出七声音阶。

　　古代诗歌密不可分，即文学和音乐是紧密相联的。《诗经》中的诗篇当时都配有曲调。世传伯牙子期高山流水遇知音的故事就始于周代。秦汉时期出现乐府，继承周代的采风制度，专门搜集整理改编民间音乐。汉朝和唐朝以后，中国通过西域和国外的交流频繁，源于外国的乐器大量为中国音乐采纳。近代通行的工尺谱源于唐代，中国戏曲音乐在宋代逐步趋于成熟，元代达到高峰时期。汉族古代音乐属于五声音阶体系，即宫(do)、商（re)、角（mi)、徵(sol)、羽（la)。

　　古代的音、乐有别，后混称“音乐”，指用有组织的乐音表达人们的思想感情、反映社会生活的一种艺术。古人认为，低层次的音是对人欲的宣泄，容易引导人走向颓废和暴戾；而高层次的乐是天道的体现，能够使人在享受音乐的同时受到道德的熏陶，是入德之门，只有符合于道的音才称为乐。《乐记》中说“知音而不知乐者，众庶是也，唯君子为能知乐”。唯有有道的君子才懂得什么是真正的乐。

　　16世纪，西洋音乐通过传教士传到中国。清初，五线谱传入中国。20世纪初，中国兴起新式学堂，其中的学堂乐歌课直接效仿日本的音乐教育，沿袭日本使用简谱的做法，简谱传入我国。