大约在汉朝以后，人们就创造了初期的乐谱，不过那时的乐谱是文字的表述法，史称文字谱。现存南朝梁(公元502—557年)丘明所传琴谱《碣石调幽兰》谱为唯一例证。唐代曹柔首创减字法，将原来的文字谱简化、缩写，成为减字谱。那时的乐谱还很不精确并且烦琐。从敦煌千佛洞发现的后唐明宗长兴四年(公元933年)写本“唐人大曲谱”所用的谱式燕乐半字谱起，经过宋代的俗字谱等谱式的发展，至明清已经有了用符号表达的、并广为流传的工尺谱。古希腊人也曾经尝试用字母来记录音高，后来在欧洲又发明了纽姆谱，即用形象小符号来表示音乐向上、向下的进行。公元9世纪，出现了五线谱的祖先：一线谱。线与符号的结合，似乎为人们记录音乐找到了一种音高与音低时值长短纵横相顾的办法，很快二线、三线谱得到应用。大约在与我国唐代处于同一时期的欧洲中世纪，意大利人规多·达莱佐发明了四线谱，为后来文艺复兴时期音乐的世俗化发展、更广宽音域的运用和五线谱式的运用奠定了基础。他还发明了我们通常所唱的“do，re，mi，fa，sol，la，si”的音乐唱名。近代从日本传入我国的简谱，至今仍很实用并广为流行。而为世界各种不同音乐文化交流作出巨大贡献的，是现在通行的五线谱。