隋朝音乐受北方民族音乐与南朝宋、齐的旧乐，宫廷乐歌杂有“胡声”。隋灭南朝陈后设置清商署来管理。隋炀帝时，设置清乐、西凉、龟兹、天竺、康国、疏勒、安国、高丽、礼毕等九部乐。当时乐器有曲项琵琶、竖头箜篌、答腊鼓和羯鼓等，都是从北方民族和西域流传过来的，在当时已经知道音阶有七音而非五音而已。
万宝常与何妥是隋朝有名的音乐家。何妥是何国（位于今乌兹别克）人，他还擅长哲学。592年以国子博士受命制定正乐，当时诸重臣议论纷纷，万宝常也参与讨论，然而一时没有结果。最后何妥用计让隋文帝采用黄钟宫而解决纠纷。何妥又为隋炀帝作御车“何妥车”。著有《乐要》、《周易讲疏》等书籍。
万宝常著有《乐谱》。当时隋文帝受胡音与南朝“亡国之音”困扰，为了制定正乐召集牛弘、辛彦之与何妥等人整顿音乐，产生符合隋朝一统天下的国乐。当时重臣郑译、苏威与何妥等人讨论许久而没有定论。万宝常虽然表达意见，然而身分低下，其建议不被采用。不过他取得隋文帝的同意，以他所提的“水尺律”来调制乐器。万宝常虽有抱负，却因受一些权贵们的嫉恨，郁郁不得志而去世。他的音乐在当时被说成是“西域之乐，乃四夷之乐，非中士所宜行也。”《隋书・音乐志》也把八十四调误认为是郑译的理论，实际上这是万宝常的研究成果。