常衮，京兆（今陕西西安）人。字夷甫，生于唐玄宗开元十七年（729），卒于唐德宗建中四年（755）。常衮性刚急，为政苛细，不合众心，可以说又是谏言派的又一杰出代表。那时候，元载、王缙当宰相，皇帝每天都都给他们赏赐御膳，数量之多，十个人都吃不完，以此来表示皇帝对他们的器重。
但是，在常衮当了门下侍郎之后，后又担任同平章事，开始接触朝廷之事，就发现了这个现象，颇为不满，就直接上奏说：“早餐钱已经够多了，快停止给他们赐御膳了，官员本身的俸禄是足够的，何必再劳心赐饭，且数量多，浪费粮食呢？”皇帝听了这段话，也应允了。
做了这件事之后，常衮又想辞掉自己的“堂封”，大概就是津贴或者是工资什么的，当时的人都讥笑他，说“朝廷的俸禄本来就是拿来养贤人的，这是对他们的奖励，你为何要傻兮兮的不要钱？”朝廷的一个官员听闻此事之后，为常衮辩解：“君子耻食浮游于人，张衮辞去他的俸禄，表明了他的廉耻心，与那些固位贪得无厌的人相比，要好得太多，况且，《诗经》上也说：‘那些君子啊，不是吃闲饭的啊！’君子君子，就是要有自己高尚的情操，不属于自己的，多给自己的，坚决不要。”
公元763年，也就是广德元年，常衮以右补阙充翰林学士，不久任考功员外郎。这期间出了一个著名的宦官——鱼朝恩，他恃宠专权，权势非常大，朝中的许多大臣都争着向他献珠宝邀宠。常衮见此事，直接上书说：“这些大臣们贡献的宝物都是来自农民，是敛怨以媚上也，请皆还之。”他并没有直接攻击鱼朝恩，而是从这些大臣所献宝物入手，阻断了鱼朝恩的财源，也是大臣不敢轻易用宝物去拉拢鱼朝恩。代宗对此行为很是站赞赏，升了他的官儿。大历九年（774年）升礼部侍郎。连续三年主持科考。处事谨慎、墨守成规。
但也正是由于常衮的墨守成规，不知变通，引得许多人不满，甚至连贤良之臣都有些意见，大历十二年（777年）拜相，杨绾病故后，独揽朝政。坚决执行自己的原则，以文辞出众而又登科第为用人标准，这样一个办法，非常严格，一来有效地阻断了买官之路，但是能符合这两个条件的人少之又少，更何况有些人盗换考生试卷，或者是故意剔除某些有竞争的才能之人，使得其名落孙山，所以说这种方法有用，但是上有政策下有对策，买官作弊之事自古以来都不会少，既然断了买官的路，就只得从考生的试卷入手，某些没有背景的考生就经常遭殃。
这件事也还好，总体来说利大于弊，但是他自己本身不想要俸禄也就罢了，他还管了别人的俸禄，对朝中众官俸禄亦视其好恶而酌定。性清高孤傲，不妄交游，为政苛细崇尚节俭，反对腐败。他喜爱节俭，但并不是所有的人都喜欢节俭，尤其是对他不满的人，自己的俸禄只因他看不顺眼，就没多少，对他简直恨之入骨。
所以德宗即位后，朝廷中的某些官员联合宦官，诬陷他，成功将其贬为河南少尹，又贬为潮州刺史，不久为福建观察史，一路往南。但是这个刚直不知变通的人，没想过求取皇帝同情，回到朝廷之中，而是在看到当地落后的条件之后，直接留下，注重当地教育，增设乡校，亲自讲授，闽地文风为之一振。