李靖看到天下基本平定，觉得自己是员武将，在朝廷已经不会有太大作为，就给太宗写了奏章，请求告老还乡。
唐太宗看了李靖的奏章，觉得措辞十分得体，态度非常恳切，同意了。第二天，派人对李靖说：“我看从古至今，做了大官而能知足的人太少了，不论聪明人或庸俗的人差不多都不能自知。有些人本来没什么才能，还留恋权势，不肯辞官，还有人生病，根本不能办事，仍然占据高位。我同意你辞官，不仅成全你的志向，更重要的是想把你树为这个时代的模范人物，让人们学习。”
李靖辞官后，在家安安静静地度过了晚年。
（出处《旧唐书?李靖传》）