因得到中书令马周的推荐，成为唐高宗李治侍读。历任中书舍人、弘文馆学士、尚书右丞、太子右庶子，转中书侍郎、吏部侍郎，迁吏部尚书、同平章事，主持铨选。累迁中书令，封赵国公。仪凤三年（678年），出为洮河道大总管，率军征讨吐蕃，不通兵事，大败而回，贬为衡州刺史，迁扬州长史。
永淳元年（682年），病逝，终年六十八岁，追赠兖州大都督，谥号文宪。
人物生平
家族出身
自称是赵郡李氏南祖之后。六世祖后魏谯郡太守李善权，把家迁到谯郡(今安徽亳县治)。于是，安徽亳县一带有了赵郡李氏的后裔。
早期事迹
李敬玄年轻时博览群书，精通礼制，后在中书令马周的推荐下，进入崇贤馆，成为皇太子李治（唐高宗）的侍读。生性冷峻，研究学问非常勤勉，受到许敬宗等人的赞誉，历任中书舍人、弘文馆学士、右肃机、检校太子右中护。
担任宰相
669年（总章二年），李敬玄升任西台侍郎、同东西台三品，兼任检校司列少常伯，成为宰相。他将司列（即吏部）事务委托给员外郎张仁祎，并沿袭张仁祎修正的选官程序，主持选官多年，使得铨选录用有条不紊。
672年（咸亨三年），李敬玄担任吏部侍郎，加封银青光禄大夫，仍兼任太子右庶子、同中书门下三品，后又监修国史。
675年（上元二年），李敬玄升任吏部尚书。他主掌吏部多年，又和赵郡李氏联宗，前后三任妻子都出身山东士族，因此在朝中势力极大。唐高宗对此很不高兴，但未公开批评他的过错。
征蕃兵败
678年（仪凤三年），吐蕃入寇。刘仁轨知道李敬玄没有将帅之才，故意奏请道：“镇守河西，非李敬玄不可。”李敬玄极力推辞。此时，唐高宗已经厌恶李敬玄，便道：“刘仁轨如果需要朕去，朕就会主动前往，卿不得推辞。”任命他为洮河道大总管兼镇抚大使，检校鄯州都督，率军抵御吐蕃。
同年九月，李敬玄与吐蕃大将论钦陵在青海交战，并命刘审礼为先锋，自己逗挠不前，致使刘审礼孤军深入，兵败被俘。刘审礼败后，李敬玄狼狈而逃，退至承风岭，挖壕沟防御。这时，偏将黑齿常之率死士夜袭吐蕃军，导致吐蕃退军，李敬玄这才得以返回鄯州，后来又在湟川被吐蕃击败。
贬官而死
680年（永隆元年），李敬玄上表称病，请求回京，得到批准。他回京后，也未引咎请罪，便直接到中书省办公。唐高宗得知他并未生病，将他贬为衡州刺史，后又改任扬州长史。
682年（永淳元年），李敬玄去世，终年六十八岁，追赠兖州都督，赐谥文宪。
个人作品
李敬玄著有文集三十卷、《礼论》六十卷、《正论》三卷。
轶事典故
永徽年间，候补官员逐渐增多，主持选官的人很少有称职的。李敬玄主持选官后，却得到天下人的称赞。他记忆过人，每年参选官员一万多人，只要在街上遇到，都能叫出名字。官员未被选用前来投诉的，他也能当场口述他们书判中的错误，毫无差错。
杭州参军徐太玄曾因同僚张惠母亲年迈，到府衙自首，称自己与张惠一同贪赃。张惠得以免去死罪，徐太玄也因此被免去官职，十几年不得升迁。李敬玄得知后，非常赞赏，擢为郑州司功参军。后来。徐太玄官至秘书少监、申王师，因德行高尚受到时人推崇。
人物评价
刘昫：崔、卢数公，皆以忠清文行，致位枢要。恪恭匪懈，以保名位，诚所谓持盈守成，太平之君子。然敬玄之擢徐太玄，可谓能举善者矣。
家族成员
祖父：李迁，州别驾，赠德州刺史
父亲：李孝卿，谷州长史，赠邓州刺史。
兄弟：李元素，中书侍郎、同平章事。
孙子：李晤
史书记载
《旧唐书·卷八十一·列传第三十一》
《新唐书·卷一百六·列传第三十一》