晚年的狄仁杰，既要一如既往地效忠女皇武则天，又肩负着唐室中兴的重任。他清楚地看到，徐敬业兄弟、琅邪王李冲、越王李贞先后起兵反武，但均被剿灭，告密之风盛行，周兴、来俊臣等酷吏，掌管制狱，杀戮大量李唐宗室，而武周的势力正如日中天一样强大。唐室复兴不是一朝一夕就能完成的，唐室复兴需要一场政变，但时机并不是现在，也并不具备必不可少的条件，它需要隐而不发，韬光养晦，坐待良机。而他唯一能做的，就是恪尽职守，全力辅佐武则天的同时，又不遗余力促成武周政权回归，为唐室复兴做好铺垫。
非常时期，狄仁杰的晚年，注定是不同寻常的晚年。
686年，56岁的狄仁杰出任宁州刺史。当时宁州为各民族杂居之地，狄仁杰体察民情，抚和戎夏，妥善处理各民族之间关系，人心笃定，内外相安。
687年，擢升为工部侍郎的狄仁杰，充江南巡抚使，针对当时吴、楚多淫词的弊俗，奏请焚毁祠庙1700余所，唯留四祠，减轻了江南人民的负担。
688年，武则天授仁杰为豫州刺史，当时的豫州正值越王李贞、琅e王李冲等“讨武”兵败之后。镇压叛乱的当朝宰相张光辅率兵30万，扩大矛盾，贪功抢掠，以查寻李贞党徒为名，四处抄家，抓捕无辜，连坐者六七百家，籍没者5000余口。一时间冤狱甚起，受害者无数。刚刚到任的狄仁杰，看到哀鸿遍野，民不聊生，遂一面给冤屈死囚开释刑具，一面秘奏武后。明言原案“诖误”，请求武氏“仁恤”武则天深知狄仁杰以国为重，所奏无虚，遂下诏改杀为流，全部流放丰州。
仁杰的才干与名望，逐渐得到武则天的赞赏和信任。691年九月，62岁的狄仁杰第一次被任命为宰相。狄仁杰官居宰相，参与朝政之时，也正是武承嗣显赫一时，踌躇满志之日。他认为狄仁杰将是他被立为皇嗣的障碍之一，就勾结酷吏来俊臣诬告狄仁杰等大臣谋反，将他们逮捕下狱。狄仁杰运用自己的机智才谋，死里逃生，真相大白，武则天却不肯完全为他平反昭雪，贬他到彭泽去担任一个小小的县令。赴任当年，彭泽干旱无雨，营佃失时，百姓无粮可食，狄仁杰上奏疏要求朝廷发散赈济，免除租赋，救民于饥馑之中。
696年十月，契丹攻陷冀州，河北震动。为了稳定局势，武则天起用狄仁杰为与冀州相邻的魏州刺史。狄仁杰到职后，号召百姓返田耕作。契丹部闻之引众北归，使魏州避免了一次灾难。
狄仁杰勤政惠民，每任一职，都心系民生，社会声望不断提高，武则天对他越来越倚重。697年十月，67岁的狄仁杰被武则天招回朝中，恢复了宰相职务，成为辅佐武则天掌握国家大权的左右手，参与一系列重大决策。此时，狄仁杰已年老体衰，健康每况愈下，但他深感个人责任的重大，仍然尽心竭力，身体力行，直至鞠躬尽瘁。