刘守光不自量力，总想扩充地盘，还想称帝，冯道此时年轻气盛，多次劝阻，惹得刘守光一怒之下将他打入大牢，幸好朋友相救，这才脱险。也许这次事件使冯道开始变得谨慎起来，也变得圆滑了许多。
刘守光被李存勖俘虏杀死后，冯道也被收入河东，张承业很欣赏他的文章，将他保举给了李存勖，做了掌书记。在后梁和后唐沿黄河反复激战的时候，郭崇韬对李 存勖说将领们的饭太奢侈，陪吃的人也太多，导致供应不足，请他下令降低标准，惹恼了李存勖，说让大家另选主帅。他让冯道起草这个命令，冯道劝道： 郭崇韬 言语有失，不听就行了，但不能分散将士之心。假如敌人得知，一定认为我们君臣不和，那就给了他们可乘之机，请三思为好。 李存勖醒悟过来，马上消了气。
一会儿，郭崇韬也来向李存勖谢罪，这件事就这么平息了。
李存勖称帝后，先升冯道为郎中、翰林学士，灭了后梁又授户部侍郎。不久冯道父亲去世，按封建法律规定，要暂时辞官回乡守孝。服孝期间，家乡闹饥荒，冯道 便将自己家里的财物全部拿出来周济乡亲，自己住在茅草屋里，当地的官吏送来的东西他都没有接受，当时契丹也素闻冯道大名，想偷袭将他抢走，由于边境守军严 密防备，这才没有得逞。
冯道在家乡并没有摆官架，而是亲自下地劳动，也上山砍柴，对一些缺乏劳力的人家他也尽力帮助。
守孝期满后，他又回到京城，这时的皇帝已经是明宗李嗣源了，李嗣源久闻冯道大名，问安重海原来的那个冯道郎中在哪里，安重海说刚复任翰林学士，李嗣源不禁说道： 他肯定是我的好宰相！
在和大臣们相处时，冯道并非一味地懦弱忍让，有时也讥讽反击，同时团结一些人。加上他有度量，文才出众，日子一长，众人对他都肃然起敬。李嗣源对他的为人也很赞赏，说他当初在家守孝时自己耕种、上山砍柴、不端官架是真士大夫。
因为李嗣源的赏识，不久冯道便被升为宰相，在李嗣源这个明君手下冯道做宰相很顺利，他也找机会向李嗣源进谏。有一次，李嗣源问起他治国之道，他就说： 陛下以德得到天下，应当日慎一日，以答谢天下百姓。臣早年侍奉先皇时，曾奉命出使，过大山的关隘时由于险要，所以非常小心地拉紧缰绳，人和马都没有事。 但到了平地上，就觉得不用小心了，结果从马上摔了下来，伤得不轻。此事虽小但所含的道理很大，所以陛下不要觉得天下太平、五谷丰登了就可以松懈点，想多享 受一些，应该兢兢业业使江山永固。 李嗣源非常赞同地点点头。
有一天，李嗣源又问冯道： 天下虽然富足，那百姓过得好吗？
冯道说： 谷贵则饿农，谷贱则伤农，这是常理。臣还记得近代举人聂夷中的一首诗《伤田家诗》： 二月卖新丝，五月粜秋谷。医得眼下疮，剜却心头肉。我愿君王心，化作光明烛。不照绮罗筵，偏照逃亡屋。
李嗣源说： 此诗甚好。 于是让侍臣记录下来，自己经常诵读，以提醒自己。
有一次，李嗣源拿出自己心爱的玉杯给冯道看，上面刻有一行字 传国宝万岁杯 ，冯道便说： 这是前世有形之宝，王者则有无形之宝。仁义是帝王之宝，古人 说： 皇帝的宝座叫做位，怎样守住这个位叫做仁。 李嗣源基本上是个文盲，他听不懂冯道这些话，等他走了，找来别的人一问，才明白了冯道在劝谏他，因而 对冯道更加器重了。
李嗣源死后，李从厚继位，冯道还是宰相，等李从珂起兵夺得帝位后，他率领百官迎接，但李从珂不喜欢有些圆滑的冯道，让他到京城以外去做官。
不久，石敬瑭勾结契丹灭了后唐，为稳定政局，又让冯道当宰相。这次冯道经受了一次考验，那就是出使契丹。契丹原来就想抢走他没有得逞，现在直接要他去， 名义是出使，实际是想把他要走。石敬瑭不愿让他去，知道很难再回来，冯道说： 臣受陛下恩，有何不可！ 坚持要走。其他人听说自己要到契丹去，脸色就变 了，手也发抖，冯道却镇静地在一张纸上写了两个字 道去 ，大家看了留下了眼泪。
契丹王听说冯道要来了，就要亲自迎接，有大臣劝阻他说： 天子没有迎接宰相的礼节。 契丹王这才没有去。
为回到中原，冯道用心周旋。有次契丹王话中流露出留他的意思，他说： 南朝为子，北朝为父，两朝为臣，岂有分别哉！ 得到赏赐后，冯道便都换成薪炭，有 人问他为什么这样，他说： 北地太冷，我年老难以抵御，所以早做准备。 像要久留的意思，见冯道这样，契丹王很感动，就让他回去，冯道却三次请求留下来， 契丹王仍让他走。冯道又在驿馆驻了一个月才起程上路，路上也走得很慢，契丹的官员让住就住，两个月才走出契丹边界。左右随从不解地问： 从北边能回来，我 们都恨不得插上翅膀飞，您还要住宿停留，为什么这样啊？ 冯道说： 纵使你急速返回，那契丹的良马一夜就能追上，根本就逃不掉，慢慢走反倒能安全返回。 大家听了，叹服不止。
出使契丹顺利归来后，冯道受到石敬瑭的进一步重用，后晋不设枢密使后，将其职权归入了中书省，由冯道主持，政务 不管大小，石敬瑭都问冯道如何处理。有一次，石敬瑭竟问起冯道军事方面的事来，冯道谦逊地说： 陛下久经沙场，神威睿智，军事讨伐之事，自行裁断即可。臣 只是一个书生，为陛下守历代的成规，不敢有丝毫差错。军事之事，臣确实不知。
辅佐石敬瑭的时候，冯道也提出过退休，但石敬瑭不准， 连他的申请也不看，让人去告诉他，如果不去就亲自上门来请，冯道只好再出来任职。不知冯道是否也觉得为儿皇帝当宰相感到屈辱，所以才提出退休。但最终还是 身不由己地继续去做，软弱和忍耐两种特性在冯道身上融合在了一起。