刘基，字伯温，青田（今属浙江）人。元代至顺年间，刘基考中进士，授为高安丞，获得廉洁正直的名声。他博通经史，无书不读，尤其精于天文。朱元璋攻下金华，平定括苍，闻知刘基及宋濂等人学识渊博，于是不惜钱财，予以招用，起初刘基坚决不答应，后经总制孙炎两次写信邀请，刘基才决定出山。到了应天，刘基陈述时务十八策。朱元璋大喜，马上命人建造礼贤馆让刘基等居住，对他们宠爱备至。
当时韩林儿自称朝廷，朱元璋对其遥相尊奉，礼节甚恭。但刘基却不这样认为，即使朝见韩林儿，也从不予以叩拜，并对朱元璋说，“韩林儿只是一个牧童罢了，尊奉他干什么？”朱元璋曾向刘基询问征战之计，刘基说：“张士诚只顾保全自己，不值得担心。陈友谅劫主胁下，名号不正，其心无日忘我，应当先谋取陈友谅，陈氏灭亡，张氏便势孤力弱，一举即可平定。然后北向中原，王业可成。”朱元璋十分高兴地说：“先生有什么好计，都尽管说出来吧！”当时陈友谅正攻陷太平，谋求东下，势力发展甚速。朱元璋的下属，开始出现动摇的局面，有的建议投降，有的建议逃往钟山，只有刘基瞪着双眼不说话。
朱元璋便将他召入内室，刘基愤然说道：“主张投降或逃走的，应该斩首。”朱元璋便问：“先生有什么计策？”刘基回答：“陈贼气骄，待其深入，伏兵拦击，将其打败，这很容易啊。天道轮回，后来起事的会取胜。取威制敌以成王业，就在此举了。”朱元璋深受鼓舞，就采纳了他的建议，引诱陈友谅军，取得了胜利。朱元璋以克敌之功赏赐刘基，刘基辞谢不受。
不久，陈友谅军又一次攻陷了安庆，朱元璋打算亲自率军征讨，以此询问刘基，刘基极力赞成，于是朱元璋率军进攻安庆。从早晨一直到暮色降临，仍未攻下，刘基请求速趋江州，直捣陈友谅的巢穴，于是全军西上。陈友谅始料不及，只得带领妻子儿女逃往武昌，江州遂降。其龙兴守将胡美派他的儿子前来表示诚意，请求朱元璋不要解散他的部队，朱元璋面有难色，刘基从背后踢床暗示，朱元璋顿时醒悟，应允了胡美的要求。胡美投降后，江西诸郡全被攻下。刘基丧母时，正值战事紧张，所以一直没敢说，直到这时，才请求还乡为母亲举行奠礼。适逢苗军反叛，杀金华、处州守将胡大海、耿再成等，浙东形势动摇。刘基赶到衢，首先为守将夏毅安抚诸属城，再与平章邵荣等，平定了叛乱。方国珍一向害怕刘基，便致信刘基，对其母去世表示悼唁。刘基给方国珍回信，向他表明朱元璋的威德，方国珍于是向朱元璋进贡。
朱元璋多次写信到刘基家中，询问军国大计，刘基逐条地详细作答，均能切中要害。不久，刘基返京，朱元璋正要亲自率军支援安丰，刘基劝说道：“汉、吴都在伺机进攻，我们现在不可轻举妄动。”朱元璋不听，而陈友谅知道后，乘机率军围攻洪都，朱元璋这才说道：“我没听你的意见，险失大计。”然后亲自带兵援救洪都，与陈友谅大战于鄱阳湖，一天交战数十次。
当时，朱元璋坐在胡床上督战，刘基随侍身旁，忽然跃起大呼，催促朱元璋赶快转移到别的船上去。朱元璋仓促转移到另一小船上，还未坐定，飞炮便将他原来所乘御船，击得粉碎，站在高处的陈友谅见御船被毁，大喜，而朱元璋所 乘之船只进不退，汉军都大惊失色。当时湖中战斗相持了三日，未决胜负，刘基请求移军湖口，以扼住汉军出口，在金木相克的这一天，与陈友谅军决战。结果，陈友谅战败，在逃跑途中毙命。其后朱元璋打败张士诚，北伐中原，完成千古帝业，均出于刘基的筹划。吴元年（1367年），朱元璋以刘基为太史令，刘基呈上《戊申大统历》。朱元璋即皇帝位后，刘基上奏制定军卫法。当初确定各州粮税时，仿照宋制每亩加五合，惟独青田县除外，太祖这么说道：“要让刘伯温家乡，世代把此事传为美谈。”刘基认为宋、元两朝都因为过于宽纵而失天下，所以现在应该整肃纲纪，于是便下令御史检举弹劾，不要有任何顾忌，宿卫、宦官、侍从中，凡犯有过错的，一律奏明皇太子，依法惩治，因此人人畏惧刘基，遵纪守法。
中书省都事李彬因贪图私利，纵容下属而被治罪，李善长一向私宠李彬，故请求从宽发落，刘基不听，并派人骑马速报太祖，得到批准，刘基便在祈雨时，将李彬斩首。因为此事，刘基与李善长开始有隙。太祖返京后，李善长便向太祖告状，说刘基在坛地下杀人，是不敬之举，那些平时怨恨刘基的人，也纷纷诬陷刘基。
刘基妻亡，刘基请求告辞还乡。太祖正在营造中都，又积极准备消灭扩廓。刘基临走上奏说：“凤阳虽是皇上的故乡，但不宜作为建都之地，皇上万万不可轻视。”不久，定西之役失利，扩廓逃往沙漠，从那时起一直成为边患。这年冬天，太祖亲自下诏，叙说刘基征伐之功，召他赴京，赏赐甚厚，追封刘基的祖父、父亲为永嘉郡公，并多次要给刘基进爵，刘基固辞不受。
后来，太祖因事要责罚丞相李善长，刘基劝说道：“他虽有过，但功劳很大，威望颇高，能调将。”太祖说：“他三番两次，想要加害于你，你却还设身处地为他着想？我想改任你为丞相。”刘基叩首道：“这怎么行呢？更换丞相如同更换梁柱，必须用粗壮结实 的大木;如用细木，房屋就会立即倒坍。”
后来，李善长辞官，太祖想任命杨宪为丞相，杨宪平日待刘基很好，可刘基仍极力反对，说：“杨宪具备当丞相的才能，却无做丞相的气量。为相之人，须保持象水一样平静的心情，将义理作为权衡事情的标准，而不能搀杂自己的主观意见，杨宪做不到。”太祖又问汪广洋如何，刘基回答：“他的气量比杨宪更狭窄。”太祖接着问胡惟庸，刘基又回答道：“丞相好比驾车的马，我担心他会将马车弄翻。”太祖又说道：“这样看来，只有先生你最合适做我的丞相了。”