1271年，元世祖忽必烈在灭亡金朝之后，又迫使朝鲜半岛称臣，志得意满之下定都于大都（北京）。他即位后很快开始进攻日本。
忽必烈对日本有着明确的政治目的。第一，自唐代最后一代遣唐使之后，日本已经数百年未通中国，如果日本向忽必烈表示臣服，有助于增加元帝国的权威性，对忽必烈巩固权力颇为有利;第二，当时元帝国正在对南宋发动最后的进攻，而日本是南宋的重要贸易伙伴。从切断其外援的角度，获得日本的臣服颇为重要。第三，元军征服朝鲜半岛后，高丽“三别抄”军发动起义，曾寻求日本方面的支持，忽必烈感到了镰仓幕府对自己的威胁。
1275年，元军第一次进攻日本的战役打响了，元军选择的进攻地点是最近的北九州地区。
首先遭到攻击的是日本与朝鲜半岛间的门户对马岛。农历十月初三，元军从朝鲜半岛的合浦，即今镇海湾马山浦悄然出击，六日凌晨突然出现，成功登陆对马岛。元军全歼岛上日守军，攻占对马岛。接着，于十四日发动对壹岐岛的攻击，战火开始烧近日本本土。十六、十七两日，元军开始攻击日本本土，在九州松浦、平户等地进行多点袭扰性登陆。二十日，这次战役中两军最大的决战在博多湾发生。此一战，十万日军全军崩溃，放弃博多等地，逃往北九州的首府太宰府。
战争的转机在不经意间出现。元军在追击日军的时候有些得意忘形，实际在前方指挥作战的左副元帅刘复亨位置一度突出阵前。日军大将少贰资景是一名神箭手，见此情景返身一箭将其射伤。
尽管进展顺利，但因为主帅受伤，元军决定停止追击，撤回船上休整，第二天再次进攻。对日军的战斗力元军没有看在眼里。他们没有想到，这一去，就再也没有能够回来。当天夜里，北九州正好受到了一次台风的袭击，心惊胆战的日军守候一夜之后，第二天早上惊讶地发现海面上连一条元军的船都不见了。
第一次东征日本，元军因大风造成大批船只失事，据称溺毙、失踪一万三千余人，损失惨重，被迫中止。
感到双方矛盾无法调和的镰仓幕府态度十分强硬，在1275年和1279年两次将忽必烈的使臣杜世忠、周福等斩杀。蒙古贵族上层对此极为震怒，忽必烈为了维护自己的权威，1281年第二次出兵讨伐日本。这一次，忽必烈出动兵力约15万人，是当时世界上史无前例的大型舰队。然而，这次的作战进展比第一次要艰难得多。元军兵分两路，主力江南军约十万人因种种原因直到七月才抵达日本海岸，而东路军约5万人则循旧路再次登陆北九州。兵分力散的元军因为受到日本沿海防御工事的阻碍，寻找登陆点便花费很多时间。登陆后，又遭到早已有备、装备训练都得到很大提高的日军的截击。伤亡较大，加上疫病横行，元军前进速度十分缓慢。
农历七月三十日，在海上徘徊许久的元军再次遭遇台风，这一次的损失更为惨重，特别是迟迟方到的江南军因为仓促建造的战船质量低劣而几乎全军覆没，东路军损失也几乎达到七成。元朝的第二次对日征讨再次失败。
以后，虽然忽必烈还计划过第三次征讨，但因形势所限，最终没有实施。