第二次战争元军将帅不和
忽必烈着手建立海军。命范文虎往江南募集从军者计10万人，战船3500艘，组成江南军，从水路出发。另一方面，命洪茶丘至东北，招募辽阳、开原等地从军者3000人;忻都仍统领蒙古军;又任命高丽将军金方庆为征东都元帅，统率高丽军10000人，水手15000人，战船900艘，军粮10万石。三军合计40000人，组成东路军，取道高丽东征。
元世祖军事部署就绪之后，于至元十八年(公元1281年)正月，召集两路征日军统帅会议，任命元军优秀宿将阿剌罕为两路军的总指挥。会议确定，两路军各自择期出发，于六月十五日至壹岐岛会师。同时，忽必烈命令各船携带农耕器具，以备占领九州之后作屯垦之用。
忽必烈又指示，取人之国者，在于得到百姓土地，切勿多杀。同时，将帅要同心合力，切勿猜忌。忽必烈已看到将帅间的不合。
至元十八年(公元1281年)初，高丽王上书世祖，日本武士犯边，要求出兵追讨。于是，元世祖下令征日大军出发。
本次征日的先锋是东路军。五月三日，东路军自合浦起锚，开往巨济岛等待江南军。待命半月，尚未到预定会师日期，忻都决定不再等待。五月二十一日，东路征日大军舰队直驶对马岛，元军第二次侵日战争揭开战幕。
元军征日东路军进攻对马岛的世界村(上岛佐贺浦)、大明浦，守岛日军奋勇抵抗，因众寡悬殊，全部战死。元军占领对马岛后，不顾忽必烈的指令，大肆杀掠。五月二十六日，东路大军攻入壹岐岛。占岛后，理应按忽必烈的军事会议精神，在此等待江南军。但是，忻都自恃有上次战争经验，且兵力雄厚，尤其担心江南军抢首功，因而贸然率军自壹岐岛出发，驶向博多湾。六月六日，东路军抵达博多湾海面。忻都派出一支小型舰队，驶向长门，牵制长门守军，使其不敢救援大宰府。
元军进攻对马岛的消息，10天后才送到幕府和京都。元军进攻长门的快报，六月十四日方始送到。消息震惊了镰仓和京都。舆论惊民，以致出现市无粜米，民有饥色。后宇多天皇亲临神只宫祈祷七昼夜，龟山上皇在石清水神社祈祷，又派人去伊势神宫祝词：愿以身代国难，各王公大臣纷纷向寺、社献币、写经、诵经。
藤原经资统率北九州武士，立即进入沿海石坝阵地，严阵以待。通过第一次元军入侵战争，他们已取得了战争的经验教训，对部队进行了调整。总指挥仍为藤原经资，大友赖泰作副手，参加第一线的战斗员大约有4万人，此外，其他地方部分御家人和武士，也参加了九州的战争。
六月六日，元军舰队驶进博多湾，发现沿海滩头筑有石坝，登陆困难。忻都派出侦察部队，侦察终日，始知志贺岛和能古岛防御薄弱，未筑石坝，遂命舰队靠近志贺岛下锚。元军第一次侵入博多湾，是以突然袭击而得手的;第二次侵入，日军防御已做好准备，元军已不再是突袭而是强攻。
七日晨，洪茶丘所率元军登陆占领志贺岛，与元海军形成犄角之势。八日和九日，元日两军的陆战，集中于这个狭长的岛屿上。志贺岛在海潮退时，露出海滩直通陆地，元军力图从海滩突破，进攻博多守军后路。因此双方的争夺战极其激烈。《张成墓碑铭》载：
八日贼遵陆复来。君率缠弓弩，先登岸迎敌，夺占其口要，贼弗能前。日晡贼军复集，又返败之。明日倭大会兵来战，君统所部，入阵奋战，贼不能支，杀伤过众，贼败去。
战斗越来越激烈，高丽军也投入这场争夺战。日军副指挥大友赖泰之子大友贞亲率日军突入，击退元军和高丽军，恰遇洪茶丘。幸亏王万户率军抢救，战退日军，洪茶丘方免于难。九日，日军又来进攻。在这狭长的滩头阵地，元军不能发挥其所长，日本武士一人一骑的战斗方式却发挥了优势，因而元军伤亡很大。据日本史书记载，元军被杀千余人。战斗进行到六月十三日，元军未能前进一步。这时正值六月(公历七月)盛夏，元军长期在船上生活，蔬菜、饮水供应困难，疫病不断发生，病死者已达3000余人，抢占博多湾的计划已难以实现。因此忻都等决定，于六月十五日率军撤离志贺岛，驶向壹岐岛，与江南军会师。
台风成了二次战争主角
江南军未能按期到达指定地点会师。五月，征日行省侦知，靠近大宰府的平户岛守军皆调至大宰府，应以该岛作为两路军的会师地点。忽必烈将此情报通知两路军统帅阿剌罕。阿剌罕决定于平户岛会师，后在六月初因病死去。忽必烈任命阿塔海继任统帅。由于人事更动，致使范文虎江南军未能按期出发。范文虎于六月初已派出先遣舰队去壹岐与东路军联系，这支先遣队却误至对马，以后始至壹岐。九州日本守军知江南先遣军至，总指挥藤原经资率一部军队进攻壹岐。六月二十九日和七月二日，激战两日，日军不敌，退走。
范文虎因先遣舰队已发不宜久等，在阿塔海未到任的情况下，命江南军于六月十八日开航。阿塔海六月二十六日到庆元时，江南军已全部离港，所以阿塔海未能参加江南军的指挥工作。江南军在七月底全军进入指定阵地，与东路军会师，七月二十七日开往鹰岛，受到日军舰队的截击。《张成墓碑铭》载：
贼舟复集，君整舰，与所部日以继夜，鏖战至明，贼舟始退。
战争进行了一天一夜。天明，日军撤退之后，范文虎与忻都等相议，“欲先攻大宰府，迟疑不发”。两路大军会师，军势大振，本应立即进攻大宰府，其所以迟疑不发者，大概是看到了台风到来的前兆，“见山影浮波，疑暗礁在海口，会青虬见于水上，海水作硫磺气”等等。元军两路统帅皆无海上知识，见台风前兆不知躲避，如果当时退至平户、壹岐、对马或高丽，尚可保全。但他们在海上“迟疑”了一天。
八月一日，台风袭来，元军船毁人溺，师丧大半。台风过后，江南军张禧即乘船各处寻救元军将士。江南军总指挥范文虎舰碎，抱船板漂流海中，被张禧救起。张禧立即向他建议，江南军士卒未溺死者尚有半数，且皆为青壮战士，可以重整旗鼓进行战斗，利用船坏将士义无反顾的心理，强行登陆，扩大战果。从当时形势看，这个建议是可行的。但是，范文虎刚刚脱险，慑于台风，已无斗志，坚持回师。他对张禧说：“还师问罪，我辈当之，公不与也。”江南军于是收集残卒班师。这时平户岛尚有4000军卒无船可乘，范文虎命弃之不顾。张禧不忍，将船上75匹战马弃于岛上，载4000军卒回国。
第二次元军侵日战争和第一次一样，遭遇台风而失败。元世祖忽必烈准备数年的侵日战争，因用人不当，以致江南大军10万之众、3500艘战舰，不见一阵，丧师而还。
范文虎回师后，被遗留在日本海岛上的元军士卒约3万人，除一部分被俘外，大部被日军杀害。
范文虎等回至元都，向忽必烈汇报时，编造一个弥天大谎：
至日本，欲攻大宰府，暴风破舟，犹欲议战。万户厉德彪、招讨王国佐、水手总管陆文政等，不听节制辄逃去。本省载余军至合浦，散还乡里。
范文虎和忻都等联合欺骗忽必烈，隐瞒了会师失利、台风破舟等事实，把失败的罪过推到部下厉德彪身上，骗过忽必烈，且受到赏赐。一年之后，于阊等人从日本逃回，忽必烈始知真相，震怒中将征日军大小将领，全部罢职。忽必烈不甘心这不可思议的失败，又积极备战，以图洗刷两次征日失败的耻辱。但出师未成，忽必烈即于1294年死去。