元世祖忽必烈于1274年（日本文永十一年）和1281年（日本弘安四年）两次出兵攻打日本，但都遭到失败，无论是战争期间还是战争结束后，日本跟元朝都没有建立起官方稳固的外交关系。但是日本商船还是经常到元朝把中国大陆的货物运回日本，这主要是因为元朝对外国贸易采取比较宽大的政策。但是文永之役以后，元朝采取了防范武装商人的措施，管理贸易的市舶司也时常有变迁，贸易统制日渐严厉，私人贸易被禁止，出入的内外船舶必须持有元朝发给的叫做公据的渡海证明书，按照货物数量进行课税。
这些方针对日本船执行的特别严格，开了后来明朝实行的“勘合贸易”制度的先例。（勘合贸易制度:勘合是一种外国君主向明王朝朝贡的凭证，由明王朝礼部制定，上盖骑缝印信，一分为二，一半交给外国君主，一半留明王朝。明朝海禁后，规定外国君主遣使朝贡时，必须携带发给的半印勘合与留存明王朝的半印底簿比对朱墨字号是否相符。）
从日本到元朝的贸易船有不少是以获得寺社营造费用为目的的，比如1325年入元的为了取得建长寺营造费用的建长寺船，1328年为了取得关东大佛营造费用的关东大佛船，1332年为了取得住吉神社营造费用的住吉社船，1341年为了取得天龙寺营造费用的天龙寺船等等。虽然他们形式上都是受到天皇朝廷敕许或者幕府派遣的，但实际都是贸易船。比如著名的天龙寺船，船长至本就保证不计盈亏，回国后向天龙寺缴纳现钱五千贯。幕府对这些为了筹备寺社建造费用的贸易船负担航行中的警备任务，防止海盗船掠夺。这些船入元的时间，是元英宗至治二年（1322年）庆元市舶司恢复以后的时期，官许船似乎是受到元朝给予的与一般商船不同的特别待遇。庆元就是现在的浙江宁波，“市舶司”是唐朝开始设立的专门管理海外贸易和收取税款的官署。
在元朝和日本的交往中，禅僧成为了一支重要力量。一山一宁（中国台州人，普陀山高僧，1299年以元使身份赴日未归。去世后被花园天皇赐以“国师”封号），清拙正澄（福建连江人，临济宗高僧。1326年应北条高时邀请赴日，去世后谥为“大鉴禅师”），明极楚俊（浙江宁波人，临济宗高僧，1329年赴日。受到后醍醐天皇和北条高时的宠信，被赐“佛日惠焰禅师”称号），竺仙梵仙（明州象山人，1329随明极楚俊一同赴日。受光严上皇和足利尊氏的皈依）等中国名僧的来日，奠定了日本禅宗文化的兴盛。通过禅宗流入日本的中国贵族教养，后来则成为了东山文化的基础。
元朝时期，袭击中国大陆的倭寇应当没有袭击高丽王朝的强烈，因为元代史料的残缺，难以知道当时倭寇的活动情况，不过根据《元史》里的部分记载和明初倭寇的猖狂行动，可见那时候倭寇也是比较活跃的。
《元史》记载，元世祖忽必烈至元二十九年，日本船至四明港要求贸易，因为船中藏有武器，元朝很警惕日本船图谋不轨，因而设立都元帅府以严海防。这是最初见到的元朝对日本船的防备态度，是元朝第二次入侵日本的“弘安之役”后第十一年的事情。随后，元成宗大德八年于定海路设立千户所，防御倭船。元武宗至大元年，日本商船焚掠庆元，元朝官军不能抵抗。作为对应措施，元朝加强了庆元和台州等地的沿海军备。值得注意的是，这些在元朝的日本商人的活动和高丽忠定王二年以后在朝鲜半岛大逞凶威的倭寇有许多不同之处。
第一，他们的活动范围仅限于庆元，也就是浙江宁波附近。因为那里有“市舶司”，所以日本船是以贸易为目的前往庆元，只是在贸易不顺时才进行掠夺。
第二，倭船的攻击目标都是元朝官府。这是要求通商的日本船为了对抗通商的不利条件，或者为了对抗元朝官吏的蛮横而发生的冲突，与从开始起就把攻击目标放在粮食和人口上的活动在朝鲜半岛的倭寇本质上是不同的。
第三，从时间上看，日本人在元朝的行动要比朝鲜半岛倭寇行动激化的1350年早得多，两者应该没有因果关系。所以，日本商人在元朝庆元的活动，即使可以视为倭寇的一个先驱性形态，但并不等于狭义的倭寇。
倭寇的来历？倭寇是哪里来的？
与日本商人在庆元附近的暴动相比，14世纪中叶以后在中国山东活动的倭寇就显然不同，可以充分看出他们和朝鲜半岛倭寇的密切关系。《元史》中记载元顺帝至正二十三年（1363年）“倭人寇蓬州，守将刘暹击破之。自十八年以来，倭人连寇滨海郡县，至是海隅遂安”。山东蓬州见到的日本人的活动，从年代看是紧接着1350年的，在以滨海郡县为攻击对象等方面都和庆元倭商不同。把他们看作是朝鲜半岛活动的倭寇原班人马向山东方面移动，大概是不会错的。从以后作为明初倭寇出现的日本人与朝鲜的倭寇都是同一批日本人这点来看，很容易想象到山东倭寇的实体。
出生于贫农家庭的朱元璋，经过数十年奋斗后，终于在1368年于南京登上皇帝宝座，建立了明王朝。明太祖的建国原则是根据儒家学说重建中华帝国，即“中华之主”同时就是“天下之主”。确立四夷各国向中华帝国朝贡的国际秩序，对于明太祖来说是必须实现的政策，而倭寇问题又是确立这种国际秩序必须解决的课题。从洪武元年到洪武三十一年，几乎没有哪一年见不到关于倭寇的记载，明太祖在位前期最为激烈，中间有一段缓和期，到后期又激烈起来。如果把明太祖时期中国的倭寇活动与朝鲜半岛的倭寇活动进行比较，就可以看出他们之间的连带关系，朝鲜激烈时明朝就少，明朝激烈时朝鲜就少。这就证明了主体相同的倭寇集团根据时间的不同而改变活动的场所。倭寇在中国的活动舞台以接近朝鲜半岛的山东沿海最盛，次及江苏，浙江，广东沿海各地。他们既袭击沿海居民，又掠夺官粮，在明朝做出了与在朝鲜相同的行径。
明朝为了制止倭寇活动而采取的政策，首先是充实海防。洪武十七年（1384年），明太祖命汤和巡视海岸，在山东，江苏，浙江沿海地区建城五十九座，设立备倭行都指挥使司。人民四丁抽一为兵，得兵士五万八千七百人，分驻沿海各地。洪武二十年对浙江沿海各卫所兵士六万二千八百五十三人，每人赐钞五锭。次年又在福建沿海设立五个卫指挥使司与十二个千户所，以备倭寇。在都司与卫所不仅部署防御士兵，还配备了船舶。洪武二十三年，命令沿海卫所和巡检司一律备船二艘，巡查海上盗贼。
明朝在加紧对倭寇警备的同时，还开始努力依靠外交交涉使得日本称臣。洪武元年（1368年）十一月，明太祖向日本派遣了第一批使者，但是据说使者在日本五岛附近被贼所杀，太祖通报建国的国书落入水中。接着又第二次派遣杨载一行人作为使节前往日本。当时日本正处于南北朝时期，杨载一行在九州登陆，向大宰府南朝征西将军怀良亲王递交《赐日本国王玺书》。
诏书内容主要有三点:
1、通告明朝建国，要求日本朝贡。
2、通告倭寇为害中国，要求日本国王携带表文到明朝皇帝那里入贡，若无臣属之意，则要求严厉取缔倭寇。
3、如果倭寇继续为害不止，明朝就要发兵征讨日本。
结果就是，怀良亲王杀了使节团七人中的五人，拘留杨载等人达三个月之久，还回了一封措辞严厉的国书斥责明朝的无礼。
洪武三年（1370年），明朝第三次遣使日本，使者是山东莱州府同知赵秩。所持诏书与上次没有大的区别，但是叙述了安南，高丽，占城，爪哇各国已经顺天奉命，称臣入贡，强调“华夷之辨”，催促日本进贡，同时送还了明朝擒获的日本僧侣十五人。征西将军府对此次出使的反应，是洪武四年派遣僧祖来等九人前往明朝赠送马匹和土产，同时送还被倭寇掳来的中国男女七十余人。明实录就这次怀良亲王遣使的记载:“至是奉表笺称臣，遣祖来随秩入贡。”另外明朝作为报答，赐怀良亲王大统历和文绮纱罗。如果记载属实，颁发历法已经代表了明朝承认怀良亲王为日本国王。从此以后，明朝方面的文献都用“国王良怀”或“日本正君”称呼怀良亲王。
洪武五年，带着大统历的明朝使节无逸克勤等人到达日本博多。但是博多此时已经纳入今川了俊支配下，作为明朝使节交涉对象的怀良亲王已经退出大宰府，固守高良山去了。明使一行被扣留在博多圣福寺一百余日，了解到了日本南北朝对立的形势，于次年六月到了日本京都。在京都与室町幕府进行了接触，但具体情况不明。明朝使节一行在洪武七年返回明朝，室町幕府将军足利义满遣使和明朝使节同行到明朝，向明太祖贡献马匹和土产，但明太祖以没有国书为由拒绝接受。这或许是足利义满希望进行私人性交往而遭到拒绝的。