朱温建立梁朝的时候，在北方还有两个较大的割据势力。一个是幽州的刘仁恭，一个是河东的晋王李克用。这时候，北方的契丹族开始强大起来，它的首领耶律阿保机（耶律是姓）统一了契丹的各部，建立政权。公元907年，阿保机带领三十万人马，攻入云州（治所在今山西大同），李克用想利用契丹兵力，对付朱温，就跟阿保机联络，双方在云州东城见了面，结为兄弟，还约定日子一起攻梁。但是阿保机一回到契丹，看到朱温势大，就反悔了，另外派人跟朱温结成同盟。
李克用听到这消息，气得差点昏过去。到第二年春天，他连气带累，背上长了毒疮，病倒了。他自己知道再也起不来，就把儿子李存勖（音xù）叫到床边，叮嘱说：朱温是咱家的冤家，这不说你也知道;刘仁恭是我保举上去的，后来他反复无常，投靠朱温;契丹曾经跟我结为兄弟，结果撕毁盟约，翻脸不认人。这几口气没出，我死了也闭不上眼睛。
说着，他吩咐侍从去拿三支箭来，亲手交给李存勖说：
这三支箭留给你，你要记住三个仇人，给咱家报仇。
李存勖跪在床边含着眼泪，接过箭，表示一定牢记父亲的嘱咐。李克用听了，才阖上眼睛死了。
李克用死后，李存勖接替他父亲做了晋王。他用心训练兵士，整顿军纪，把散漫的沙陀族兵士训练成一支精锐善战的队伍。
李存勖决心消灭仇人，把他父亲留给他的三支箭十分郑重地供奉在他的家庙里。每次出征的时候，他先派个官员到家庙里把箭取了出来，放在一个精致的丝套套里，带着上阵去;打了胜仗，再送回家庙。
李存勖出兵跟梁兵进行了几次大战，把朱温率领的五十万大军打得晕头转向，狼狈逃窜。朱温又羞又气，发病死了。
接着，李存勖又攻破幽州，把刘仁恭和他的儿子刘守光都活捉过来，押回太原。
公元916年，耶律阿保机即位称帝，过了五年，派兵南下。李存勖亲自出兵，大破契丹兵，把阿保机赶回北边去了。