908年正月，李克用生了毒疮，眼看治不好了。他临死时，拿出三支箭，交给儿子李存勖，郑重地嘱咐他说：“梁朝是我的仇家，这你知道。刘仁恭是靠我的推荐才担任卢龙节度使，从而据有幽州的。契丹的耶律阿保机曾经和我相约结为兄弟，却背弃了我，前去归顺梁朝，跟我作对。这三件事，都是我遗留下来的恨事。如今给你三支箭，你千万别忘记你父亲未了的心愿！”
李存勖接过了箭，答应一定给父亲报仇。李克用一死，李存勖就继承他的爵位，做了晋王。他继位以后，下令把这三支箭供奉在宗庙里。以后每逢出兵作战，他就派人去拿出这三支箭，放在一个锦囊里，让人背着，走在队伍的前面，等到作战回来，再放回宗庙。
他为了给父亲报仇，积极训练军队，严明纪律，规定行军不得违反命令，碰到危险不许躲避，违反军纪立即杀头。将士们都很害怕，只得拼死作战。
不久，李存勖亲自率领大军，前去救援遭后梁军队围攻的潞州（今山西长治），把后梁军打得大败而逃，一下子歼灭敌军一万多人，缴获的军器粮草堆积如山。朱温原来以为必胜无疑，安坐在京城里等候捷报。他听到败讯时，惊得目瞪口呆，过了半晌方才叹了一口气，说：“生子当如李亚子（亚子是李存勖的小名），我的儿子不过是猪狗罢了！”