狄青出身贫寒，从小就胸怀大志，16岁时，因其兄与乡人斗殴，狄青代兄受过，被“逮罪人京，窜名赤籍”，开始了他的军旅生涯。
宋仁宗宝元元年（1038年），党项族首领李元昊在西北称帝，建立西夏。宋廷择京师卫士从边，狄青入其选，任延州指挥使，当了一名低级军官。在战争中，他骁勇善战，多次充当先锋，率领士兵夺关斩将，先后攻克金汤城，宥州等地，烧毁西夏粮草数万，“收其帐二千三百，牲口五千七百”，并指挥士兵在战略要地桥子谷修城，筑招安、丰林、新寨、大郎诸堡，“皆扼贼要害”。
他每战披头散发，戴铜面具，一马当先，所向披靡，在4年时间里，参加了大小25次战役，身中8箭，但从不畏怯。在一次攻打安远的战斗中，狄青身负重伤，但“闻寇至，即挺起驰赴”，冲锋陷阵，在宋夏战争中，立下了累累战功，声名也随之大振。
康定元年（1040年），经尹洙的推荐，狄青得到了陕西经略使韩琦、范仲淹的赏识。范仲淹授之以《左氏春秋》，并对他说：“将不知古今，匹夫勇尔。”狄青遂发愤读书，“悉通秦汉以来将帅兵法，由是益知名。”由于狄青勇猛善战，屡建奇功，所以升迁很快，几年之间，历官泰州刺史、惠州团练使、马军副部指挥使等，皇祐四年（1052年）六月，推枢密副使。
狄青受命于宋王朝的多事之秋，就在这一年，广西少数民族首领侬智高起兵反宋，自称仁惠皇帝，招兵买马，攻城略地，一直打到广东。宋朝统治者十分恐慌，几次派兵征讨，均损兵折将，大败而归。就在举国骚动，满朝文武惶然无措之际，仅作了不到3个月枢密副使的狄青，自告奋勇，上表请行。宋仁宗十分高兴，任命他为宣徽南院使，宣抚荆湖南北路，经制广南盗贼事，并亲自在垂拱殿为狄青设宴饯行。
当时，宋军连吃败阵，军心动摇，更有个别将领如陈曙等，心怀私利，不以国事为重，竟因害怕狄青抢功而擅自出击，结果大败而归，死伤惨重。狄青受命之后，鉴于历朝借外兵平叛后患无穷的教训，首先向皇帝建议停止借交趾兵马助战的行动。他大刀阔斧整肃军纪，处死了陈曙等不听号分之人，使军威大振，接着命令部队按兵不动，从各地调拨、屯集了大批的粮草。依智高的军队看到后，以为宋军在近期内不会进攻，放松了警惕。而狄青却乘敌不备，突然把军队分为先、中、后三军，自己亲率先军火速出击，一举夺得昆仑关，占取了有利地形，接着命令一部分军队从正面进攻。他执掌战旗率领骑兵，分左右两翼，绕道其后，前后夹攻，一战而胜。