在曹操南征荆州之前，对盘踞西凉的马腾、韩遂等人非常担心，万一自己前方吃紧的时候，马腾、韩遂在后方乱搞，自己必然前后难顾。于是，曹操派遣议郎张既前往凉州，劝说马腾入京。马腾本不愿意离开自己的地盘，可是张既将马腾将要升任九卿，离开凉州的消息大肆宣扬，并且暗地里吩咐沿途郡县准备迎候事宜，让两千石以上高官都出城迎接，动静太大，马腾再不去，就是公开叛乱了。加上当时马腾和韩遂关系并不和睦，于是马腾带着两个儿子前往京城，而留下长子马超统领自己旧部。马腾到达京城之后担任负责宫中安全的卫尉，实际上被供了起来。
于是，曹操率军南征。在赤壁大败之后，平定孙刘短时间已经不再可能，于是曹操空出手来准备对付西凉的马腾、韩遂，以及盘踞在汉中的张鲁等相对弱小的割据势力。
当时，曹操下令，让司隶校尉钟繇率军讨伐张鲁，并且让夏侯渊率军出河东和钟繇会合。曹操手下有位叫做高柔的官员，曾经建议曹操：“大兵西出，韩遂、马超疑为袭己，必相煽动。宜先召集三辅，三辅苟平，汉中可传檄而定。”高柔这个人很实在，建议也很有道理。所谓三辅地区就是原来的长安、洛阳一代，虽然时有叛乱，可是名义上已经归附曹操，只要三辅地区平定，那么靠近三辅地区的张鲁自然不战而降，又何必要调集两路大军，空费钱粮呢？
曹操不是傻子，汉中的张鲁只不过是小小一个太守，并且战斗力地下，只不过倚仗着汉中地势险要，易守难攻，而且天下大乱，张鲁只想着在汉中自己过家家，对逐鹿中原的各路大哥并不构成威胁。可是，西凉的马超和韩遂不一样。西凉地处边疆，经常和胡人战斗，且军队构成本身就有很多羌人、胡人，骑兵战斗力是全国之冠，当初董卓不就是仗着西凉骑兵强大的后盾在朝堂上呼风唤雨吗？而马腾此人，一贯标榜忠义，对曹操颇有微辞，不是曹操的同路人。可是，毕竟马腾此时已经归顺了朝廷，在朝廷担任卫尉呢，怎么能够直接出兵攻打马超、韩遂呢？
于是，曹操故意让大军集结向西，马超、韩遂果然中计，聚众十万人，宣布造反。既然马超谋反在先，派军讨伐也就出师有名了。
西凉反叛，消息传来，邺城震恐，曹操心中却暗中得意。诸位将军都认为：“西凉军擅长长矛作战，如果没有精选前锋，恐怕不是西凉军的对手。”可曹操微笑着看着诸位将领，骄傲的说：“战争的决定权在我，并非在叛贼。他们虽然擅长长矛，可是我有办法让他们的长矛无法刺出。你们就等着看吧？”