按照战前总的战略部署，远征军准备首先攻取沟通西域的咽喉要塞伊吾（今新疆哈密市），切断匈奴与西域的联系，打开进军西域的大门，以便北进可抗匈奴，南可退保西域。

但此战一开始并不顺利，窦固率大军插入匈奴主力和伊吾地区之后，旋即遇到了匈奴的顽强抵抗。几十年间势力已发展得很强大的匈奴既不甘屈服于汉朝，也不愿轻易失去西域，双方处于僵持状态，汉军一时难以取胜。

面对此情，班超不顾官职卑微，向窦固建议，以一部兵力挡住北面匈奴的主力，而自己率一部兵力直取南面的伊吾，趁敌人不注意之时，首先占领伊吾，实现总的战略目标。

在得到窦固的同意之后，班超立即率领一千多名士兵，以迅雷不及掩耳之势直捣伊吾城下。

大意的匈奴将军呼衍王一触即溃，班超顺利地攻取了伊吾，歼敌一千余名，大获全胜。与窦固相持的匈奴主力听到这一消息，灰心丧气，只好撤军北归。