元太祖十九年(1224),成吉思汗仍取道原来西征花刺子模国的路线回归。在成吉思汗西征之前,曾向西夏征发军队协助作战,西夏拒不出兵,成吉思汗当时无暇征讨西夏,发誓日后一定要给予惩罚。当西征归途中,又获悉西夏与金国订立和约,无疑等于火上浇油,立即决定收拾西夏。元太祖二十一年(1226)秋,成吉思汗开始了对西夏的征讨。蒙古军很快就攻下了甘州(今甘肃张掖)、凉州(今甘肃武威)、肃州(今甘肃酒泉),当年冬天,蒙古军攻克灵州(今宁夏灵武县)。灵州之战,西夏主力消耗殆尽,失陷后,西夏首都中兴府已成了空架子。元太祖二十二年(1227)六月,夏主请降,西夏至此覆灭。在攻打灵州这个西夏的军事重镇时,破城之后,蒙古众将士无不争掠妇女、财物,唯有耶律楚材却取书数部、大黄药材数担。同僚们对他的行为甚是费解。不久,兵士们因历夏经冬、风餐露宿,多得疫病,幸得耶律楚材用西夏特产大黄配制的药救命,所活至万人。(《元史·耶律楚材传》)