604年,隋文帝驾崩。太子杨广即位,这就是历史上大名鼎鼎的隋炀帝。伏允派其子顺前来朝贺,炀帝悄悄吩咐侍臣:“好生招待,严加看管,没有我的批准不许顺返回吐谷浑(即鲜卑人的一支,居地在今甘肃以西) !”侍臣知道,皇上已在准备讨伐吐谷浑了。恰在此时,铁勒(匈奴人之一支)侵犯隋朝北方边境,炀帝派将军冯孝慈出敦煌迎击,孝慈作战失利。铁勒人知道隋炀帝不是一个好对付的角色,觉得闯了大祸,连忙派使者向炀帝谢罪,并请求降附隋朝。炀帝眉头一皱,计上心来:何不让铁勒攻打吐谷浑,我大隋坐收渔利?于是派黄门侍郎裴矩充当慰抚使者,暗示铁勒,隋朝接纳它有一个必要条件,那就是铁勒人必须击败吐谷浑以示诚信。铁勒人本来就是靠寇掠为生的,且人人精于骑射,所以对隋朝的这一交换条件毫无异议,当即满口应承。裴矩回京不久,铁勒的使者就已随后赶来报捷,原来铁勒人行动极为迅速,袭击吐谷浑取得了极大的成功,吐谷浑王伏允兵败东走,现正保于西平(治今青海乐都县)。炀帝大喜,立即着手进行落井下石的工作,派了观王杨雄、许国公宇文述分别从浇河、西平出兵掩杀。伏允尚未从铁勒人的那场袭击中回过神来,隋军又跟来批亢捣虚,他哪里还有还手之力?当然又大败一场,带着满身创伤继续其逃亡生涯。隋军大获其利,收降吐谷浑人十余万口,夺得六畜三十余万。由于宇文述在后紧迫不舍,伏允简直没有喘息的余地,不得已一头窜进青海南面的山谷里躲避锋芒。于是伏允故地皆成无人旷野,自西平以西,且末(治今新疆且末县)以东,祁连以南,雪山以北,东西四千里,南北二千里,全部成为隋朝领地。隋炀帝在这片广大的地域里设置郡县戍镇,发天下罪名较轻的犯人徙居其地。为了进一步孤立伏允,炀帝继续扣留伏允之子顺,最后逼得伏允客居党项(羌人族)了事。炀帝本来还想以偷梁换柱之计立顺为吐谷浑王,彻底架空伏允,因顺之部下内讧而未能遂愿。尽管如此,炀帝如此轻易地就将吐谷浑的疆土纳入了隋朝版图,也堪称盖世奇功了。(《隋书·吐谷浑传》)