沮渠蒙逊伯父西平太守罗仇被后凉主吕光杀死后,他聚众万余人,屯于金山,与从兄共推建康太守段业为首领,建立北凉。沮渠蒙逊为尚书左丞,建功颇多,遭段业嫉妒,关系疏远起来。天兴四年(401),沮渠蒙逊内心常恐被段业所害,主动请求离开京城,出为安西太守。沮渠蒙逊为激怒众人,暗中诬陷自己从兄有叛逆之举,段业便将其杀了。兄一死,沮渠蒙逊便哭着告诉了部众,大讲段业陷害其兄,自己一定要为兄报仇。其兄在部下面前素有恩信,无缘被杀,群情怨愤,也哭着要跟着沮渠蒙逊与段业斗。沮渠蒙逊趁势举兵,杀段业而自立。(《魏书·卢水胡沮渠蒙逊传》)