隋大业(公元605—618年)末年,李靖为马邑(今山西朔县)丞。这时李渊在塞外攻击突厥,李靖观察他,知道有不同寻常的志向,因此拘囚李渊上告兵变,押送到江都,到长安时,因道路不通而作罢。等高祖李渊平定京师,准备杀李靖,李靖大喊说:“公起兵替天下铲除暴乱,想成就大事,为什么因私怨而杀壮士呢!”高祖认为这话雄壮,秦王李世民又坚持请求赦免,于是释放了他。