唐开元十年(公元722年),张说作为朔方军节度大使,平息了胡人康待宾及其余党的叛乱,迁移河曲六州残存的5万多胡人分配到许、汝、唐、邓、仙、豫等州(今河南西南部一带)撤空了黄河南部朔方一带方圆1000里的地方。在此之前,边镇兵有60多万。张说认为当时没有强敌,请求罢去20万士兵回家务农。玄宗感到疑虑,张说上奏说:“我久在疆场,全部了解边境情况。诸将只是想拥兵自卫、营私而已,所以战胜敌人不在人多。凭着陛下的英明,四夷害怕敬威,不必忧虑减少边兵而招来敌寇。”玄宗于是同意了。当时轮流值班的卫士,因为贫困虚弱,差不多都逃亡了,张说又建议,请求全部罢去,另外招募强壮的人士,叫他们在宫中值班,担任警卫,简省各种劳役,使条例优厚,逃亡的人一定争着来应招。玄宗答应。10天,得到精兵13万人,分别补充各个防守要地,一年换班来充实京师,这就是后来所说的“骑”兵。