隋朝初期的地方行政机构,仍是沿袭北朝时原州、郡、县三级制,而北朝时滥立州、郡、县名目,“地无百里,数县并置,户不满千,二郡分领”,形成“官多民少”的庞大地方行政机构,耗费甚巨。开皇三年(583),杨坚接纳杨尚希建议,按“存要去闲,并小为大”的原则,废郡一级地方机构,只存州,县两级,州设刺史,县设令。隋简化地方官制,消除了东晋、南北朝以来紊乱现象,这是一项进步措施。