当时代郡大乱，任命裴潜为代郡太守。乌丸王和他下面的部落首领，总共三人，各自号称单于，垄断控制了代郡政事。前任太守不能治理好，曹操想给裴潜精兵去镇守讨伐他们。裴潜推辞道：“代郡人口众多，骑兵弓箭手，一动就有数万人。单于自知放纵骄横时间太长，内心很不踏实。现在带领很多兵去，他们一定因恐惧而在边界抵抗，如果少带些兵士，他们就不会害怕。应该用计谋征服他们，不可用武力威逼他们。”于是，裴潜只坐一辆车子到郡上任。单于惊喜。裴潜以静处之广为安抚。单于以下的首领都脱帽磕头，全部交还前后掠去的妇女、器械、财物。裴潜考察杀掉郡中十多个与单于里应外合的官吏，如郝温、郭端等人，于是北边大为震动，百姓的心归向朝廷。裴潜在代郡当官三年，回京任丞相府理曹属官，曹操表彰称赞他治理代郡的功劳，裴潜说：“我对人民虽然宽大，但对胡人是严厉的。如今任职的人一定认为我治理过严，从而凡事宽松仁惠;那些胡人平常骄横放纵，过于宽大一定会使他们松弛，松弛了又将要用刑法威慑他们，这就是争斗产生的原因。根据形势预测，代郡一定还会叛乱。”于是曹操十分后悔召回裴潜太快了。几十天后，三个单于叛乱的消息传来，曹操派鄢陵侯曹彰为骁骑将军前去征讨。