曹操迎接汉献帝定都许昌，用程昱做了尚书。当时兖州尚未安定，曹操又任命程昱为东中郎将，兼任济阴太守，管理兖州政事。刘备丢失徐州后来归顺曹操。程昱劝说曹操杀掉刘备，曹操不听从，此事记载在《武帝纪》中。后来曹操又派遣刘备到徐州截击袁术。程昱同郭嘉一道劝说曹操：“你前些日子不图除掉刘备，我们确实比不上像您这样的气度，但如今借给他兵力，让其出征，刘备肯定怀有异心。”曹操听说，后悔莫及，派兵追赶但未能追上。当时正值袁术病死，刘备到达徐州后，杀掉曹操安插在徐州的刺史车胄，举兵反叛曹操。