建安元年 (公元196年)，曹操击败黄巾军。汉献帝从河东回到洛阳。曹操与谋士们商议迎奉汉献帝迁都许昌之事。有人认为山东尚未平定，韩暹、杨奉最近刚把天子送到洛阳，北面联结张杨，恐怕不能很快控制局势。荀彧劝曹操说： “从前(晋文公迎接周襄王返回洛都，诸侯像影子一样跟着他)，汉高祖东征项羽，为义帝穿素衣带孝而使天下人心归附。自从天子流亡在外，将军首先倡导义军，只因山东作乱，不能远奔关中、陇右地区，但还是不断派遣了将帅，冒险与朝廷联络，虽在外抵御暴乱，但您内心无时不忠于王室，匡扶天下是将军素有的夙愿。现在皇上大驾回到京都，(东京荆棘丛生，)义士有保护国本的意愿，百姓感怀旧主而倍增哀痛。如果趁此时机，拥戴皇上来顺从百姓的愿望，这就是最大的顺从;主持公正使英雄豪杰归服，这就是最大的策略;匡扶大义来招引优秀人才，这就是最大德行。天下即使有叛乱，一定不会成为多大的危难，这是显而易见的。韩暹、杨奉怎敢为害!如果不及时平定叛乱，让各地产生叛离之心，事后即使想到这么做，也来不及了。”太祖于是到达洛阳，迎奉天子迁都许昌。汉献帝任命曹操为大将军，晋升荀彧任汉朝侍中，代理尚书令。荀彧常在朝中担当重任，曹操虽然率军征伐在外，军国大事都与荀彧策划。