刘邦跟项羽在彭城(今江苏徐州)交锋失利之后,前往梁国(建都大梁,今河南开封),到了虞(今河南虞城)地,他对身边的人说:“像你们这些人,不好同你们谈论天下大事。”随何听了有点不服气,便进见道:“我还不了解大王您所说的天下大事指的是什么。”刘邦说:“哪一个能替我出使淮南(治所在寿春,今安徽寿县),使淮南王能发动部队背叛项羽,那么项羽就得在齐(古国名,今山东北部一带)地逗留数月,这样我就有把握争夺天下了。”随何说:“请让我出使淮南。”于是刘邦就派了20人陪同随何出使淮南。可是随何到达淮南后一连3天,还没有同淮南王见上一面。随何就在负责接待他的太宰(主管淮南王的内部事务)跟前鼓动说:“你们的大王不接见我,一定以为楚强汉弱,这正是我这次出使淮南要说清楚的事。假使我见到你们大王,我所说的不是他想知道的话,我等20人情愿伏在砧上用斧斩首,来表明你们背叛汉王而跟楚王友好。”于是太宰就把随何说的这番话告诉淮南王。淮南王终于会见了随何。随何说:“汉王派我做大使带上他的亲笔信交给大王,不瞒您说是责怪大王您跟楚王(项羽)太亲热了。”淮南王说:“我只不过甘心称臣罢了。”随何说:“大王跟项王都位列诸侯,现在甘心称臣,一定以为楚王强大,可以靠着他来庇护淮南。项王攻打齐国的时候,他自己背着东西,身先士卒。大王应该拿出全部力量,自己当统帅,替楚军打前锋才是。可是您只调出4000人来帮助楚王。甘心称臣的,难道本来就是如此吗? 汉王在彭城参战的时候,项王还在齐地,大王您应当拿出力量,日夜战斗在彭城才是。现在您拥兵万余,却没有派出一兵一卒渡过淮水,只不过在坐观谁胜谁负罢了。把一个国家托付给别人的人,本来就应当这样吗?大王您拿空言表示向楚,只不过想加强自己的力量,我暗地里想,大王这样做不可取。以我的看法,大王您不背叛项王,原因是觉得汉王太弱小了。”接着他精辟地分析了“楚不如汉”的形势,指出:“大王您不跟万无一失的汉王走,而把自己托付将要灭亡的项王,我暗地里想,大王您太胡涂了。大王您若号召部队背叛项王,项王必定在齐国逗留;只要他在那里耽搁几个月,汉王就有保障夺得天下了。请允许我用剑守着您去归顺汉王,汉王一定会割地给您。至于淮南,那更是非大王莫属了。所以汉王很郑重地派我做大使,叫我献给您上述可能不太高明的想法,希望大王能好好考虑考虑。”话音未落,淮南王就果断地说:“请给我命令吧。”于是淮南王暗地里答应背叛项王,归顺汉王,但是不敢公开。