一日,张良闲暇无事,到下邳(县名,在今江苏睢宁西北)的一座桥上随意走走。对面走来一位身穿粗布短衣的老人,到张良面前故意让鞋子掉到桥下,对张良说:“小子,下去把鞋子拾起来!”张良对他的无理蛮横感到惊讶,想揍他一顿,因为见他年老,勉强忍住气,到桥下把鞋子拾了上来。老人又说:“替我穿上!”张良想既然已经给他拾来了,再给他穿上也没什么不行,便跪下给他穿鞋。老人伸出脚,让他穿上鞋,笑着扬长而去。张良对此极为惊异,随着老人的去向注视了很久。老人离开了大约有1里路,又返回,说道:“你这小子可以教导,5天后的拂晓,跟我在这里相会。”张良更加感到惊异,跪下恭敬地说:“是。”5天后,天刚亮,张良就去了。可是老人已经先在那里了。他生气地说:“跟老年人约会,反而后到,这是为什么?”老人转身离去,并说:“5天以后再早来相会。”过了5天,鸡刚叫张良就去了。但老人又先在那里了,他很生气地说:“你又迟到了,为什么?”老人临走时仍然叫张良过5天再早来。过了5天,张良不到半夜就去了。过了一会儿,老人也来了,他高兴地说;“像这样才对。”他掏出一本书送给张良,说道:“读了这本书,就能做帝王的老师了。10年以后就会成就大事业的。13年后你小子可到济水北面和我相会,谷城山(亦名黄山,在今山东东阿东北)下的那块黄石就是我。”说完就走了,没有再留下别的话。从此,张良再也没有见到这位老人。天亮后他看那本书,原来就是《太公兵法》。张良觉得它不同寻常,就经常温习诵读它。
        过了10年,陈涉等人起兵,张良也聚集了100多位青年。景驹自立为代理楚王,驻在留县(今江苏沛县东南),张良想去投靠他,在路上遇见了沛公刘邦。这时沛公率领几千人马,攻占了下邳以西的地方,张良便归附了刘邦。沛公任命张良当管理军马的官。张良多次用《太公兵法》上的道理向沛公献策,沛公很赏识他,常常采纳他的计策。张良对别人讲《太公兵法》,人们都不能领悟,只有沛公能够理解。张良说:“沛公大概是天赋之才。”所以就跟随了沛公,不再去见景驹。