汉武帝时，大夫汲黯久久得不到升迁。当初，汲黯列为九卿，公孙弘、张汤不过是小吏，不久，弘、汤都得到提拔，与汲黯处于同等官位。后来，公孙弘又被提升为丞相，封为侯;张汤也官至御史大夫;另外还有一些官职原比汲黯低的，也都晋升到和他同等地位或更高于他。于是，汲黯发牢骚说：“汉武帝用人像堆柴垛，将后来的放在上边。”意指资格浅的反而位居资格老的之上。

“后来居上”即由“后来者居上”简化而来，并渐渐失去了它原含不满的意思，反而较多地用于赞扬，借以说明后起的人或事物超过先前的。