魏州人。初为魏州孔目官。天祐十二年(915),晋取魏博,庄宗以孔谦为度支使。谦自少为吏,工于书算,犹善金钱谷物聚敛之事。晋梁相拒于黄河十余年,大小百余战,谦调发供应,从未缺乏。助庄宗成其功业的臣子中,孔谦的功为多,而百姓亦不堪孔谦的诛求之苦。庄宗即位后,孔谦凭借伶人景进多次向庄宗的推荐,而任租庸使。庄宗为帝初期,推恩天下,下诏免除百姓田赋及诸场务所欠税利,谦不遵诏令,依然督促收取。谦又请求减少百官俸钱,裁减节度观察判官和推官的人数。甚至阻塞天下山谷间的道路,以此来征收过往商人旅客的税。他又重新制定丈量田亩的竿尺。因此天下人因他而受苦,都怨恨他。庄宗同光四年(926),庄宗死,明宗监国,明宗立即罢孔谦所立苛法,斩孔谦于洛阳,没收其家财。同时撤消租庸使,仍分设盐铁、度支、户部三司。