字弘慎,魏州繁水(今河南临颍县)人。初为王世充洧州长史,后归李渊,授检校邹州别驾,迁右武侯长史。经李勣、尉迟敬德等人多次推荐,秦王李世民将公谨引入秦王府。秦王欲讨太子建成、齐王元吉,使人占卜,公谨把占卜用的龟板扔到地下,说:占卜是为定犹豫、决嫌疑,现在没什么可疑的,还占卜干什么!秦王说:好!建成死,其属下攻玄武门甚紧,公谨不畏死伤,独闭宫门,以功授左武侯将军,封定远郡公。贞观初为工州都督,设置屯田,免除粮草运输之劳,还数言时政得失,太宗多所采纳。
        太宗欲图突厥,公谨从六方面陈述了可打败突厥颉利的理由,太宗深以为然。及破颉利,诏令慰劳公谨,进封公谨邹国公,改任襄州都督,公谨以惠政闻名,卒于任上,卒后太宗痛苦哀悼,臣下劝谏太宗:“日在辰,哭不吉祥。”太宗说:“君臣如父子,情感于内,安能不哭!”于是仍痛哭不止。诏赠公谨左骁卫大将军,谥曰“襄”,后追封郯国公,加赠荆州都督,图形凌烟阁。