春秋时期，晋国有一个品行高尚的大夫，名叫祁黄羊。一天，晋平公召见祁黄羊，问：“现在南阳县缺个县令，你看派谁去当比较合适呢?”祁黄羊回答说：“叫解狐去当南阳县令，他一定能够胜任。”晋平公露出难以相信的神色反问：“解狐不是你的仇人吗?你怎么竟会推荐他去当县令呢?”祁黄羊笑着说：“您并不是问解狐是不是我的仇人，而是问我什么人能胜任南阳县令。”于是，晋平公就把解狐派到南阳县。解狐到任后，工作井井有条，很有成就，得到了百姓的拥护。

过了些日子，晋平公又把祁黄羊找去，问他：“现在朝廷缺少一位法官，一直没有一个合适的人选，你知道有谁合适吗?”祁黄羊说：“祁午去做法官最合适。”晋平公听了，惊讶地说：“祁午是你的儿子呀，你不怕人家说你的闲话吗?”祁黄羊说：“您是问我谁可以当法官。我就把能胜任的人推荐给您，您并没有问祁午是不是我的儿子呀!”

晋平公虽然委派祁午当了法官，可还有点不放心，怕祁午年轻办事不牢靠。但是，祁午当了法官以后，不但办事公正，而且办案果断，很受百姓的爱戴。

祁黄羊的行为，受到很多人的赞扬，孔子也称赞说：“祁黄羊推荐人，完全是拿德行和才能做标准： 不因为他是自己的仇人，就心存偏见而不推荐;也不因为他是自己的儿子，怕人议论，就不推荐。像祁黄羊这样的人，可以说是没有私心啦。”

后来，人们由此概括出“大公无私”这一成语，用来形容人顾全大局，办事公道，毫无私心。