祭公谋父出生于西周时期，为祭公（即祭伯）之子，承父业，居于祭伯城。
周穆王初期，祭公谋父为朝中重臣，陪伴周穆王西征和巡游。他向周穆王献治国之道：治国靠的是德政，而不是暴政。不能轻易使用暴力，不能见利忘义，不能宠爱亲戚疏远贤臣，要用中庸的方法治理国家。此为历史上首次提出“以德治国”的政治主张。
有一年，周穆王要攻打一个叫犬戎的民族，祭公谋父进一步劝说周穆王：圣明的君王向来是光大自己的德政，而不炫耀自己的武力，用武力征服别人，早晚会带来严重后果的。周穆王不听劝告，率兵攻打犬戎，尽管战争最后取胜，但周边的少数民族再也不称臣纳贡，使周王朝国力一年不如一年。周幽王的时候，周王朝竟然被犬戎反过来打败，后不得不迁都洛阳。
