東漢初年，潁陽有個人名叫祭（ｚｈàｉ）遵。祭遵從小喜歡讀書，知書達理，雖然出身豪門，但生活非常儉樸。公元24年，皇帝劉秀攻打潁陽一帶，祭遵便去投奔他，被劉秀收為門下吏。后隨軍轉戰河北，當了軍中的執法官，負責軍營的法令。任職中，他執法嚴明，不徇私情，為大家所稱道。
有一次，劉秀身邊的一個小侍從犯了罪，祭遵查明實情后，依法把這小侍從處以死刑。劉秀知道后，十分生氣，想祭遵竟敢處罰他身邊的人，欲降罪于祭遵。但馬上有人來勸諫劉秀說：“嚴明軍令，本來就是大王的要求。如今祭遵堅守法令，上下一致做得很對。只有像他這樣言行一致，號令三軍才有威信啊。”劉秀聽了覺得有理，非但沒有治罪于祭遵，還封他為征虜將軍。祭遵為人廉潔，為官清正，處事謹慎，克己奉公，常受到劉秀的賞賜，但他將這些賞賜都拿出來分給手下的人。他自己的生活卻十分儉樸，家中也沒有多少私人財產。等他年老在安排自己的后事時，他仍囑咐手下的人，不許鋪張浪費，只要用牛車裝載自己的尸體和棺木，拉到洛陽草草下葬就可以了。祭遵就是這樣一名良臣，即使死后多年，漢光武帝劉秀仍對他十分懷念。
后來人們就把祭遵的這種高尚的精神概括為成語“克己奉公”，用來比喻一個人對己要求嚴格，一心為公。克己，克制、約束自己；奉公，以公事為重。