劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　羊公還洛，郭奕為野王令。羊至界，遣人要之。郭便自往。既見，嘆曰：“羊叔子何必減郭太業！”復往羊許，小悉還，又嘆曰：“羊叔子去人遠矣！”羊既去，郭送之彌日，壹舉數百裏，遂以出境免官。復嘆曰：“羊叔子何必減顏子！”

　　羊孚年三十壹卒，桓玄與羊欣書曰：“賢從情所信寄，暴疾而殞，祝予之嘆，如何可言！”