劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　桓車騎在荊州，張玄為侍中，使至江陵，路經陽岐村，俄見壹人，持半小籠生魚，徑來造船雲：“有魚，欲寄作膾。”張乃維舟而納之。問其姓字，稱是劉遺民。張素聞其名，大相忻待。劉既知張銜命，問：“謝安、王文度並佳不？”張甚欲話言，劉了無停意。既進膾，便去，雲：“向得此魚，觀君船上當有膾具，是故來耳。”於是便去。張乃追至劉家，為設酒，殊不清旨。張高其人，不得已而飲之。方共對飲，劉便先起，雲：“今正伐荻，不宜久廢。”張亦無以留之。

　　張憑舉孝廉出都，負其才氣，謂必參時彥。欲詣劉尹，鄉裏及同舉者共笑之。張遂詣劉。劉洗濯料事，處之下坐，唯通寒暑，神意不接。張欲自發無端。頃之，長史諸賢來清言。客主有不通處，張乃遙於末坐判之，言約旨遠，足暢彼我之懷，壹坐皆驚。真長延之上坐，清言彌日，因留宿至曉。張退，劉曰：“卿且去，正當取卿共詣撫軍。”張還船，同侶問何處宿？張笑而不答。須臾，真長遣傳教覓張孝廉船，同侶惋愕。即同載詣撫軍。至門，劉前進謂撫軍曰：“下官今日為公得壹太常博士妙選！”既前，撫軍與之話言，咨嗟稱善曰：“張憑勃窣為理窟。”即用為太常博士。