謝公在東山畜妓，簡文曰：“安石必出。既與人同樂，亦不得不與人同憂。”

　　桓宣武既廢太宰父子，仍上表曰：“應割近情，以存遠計。若除太宰父子，可無後憂。”簡文手答表曰：“所不忍言，況過於言？”宣武又重表，辭轉苦切。簡文更答曰：“若晉室靈長，明公便宜奉行此詔。如大運去矣，請避賢路！”桓公讀詔，手戰流汗，於此乃止。太宰父子，遠徙新安。

　　會稽孔沈、魏顗、虞球、虞存、謝奉，並是四族之俊，於時之桀。孫興公目之曰：“沈為孔家金，顗為魏家玉，虞為長、琳宗，謝為弘道伏。”