子胥因流揚波，依潮來往，蕩激堤岸，勢不可禦。或有見其銀鎧雪獅，素車白馬，立在潮頭者，遂為之立廟。每歲仲秋既望，潮水極大，杭人以旗鼓迎之。弄潮之戲，蓋始於此。宋大中祥符間，賜額曰“忠靖”，封英烈王。嘉、熙間，海潮大溢。京兆趙與權禱於神，水患頓息，乃奏建英衛閣於廟中。元末毀，明初重建。有唐盧元輔《胥山銘序》、宋王安石《廟碑銘》。
高啟《伍公祠》詩：
地大天荒霸業空，曾於青史歎遺功。
鞭屍楚墓生前孝，抉眼吳門死後忠。
魂壓怒濤翻白浪，劍埋冤血起腥風。
我來無限傷心事，盡在吳山煙雨中。
徐渭《伍公廟》詩：
吳山東畔伍公祠，野史評多無定詞。
舉族何辜同刈草，後人卻苦論鞭屍。
退耕始覺投吳早，雪恨終嫌入郢遲。
事到此公真不幸，鐲鏤依舊遇夫差。
張岱《伍相國祠》詩：
突兀吳山雲霧迷，潮來潮去大江西。
兩山吞吐成婚嫁，萬馬奔騰應鼓鼙。
清濁溷淆天覆地，玄黃錯雜血連泥。
旌幢幡蓋威靈遠，檄到娥江取候齊。
從來潮汐有神威，鬼氣陰森白日微。
隔岸越山遺恨在，到江吳地故都非。
錢塘一臂鞭雷走，龕赭雙頤噀雪飛。
燈火滿江風雨急，素車白馬相君歸。
宋初，封其神，姓孫名本。永樂時，封其神，為周新。
新，南海人，初名日新。文帝常呼“新”，遂為名。以舉人為大理寺評事，有疑獄，輒一語決白之。永樂初，拜監察禦史，彈劾敢言，人目為“冷麵寒鐵”。長安中以其名止兒啼。轉雲南按察使，改浙江。至界，見群蚋飛馬首，尾之蓁中，得一暴屍，身餘一鑰、一小鐵識。新曰：“布賈也。”收取之。既至，使人入市市中布，一一驗其端，與識同者皆留之。鞠得盜，召屍家人與布，而置盜法，家人大驚。新坐堂，有旋風吹葉至，異之。左右曰：“此木城中所無，一寺去城差遠，獨有之。”新曰：“其寺僧殺人乎？而冤也。”往樹下，發得一婦人屍。他日，有商人自遠方夜歸，將抵舍，潛置金叢祠石罅中，旦取無有。商白新。新曰：“有同行者乎？”曰：“無有。”
“語人乎？”曰：“不也，僅語小人妻。”新立命械其妻，考之，得其盜，則其私也。則客暴至，私者在伏匿聽取之者也。凡新為政，多類此。新行部，微服視屬縣，縣官觸之，收係獄，遂盡知其縣中疾苦。明日，縣人聞按察使來，共迓不得。新出獄曰：“我是。”縣官大驚。當是時，周廉使名聞天下。錦衣衛指揮紀綱者最用事，使千戶探事浙中，千戶作威福受賕。
會新入京，遇諸涿，即捕千戶係涿獄。千戶逸出，訴綱，綱更誣奏新。上怒，逮之，即至，抗嚴陛前曰：“按察使擒治奸惡，與在內都察院同，陛下所命也，臣奉詔書死，死不憾矣。”
上愈怒，命戮之。臨刑大呼曰：“生作直臣，死作直鬼！”是夕，太史奏文星墜，上不懌，問左右周新何許人。對曰：“南海。”上曰：“嶺外乃有此人。”一日，上見緋而立者，叱之，問為誰。對曰：“臣新也。上帝謂臣剛直，使臣城隍浙江，為陛下治奸貪吏。”言已不見。遂封新為浙江都城隍，立廟吳山。
張岱《吳山城隍廟》詩：
宣室殷勤問賈生，鬼神情狀不能名。
見形白日天顏動，浴血黃泉禦座驚。
革伴鴟夷猶有氣，身殉豺虎豈無靈。
隻愁地下龍逢笑，笑爾奇冤遇聖明。
尚方特地出楓宸，反向西郊斬直臣。
思以鬼言回聖主，還將屍諫退僉人。
血誠無藉丹為色，寒鐵應教金鑄身。
坐對江潮多冷麵，至今冤氣未曾伸。
又《城隍廟柱銘》：
厲鬼張巡，敢以血身汙白日。
閻羅包老，原將鐵麵比黃河。
北眺西冷，湖中勝概，盡作盆池小景。南北兩峰如研山在案，明聖二湖如水盂在幾。窗欞門槔凡見湖者，皆為一幅圖畫。小則鬥方，長則單條，闊則橫披，縱則手卷，移步換影。若遇韻人，自當解衣盤礴。畫家所謂水墨丹青，淡描濃抹，無所不有。昔人言“一粒粟中藏世界，半升鐺裏煮山川”，蓋謂此也。火居道士能為陽羨書生，則六橋三竺，皆是其鵝籠中物矣。