春秋后期,吴楚两国交兵攻伐,战事频繁。吴王阖闾在周敬王六年(公元前514年)于胥城遗址东南方约40里的雪堰镇构筑“阖闾城”,周敬王十四年(公元前506年)又命伍子胥在遗址处“垒土筑城驻兵”,作为攻伐楚国的又一前进补给基地,后人称作“胥城”。又有史书载曰:“伍子胥伐楚时筑为军垒……”胥城由夯土筑成,平面略呈长方形,至今已有2500余年历史,吴王夫差二十三年(公元前473年)吴为楚所灭,周显王十四年(公元前355年)越为楚所灭,胥城逐渐荒芜。明嘉靖年间(1522-1566年),后人在胥城遗址上建造佛寺,塑伍子胥像。清光绪三十一年(1905年)重修寺庙,改称“胥城禅寺”。