古民居中比较著名的有清道光年间翰林崔涛的府邸(崔家大院),清康熙年间徐州状元李蟠府邸,有号称户部山八人家的郑家大院、翟家大院、余家大院、刘家大院、张家大院、李家大楼等,此外还有阎家院、魏家园、孟家园、春香阁等。这些民居历尽沧桑,建国后还保留完整的有古民民院落17处,分院54个,比较完好的民居近600间。
崔家大院:在戏马台与彭城路之间有一条悠长的街巷,那便是崔家巷,整条街巷的北侧几乎全被崔家大院所占据。崔家世代书香。现存的崔家大院依山而筑、是崔焘奉旨于道光年间在旧居上扩建的,分上院和下院,居高者为上院。建筑中的砖雕、木雕、石雕也极具艺术价值。历经崔氏20余代400多年的经营。形成东西长约112米。南北宽约44米,占地约4928平方米的建筑群,是徐州历史上规模较大的一处清代建筑群。
李蟠状元府:也是徐州历史上惟一的一个状元府邸,位于户部山南麓、劳动巷以北、崔家巷以南。其府邸占地4000平方米,原有房屋100余间。大门口原有两根旗杆和两个圆形石鼓,大门楼上迎面立着“状元及第”匾额。若干院落次第相连,客厅、厢房、藏书楼、花园等设施一应俱全。历经几百年的变迁,遭受到一定的破坏、但骨架保存完好,格局清晰。
余家大院:在户部山的东南方,由东西并列的4个院落组成,房屋120间、占地1800平方米。余家大院以中院为中心向东西两边延伸。东西各安排了一个私家花园。中院的旧址就是明代的户部分司,在余府中占居显要位置。沿南北轴线形成三进院落,前面的大客厅为举行重大仪式的场所,后房为主人居住之处。西院的三进院落巧妙地利用了现有地形,特别是后院的主房和两侧的厢房因地势起伏,空间小者为一层。大者辟为上下两层。
翟家大院:建于南侧余家大院和北测郑家大院之间的狭长地带,布局更加灵活多变。有房屋40余间。目前仅存的两处鸳鸯楼(另一处在崔家大院)中。只有翟家的按原貌进行了修复。翟家的后花园有伴云亭,为户部山东部较高的地方,从这里俯视这片民居,鳞次栉比,错落有致,十分赏心悦目。