按照定义来说，房屋建筑的左右两边之墙的上端与前后屋顶间的斜坡，形成一个三角形，似古体“山”字，故称“山墙”。四合院建筑房屋有很多，所以山墙可以很轻易就看得到，其作用主要是与旁边的房子隔开和防火。
山墙有三种形制，一是人字形，比较简洁实用，修造成本也不高，民间多采用。二是锅耳形，线条优美，变化大。三是波浪形。造型起伏有致，讲究对称。而四合院山墙都是采用人字形，后两种基本不采用。
山墙分内山墙、外山墙与排山墙(也叫排山)。内山墙是指每个房间与房间之间的墙，它一般与前后墙成丁字形;外山墙是指在外面能看到的墙但前后墙不算，如：一房屋是门朝南，则东西那两面墙就叫外山墙;排山墙就是老式房子，房间与房间是用木头或水泥柱立起来，再用砖进行砌筑起来的那就叫排山墙。山墙之间距离较短，比纵墙适合做为承重墙。
有些地区依照山墙顶端的形状，将山墙分为五行。“金”的山墙则有一个大弧，“木”的山墙特征是弧线窄而高，“水”的山墙顶端则由三到五个弧线组成，“火”的山墙形状则带有锐角，“土”的山墙则有平整的顶端。
