四合院的结构不是凭空出现的，它是由古建筑缓慢演变而来的。四合院建筑最早起源于黄河流域，它是典型的木构架建筑，是中国传统建筑形式的典型代表。根据考古发掘记录，陕西岐山凤雏村周原遗址出土的两进院落建筑遗迹，是中国已知最早、最严整的四合院实例。
春秋时期，中国进入封建社会，代表地主阶级的士大夫阶层和城市的商人们为满足生活需要，促进了居住建筑更广泛的发展。《仪礼》一书记载了当时士大夫的住宅制度: 住宅的大门为3间，中央明间为门，左右次间为“塾”，门内为庭院，上方为“堂”，为生活起居、会见宾客、举行仪式的地方; 堂的左右为“厢”，“堂”后为“室”。
汉代的四合院组合规制整然。在四川出土的汉代画像砖可见回廊与重楼，晋代主屋两侧有东堂、西室的横列形式，住宅规模有所发展。7世纪初期，唐代建立起强大的帝国，促成中国历史上的文化高潮，建筑艺术也不例外。乡村中的三合院和四合院为了更有效利用面积，在院子周围建造房屋;统治阶级的大型住宅仍沿袭六朝以来的传统方法，使用不经济的回廊，宋代四合院的院落更加复杂，院子周围往往用廊屋代替木质的回廊，因而房屋的功能与结构以及四合院的造型都发生了变化，并且住宅与园林的结合更加密切。四合院式的住宅出现后，直到清末，中型与大型住宅大多采用回廊和围墙包围起来的封闭式布局，宫殿庙宇及其他建筑也大都采取同样的方法。
