老北京的庭院非常重视绿化，但是却很少用到水系设计，这是清朝开始定下的基调。清朝以后，随着城市的不断扩张，北京的水源也越来越不足，清朝廷公布了不准民间私引活水造园的规定，故北京清代的私园，除少数王府花园之外，极少凿池引水。因此，北方四合院水系设计才会极为稀少。
由于缺乏活水，老北京四合院中央，常常摆上一只或数只很大的鱼缸，一是为了观赏，二是能够调节空气，第三还有防火的功能。这是北京四合院中非常典型的一景。在较大的私家花园中，偶尔有人工砌成的水池，一般也都是死水，功能和鱼缸差不多，但观赏性无疑提高了许多。如位于北京东城区帽儿胡同的可园，花园主体的中心便砌有一形态自然的水池，面积虽然不大，但池水蜿蜒通向南边的假山山脚，似有源头活水一般，假山、游廊、亭桥、花厅皆围绕水池布置，使可园具有了几分江南园林的秀色，成为北京现存私家园林中的佼交者。
更多的北京庭院、私园则以建筑物和叠石为主题，辅以各种各样的树木、花草、藤蔓。老北京院中最常见的树种有:石榴，春华秋实，既美观又寓意吉祥，是子孙昌盛的象征;海棠，春华秋实，与玉兰共称玉棠富贵丁香，芬芳馥郁葡萄，既可遮阳纳凉，又是果品中的味。以上这些树种树型大都比较美观，高矮适度。夏天枝繁叶茂，可防止阳光直射室内;秋天果实累累，可以尝鲜;冬天落叶，使室内阳光充足。
此外槐树和枣树也是老北京人家常见的树种，不仅因为槐花香、红枣甜，而且还有封侯拜相的美意。《周礼》 中记载有三槐九棘的制度:“ 掌建邦外朝之法。左九棘，孤卿大夫位焉，群士在其后:右九棘，公侯伯子男位焉，群更在其后面三槐，三公位焉，州长众庶在其后。”也就是说，在朝庭中种上左右两列各九棵枣树(古称棘)，正面种上三颗槐树，作为公侯将相群吏列位的标志。
至于草花，常见的有草茉莉、凤仙花、牵牛花、扁豆花、串红等。但是老北京的庭院绿化也有些忌讳，老北京人从不将松树、柏树、桑树、梨树种进四合院，因为松柏是阴宅种的树，桑与”丧“同音，而梨则意味着分离。解放以后，破除迷信，许多宅院也引种了松柏，虽然四季常青，但冬日遮挡室内阳光，实非上佳选择。
