Начиная с эпохи Хэйан уход за садами был поднят на очень высокий уровень. Японский сад должен всегда представлять собой пейзаж как единое целое и до XVI в. не столько являлся воплощением вожделенной мечты о собственном садике, сколько представлял собой пейзажный сад, которым любовались обитатели дворца или загородной виллы. Одним из самых распространенных типов садово-паркового искусства является сад со скалами и озером (сан-су и), воды которого олицетворяют буддийский мировой океан и лежащий посреди него остров рая, «чистой земли» (дзёдо). Важнейшую роль в оформлении играют камни. Камни с острыми зубчатыми краями символизируют скалы; округлые, покрытые мхом — долины; галька и песок — дно реки, озера или моря. А вот цветы практически не имеют никакого значения, потому что быстро отцветают и разрушают ощущение вечности.

Существует широкий выбор возможностей в оформлении сада; начиная от натуралистического подражания природному ландшафту до закладки чуть ли не абстрактных садов, где земля, горы, озера и реки будут воссозданы почти или вовсе без растений - только с помощью камней и песка (карэ-сан-суи). В самый расцвет эпохи феодализма были заложены грандиозные, парковые по своему типу пейзажные сады, которые планомерно расширялись до размеров прогулочных парков.

Особыми формами являются дзэн-сад и чайный сад. Первый представляет собой небольшой, не предназначенный для прогулок абстрактный пейзажный сад, часто лишенный всякой растительности и располагающий к погружению в медитацию. Второй — это, скорее, узкая дорожка, ведущая к чайному домику, окаймленная небольшим числом растений, не дающих цветения, несколькими, как бы случайно разбросанными камнями, поросшими мхом, и старинными каменными фонарями; его назначение — вызвать у гостя ощущение тихой приглушенной красоты и подготовить его к внутреннему покою.