八世紀末に京都が都になると、古い地層の山に囲まれて庭石と景勝にめぐまれた庭園に最適の地である京都には、本格的な庭園が次々と誕生しました。貴族の寝殿造の住宅の南庭は敷地いっぱいが庭園となり、白砂が敷かれ、遺水（やりみず）と呼ばれる流れもつくられました。当時の公家の橘俊綱が書いたといわれる『作庭記』では、とくに立石（石組み）について「石の乞わんに従って石を立てる」とし、自然の石が人間に要求してくるのに従うという、日本独特の自然観と造園思想がみられます。平安中期（十世紀）以後になると、仏教の影響が強くなり、寺院の庭園が発展して極楽浄土の有様をこの世の庭に反映させた浄土庭園が生まれました。

十二世紀の末に禅宗が伝わり、鎌倉時代には禅宗の自然観で構成された禅寺の庭が誕生しました。室町時代の末頃から京都や堺では茶の湯が流行し、茶室の周りの庭には、自然の山間の趣を出そうと山の常緑樹を植え、飛石と手水鉢と石燈籠を用いるようになった茶庭が生まれました。手水鉢は低くつくばって手を洗い清める「つくばい」が主に用いられ、燈籠は夜の茶会の照明として、飛石は歩くために据えられました。

これらは実用のために始まりましたが、庭の景観にも大きく寄与するものとなりました。茶庭は露地（路地）ともいわれ、茶室への道を意味しています。手水鉢や石燈籠は古びたものが好まれ、風化して苔が生えた「わび」の姿が鑑賞されました。見る要素が強くなるとともに、築山をもうけ池や流れをつくり、石組みも見られるようになり、飛石には自然石だけでなく切石も用いられるようになりました。

茶庭の様式は江戸時代に確立しましたが、町人文化が栄えると大名の庭園は広い芝生をもった明るいものとなりました。書院の庭や茶庭が建物に従属する性格をもっていたのに対し、築山や池の周りを散策する回遊式庭園が主体となりました。石組みは多く用いないで、石を置く場合は「捨石」といって要所に一個だけを捨てたように配置することが行われ、比較的に丸みのある石はが好まれました。金沢の兼六園などが代表的です。

大正から昭和にかけては小庭園の時代となり、自然主義的な写景ではなく、枯山水の伝統を受け継いだ抽象的な庭が復活してきました。また、建物に付属した庭園に始まった造園技術は、都市公園・集合住宅の緑地・広場・道路などに応用され、新しい造形が試みられるとともに洋風和風さまざまな伝統的庭園の様式も融合して用いられています。