Theo quan niệm về Tôn giáo của người Nhật thời xưa thì sông, núi, biển, hồ, cây cối,… đều có Thần trong đó nên được đưa vào vườn để thờ cúng. Khi Phật giáo được du nhập, cực lạc với tượng Phật được tạo ra. Sau đó, triết học Phật giáo tạo ra vườn Thiền, vườn Trà, vườn Cạn, vườn Tsubo,… Các vị Lãnh Chúa thời đại Samurai tạo ra nhiều loại vườn khác nhau. Mặc dù gần đây ở Nhật đã không thấy thêm một số vườn lớn nhưng về cơ bản thì vườn Nhật vẫn được làm theophong cách truyền thống từ thời đại Samurai.

Thiết kế vườn của Nhật không dùng phương thức trình bày đối lập cân xứng cũng như không sử dụng đường thẳng, tam giác, tứ giác. Người ngắm sẽ có cảm giác tò mò, thú vị, muốn khám phá bởi cách bài trí đồ trong vườn không để lộ, đường thì uốn lượn, quanh co lên xuống. Đá thường được xếp chìm sâu trong đất, chỉ để lộ chỏm đầu, xung quanh trồng cỏ hoặc rêu.

Theo quan niệm của vườn Nhật thì hồ sẽ được lấy làm trung tâm, bên cạnh là núi và tiếp đến đảo, suối. Suối cạn, thác, vườn thiền, trà thất được thiết kế xung quanh, kết hợp với đường đi dạo, cầu đá hoặc cầu gỗ, … Cây hoa sẽ được trồng xung quanh để tạo nên không gian vườn Nhật độc đáo.

Để không gian thoải mái, nhìn bao quát được khung cảnh vườn thì đầu tiên làm hồ rộng. Điểm đặc biệt trong kiến trúc vườn Nhật chính là đá. Đá, sinh ra từ tự nhiên, được mài mòn bởi năm tháng, với mọi hình dạng thể hiện sự nguyên sơ nhất, thích hợp với một không gian yên tĩnh. Thưởng đá cũng chính là một thú vui tao nhã. Sau đá là nước, trừ dạng vườn khô Karesansui, nước hiện diện. Không gì mềm yếu như nước, không có gì mạnh mẽ hơn nước, cũng không có gì tĩnh lặng như nước. Bước qua cây cầu bắc ngang hồ nước, nối vào trà thất, ngắm nhìn đàn cá Koi, trước mắt là một bóng Tùng xanh, thiên nhiên vô ngôn nhưng luôn luôn rộng lớn.

Thâm trầm, điềm đạm, thanh cao, đó là những điều mà ta có thể nhắc tới khi nói về tùng, quan sát tùng. Trong lịch sử, tùng được xếp vào hàng tam kiệt: Tùng, Trúc, Mai và được các thi nhân và văn nhân yêu thích đưa vào trong các sáng tác của mình.

Vịnh Tùng, Lý Thương Ẩn có bài Cao Tùng với đôi câu thơ đầu: “Cao tùng xuất chúng mộc/ Bạn ngã hướng thiên nhai.” (Tùng cao vượt cây cỏ/Làm bạn với chân trời”); hay Vũ Mộng Nguyên thời nhà Lê có bài thơ viết về cây tùng cảnh với bốn câu mở như sau: “Thốn căn di tự lĩnh vân thâm/ Thác tích bồn trung trưởng lục âm/ Yển kiển đương song tài sổ xích/ Sóc sâm xuất hạm nhạ thiên tầm.” (Vốn xưa tấc gốc ở sơn lâm/ Nương náu trong bồn dưới bóng râm/ Trước cửa cằn còi vừa mấy thước/ Bên hiên nảy nở muốn nghìn tầm). Dù có tồn tại ở vùng núi cao sâu thẳm hay ở vùng thành thị, phải thác gửi nơi không gian chật hẹp thì tùng vẫn cứng cỏi. Điều này có thể được lí giải dựa vào hình thế và đặc tính của cây.

Thân tùng thẳng và cứng cáp, trừ tùng cảnh như tùng liễu ra thì hướng phát triển của loại cây này luôn vươn về phía bầu trời. Đặc biệt, càng sinh trưởng ở nơi lạnh lẽo, khắc nghiệt thì tùng càng vươn cao hơn, vượt khỏi các loại cây cối, hoa thảo, tùng lặng lẽ đón ánh nắng, bốn mùa xanh tươi, chẳng màng tới thế sự. Phong ba bão táp có nổi lên cũng không cúi đầu, cho dù phải chịu cảnh gẫy gập, ngã đổ. Bởi vậy, Tùng trở thành loại cây tượng trưng cho khí tiết của quân tử. Thêm vào đó, nhựa tùng còn có tác dụng chữa bệnh và là loại hương liệu quý.

Đối với vườn Nhật, tùng giữ một vị trí quan trọng. Kết hợp với đá, với nước, với rêu xanh, với phòng trà, tùng như một người đứng tuổi lặng lẽ ngồi đó, sẵn sàng trả lời những câu hỏi của hậu bối. Kinh qua năm tháng, tùng thu hút mọi linh khí trời đất, khiến cho khu vườn của chủ nhân trở nên tĩnh lặng, an bình. Đôi khi, chỉ ngắm một gốc tùng, mà ta có thể hiểu được thương hải tang điền.

Sự khác biệt giữa người phương Đông và người phương Tây có lẽ chỉ ở một từ: Tâm cảnh. Nếu như người phương Tây luôn muốn chinh phục thiên nhiên, để cho tự nhiên phục vụ mình thì người phương Đông lại mong muốn được hòa mình với cỏ cây, điểu thú, với vũ trụ, sản sinh ra trà, đạo, thiền.

Không phải ngẫu nhiên mà kiến trúc vườn Nhật ngày càng trở nên nổi tiếng và được ưa chuộng, áp dụng vào các công trình khác trên thế giới. Nếu như vườn (viên và uyển) của Trung Hoa cũng như Việt Nam thường ưa đưa vào trăm hoa, nghìn cỏ, lại nuôi thêm cả chim, thú thì vườn Nhật Bản lại đi vào sự chỉn chu và tối giản nhất có thể để quay về với tính hư vô, đậm tính thiền. Vườn Thiền với đá, cát; Vườn Trà với trà thất; Vườn đi dạo với con đường lát đá, Vườn nhỏ trong gia đình và vườn được sắp xếp trong công viên, chỉ từ một khu vườn nhỏ mà biến hóa thành muôn vàn cảnh trí, thể hiện sự sáng tạo cũng như óc chiêm nghiệm của người Nhật Bản.