Thông thường, việc khó khăn nhất khi thiết kế một khu vườn nhỏ là quyết định nên đưa cái gì và không nên đưa cái gì vào.
Đối với khu vườn có quá nhiều cây, cùng nhiều kiểu dáng và kiểu chậu thì có thể khiến khung cảnh trở nên rối mắt và lộn xộn, khiến cho không gian vốn đã nhỏ lại càng nhỏ hơn nữa.
Trong khi đó, chỉ cần một cây dáng lớn, to bản cùng với đá sỏi và rêu bám đã có thể khiến không gian sân vườn trở nên hấp dẫn hơn dù chật hẹp.
Hiện nay, vật liệu để kiến tạo sân vườn ngày nay có sẵn với rất nhiều chủng loại và, nếu kết hợp khéo léo, tự chúng có thể trở thành một tác phẩm nghệ thuật.
Ở những nơi ẩm ướt, cần chú ý mặt sân có thể dễ trở nên trơn trượt: Chất chống thấm phủ trên mặt sân có thể trông rất tuyệt dưới ánh trời gay gắt bên hồ nước nhưng ở những khu vực râm mát, thiếu ánh sáng, nơi này có thể sẽ trở nên nhầy dính và khó chịu.
Hơn thế nữa, những nơi như vậy thường có “khí hậu” riêng của chúng và chúng ta có thể trồng được những loại cây bình thường không mọc bên ngoài.
Nếu khoảnh sân vườn chiếm vị thế trên cao, một giàn nho giăng ngang phía trên đầu sẽ tạo nên một chốn riêng tư mà ánh sáng vẫn có thể rọi vào: Một cảm giác Địa Trung Hải ngay trong lòng thành phố!
Mỗi vị trí trong khu vườn nhỏ cần phải bỏ công sức ra giữ gìn. Không gì thất sách cho bằng cứ để mặc một cây mọc um tùm, lấn chiếm hết không gian của sân hoặc cố giữ lại một cây đã trở nên cằn cỗi.
Chúng ta cần phải tận dụng tối đa mọi cây cối và những đặc điểm thú vị bên ngoài khu vườn của nhà mình. Những gì làm mất vẻ mỹ quan như các bức tường lem luốc, những đường ống nước ngang dọc lộn xộn, … chúng ta nên giải quyết ngay cho sạch sẽ, gọn gàng.
Những giàn cây leo nhiều màu sắc cũng có thể tạo nên những "kỳ quan" trên một bức tường thô kệch. Những giống cây chúng ta chọn lựa nên phát triển gọn khớp và cân xứng với nơi trồng chúng. Có thể giống cây này đòi hỏi nhiều thời gian hơn để lớn nhưng phần thưởng mà chúng mang lại chắc chắn sẽ xứng đáng hơn các giống cây phát triển nhanh vì sau này chúng ta không phải tốn công sức chăm sóc.
Một số nhà có không gian được quây kín, chỉ có thể tiếp cận bằng cửa sổ, nhưng nếu chúng ta thiết kế cẩn thận, chúng ta có thể dùng màu sắc và hoa văn của các loại vật liệu khác nhau để tạo cho không gian ở đó thêm thích thú và sinh động.
Có một số giống cây hầu như có thể mọc ở bất cứ điều kiện nào. Chỉ cần một chút ánh sáng lọt vào trong một hốc tối tăm là cây dương xỉ cũng có thể phát triển được và họ cây thường xuân cũng rất được trồng ở các góc kẹt bất tiện.
Trong không gian nhỏ, cây cối thậm chí có thể hiện diện một cách bất ngờ nếu chúng ta sử dụng vật liệu, nước và vải tuyn mỏng trong thiết kế để tạo ra những gì về thực chất chỉ xuất hiện ở những nơi khác.
Các vật trang trí, tượng mỹ thuật và chậu cảnh, các gương soi đặt đúng nơi, đúng chỗ, những bức tường sơn với các tông màu sáng đều có thể tạo ra những môi trường gây thích thú giúp chúng ta thêm phấn chấn và năng động.