Японский сад располагается примерно в полукилометре к северо-западу от базилики святого Сатурнина. Его созданием город обязан Пьеру Боди, мэру Тулузы с 1971 по 1983 годы, который был так восхищен японскими садами других городов во время своих путешествий, что в 1981 году решил обустроить такой сад и в Тулузе.
Территориально японский сад является частью общественного парка Compans-Caffarelli, но отделен от него живой изгородью. При создании сада архитекторы ориентировались на сады 14-16 веков в Киото. Японский сад Тулузы состоит из нескольких обособленных частей: это гербарий, чайный павильон и собственно ботанический сад, в котором представлено множество видов растений дальнего Востока. В японском саду можно найти островки, предназначающиеся для медитации, традиционный сад камней, стилизованные архитектурные элементы. Также в саду находится памятник Тайсену Дешимару, учредителю множества центров дзен в Европе в 70-ые годы.