Zahrada navazuje na dům z východní a jižní strany. V minulosti zde stála budova bývalé synagogy, která se přímo napojovala na jihovýchodní nároží rabínského domu a byla s ním spojena vnitřním průchodem. Dnes je plocha z velké části zatravněná, porostlá na severní straně vzrostlými listnatými stromy. Na jižní straně zahrady nedaleko bašty městského opevnění se nachází stará studna. Na místě vypálené synagogy, přibližně uprostřed někdejšího hlavního sálu, roste velká hrušeň. Podél východního průčelí domu prochází od vstupní branky chodník, dlážděný masivními žulovými deskami.