Mohutná středověká městská hradba se silnou městskou zdí byla vybudována kolem celého dnešního města postaveného na vysokém skalním ostrohu. Tvar hradeb byl určen místními přírodními podmínkami, kdy jižní a západní strana byly chráněny příkrým srázem nad údolím Želetavky avšak sever a severovýchod se nachází na mírnějším svahu a z východu se rozkládá úzká rovinka. Proto právě v kritických místech, odkud hrozilo největší nebezpečí, bylo nutné hradbu zesílit. Příjezdní cesta k opevněnému městu pak byla řešena tak, aby přijíždějící byl nucen jet podél hradeb co nejdelší dobu. Ve své době se město pyšnilo titulem nedobytného města. Kromě silné městské zdi náležely k jemnickému opevnění ještě příkop, val, brány, barbakán a bašty. Hluboký příkop zvaný Jordán mohl být v případě ohrožení napuštěn vodou. Svůj obranný úkol plnil také tehdejší hrad vystavěný na jihovýchodní straně města. Městská hradba je většinou dvojitá, z východu pak trojitá. Velká brána byla pro zvýšení bezpečnosti trojdílná, do dnešních dob se z ní dochoval pouze okrouhlý barbakán, do kterého je dnes vestavěn přízemní dům. Soustava Velké brány byla zbořena po požáru v roce 1832, kdy v nastalém zmatku byla ucpána povozy a znemožňovala tak výjezd z hořícího města. Brána do města přes neschůdný západní terén vede přes tzv. Malou Branku s předsunutým opevněním čtyřúhelníkového barbakánu, do kterého jsou dnes vestavěn domky. Vnější goticky sklenutá branka, před kterou býval padací most, vedla do barbakánu. Přes most podklenutý dvěma vysokými průtoky se přichází ke goticky sklenuté brance vedoucí do města. Do vnější pravé straně branky je zazděná tzv. Kamenná panna.