Vzniklo pravděpodobně v 11. nebo 12. století při zemské obchodní stezce z Prahy do Německa a Polska. Po vypálení města lužickými vojsky obnovil městská práva král Vladislav II. Jagellonský roku 1501 a udělil krásný, honosný městský znak. Jedinými prameny, které nám o našem městě té doby něco říkají, jsou soudní spisy ze 16. století, které však jen prozrazují, že v tehdejším Brodě byl železný hamr, pivovar, dvě hospody, kostel s věží a dva mlýny. Výkopy při kladení kanalizace v nejnovější době potvrzují, že původní městečko leželo přímo pod kostelem na nynějším Malém náměstí a v jeho nejbližším okolí. Podrobný urbář Vartenberský z roku 1608 uvádí 21 hospodářů a 7 chalupníků, tedy celkem 28 usedlých rodin. Město se začalo rozšiřovat postupně z Malého náměstí směrem k Jirchářské a Železné ulici. V polovině 18. století se začínají objevovat domky i v dolení části Trávníků. Za kostelem se nachází pouze katovna. Během 16. století se zde rozšířilo železářství (od této doby se Brodu říká Železný).
Po vyčerpání nalezišť železné rudy a nedostatek dřeva byla těžba ukončena. V 17. století se objevují nová řemesla a vznikají cechy. Roku 1773 došlo v Železném Brodě k úřednímu číslování domů. Koncem 19. století se zde rozšiřuje sklářská výroba. Roku 1920 je otevřena první česká odborná škola sklářskoobchodní. Tím se Železný Brod stává městem skla a skleněné bižuterie, což ho proslavilo po celém světě. Malé náměstí může být výchozím bodem pro procházku po „Trávníkách“, souboru chráněných památek lidové architektury ve vesnické památkové rezervaci. Vedle dřevěných roubených chalup zde najdeme i zděný empírový dům zvaný Grosovsko z poloviny 19. století. V největším a nejkrásnějším roubeném stavení zvaném „Běliště“ je umístěna národopisná expozice městského muzea. Sklářské muzeum se nachází na náměstí 3. května v domě označovaném jako Klemencovsko, jehož průčelí je vestavěno do moderní budovy spořitelny. V něm můžete mimo jiné shlédnout tavené skleněné plastiky světoznámých výtvarníků Libenského a Brychtové.
Nejstarší částí města je Malé náměstí, kterému vévodí na kostelním vršku kostel sv. Jakuba Většího s dřevěnou šindelovou zvonicí a kostnicí z roku 1761. Kostelík svatého Jana Nepomuckého na Poušti, vystavěný roku 1769, shlíží do údolí města. Pod jeho kaplí byla později zřízena hrobka rodu Desfoursů. Po rozsáhlých opravách budovy byly obnoveny tradiční poutě doprovázené bohatým programem.