Battezzato a Vienna nel settembre 1693, secondo figlio di Johann Bernhard Fischer von Erlach, Joseph Emanuel si formò nella bottega paterna, redigendo progetti e aiutando a completare il trattato inciso del padre sull'architettura universale. Quando il padre morì nel 1723 con la Karlskirche appena impostata sulle fondamenta, Joseph Emanuel prese in mano il cantiere e lo portò a termine nel 1737, insieme ad altri incarichi paterni rimasti incompiuti. Divenne architetto di corte imperiale nel 1722 e primo architetto di corte nel 1725, e nel 1735 fu elevato a Freiherr, soprattutto per i suoi meriti di ingegnere più che di costruttore. Dove il padre cercava l'effetto tettonico, Joseph Emanuel preferì facciate più piatte e razionali, visibili nella Scuola di Equitazione Spagnola della Hofburg, nella Biblioteca di Corte e nel Michaelertrakt. Morì a Vienna nel giugno 1742.