Hartmannas, kurio tėvas taip pat buvo tapytojas, o brolis – tapytojas, 1924–27 m. mokėsi pas Josephą Haasą Akademie der Tonkunst Miunchene, o jam vadovavo Hermannas Scherchenas. Kai naciai įgijo valdžią, jis atsisakė, kad jo muzika būtų grojama Vokietijoje, o karo metu liko „vidinis tremtinys“. Hartmannas 1941–1942 m. privačiai mokėsi pas Antoną Weberną. Po karo jo paskyrimas Bavarijos valstybinėje operoje Musikdramaturg ir festivalio „Musica Viva“ koncertų įkūrimas Miunchene padėjo atgaivinti muziką Vokietijoje. Jis tapo įtakingu ir palaikė Hansą Vernerį Henze, tapo Dallapiccola draugu. Nors Hartmannas gavo keletą pagyrimų ir buvo pakviestas į profesoriaus pareigas, jis nusprendė likti Miunchene. Nepaisant jo įtakingos padėties, jo atsidavimas simfoninei formai buvo laikomas pasenusiu jaunosios kartos ir šiandien vis dar nepakankamai vertinamas.
