Vītols, urodzony w Valmierze syn nauczyciela, rozpoczął studia kompozytorskie w 1880 roku w Konserwatorium w Sankt Petersburgu u Nikołaja Rimskiego-Korsakowa. Po ukończeniu studiów w 1886 roku pozostał w Konserwatorium, aby uczyć kompozycji i osiągnął rangę profesora w 1901 roku. Do jego uczniów należeli Nikołaj Miaskowski i Siergiej Prokofiew. Vītols był bliskim przyjacielem kolegów profesorów Aleksandra Głazunowa i Anatolija Liadowa; regularnie uczestniczył w "cotygodniowych piątkach" Mitrofana Bielajewa - regularnych spotkaniach wybitnych rosyjskich kompozytorów w domu Bielajewa. W tym czasie Belyayev był głównym wydawcą Vītolsa. Poza pracą akademicką, Vītols spędził również czas jako krytyk muzyczny dla St Petersburger Zeitung w latach 1897-1914.
W 1918 roku Vītols powrócił z Rosji do nowo niepodległej Łotwy, aby poprowadzić Łotewską Operę Narodową. W następnym roku założył pierwsze Łotewskie Konserwatorium Muzyczne, które później zostało przemianowane na Łotewską Akademię Muzyczną Jāzepsa Vītolsa na jego cześć, i prowadził tam zajęcia z kompozycji w latach 1919-1944. Jego najwybitniejszymi uczniami podczas jego kadencji byli Jānis Ivanovs, Ādolfs Skulte i Tālivaldis Ķeniņš. Pomagał również współzałożyć Łotewskie Towarzystwo Kompozytorskie w 1923 roku. W 1944 roku przeniósł się do Lubeki w Niemczech i mieszkał tam aż do śmierci w 1948 roku. Jego szczątki powróciły do Rygi w 1993 r. Vītols był aktywny nie tylko jako kompozytor, pedagog i dyrygent, ale także jako pianista i płodny krytyk muzyczny. Był członkiem łotewskiego bractwa studenckiego Fraternitas Lataviensis.
Jego muzyka chóralna, zwłaszcza Gaismas pils (The Castle of Light) jest bardzo popularna wśród łotewskich chórów i często znajduje się w repertuarze Łotewskiego Festiwalu Pieśni i Tańca. Utwory wokalne i chóralne Vītolsa są publikowane przez Musica Baltica Ltd w Rydze. Zmarł w Lubece.