Był kanadyjskim piosenkarzem i autorem tekstów, poetą i powieściopisarzem. Tematy często poruszane w jego twórczości obejmują wiarę i śmiertelność, izolację i depresję, zdradę i odkupienie, konflikty społeczne i polityczne, a także miłość seksualną i romantyczną, pożądanie, żal i stratę. Został wprowadzony do Canadian Music Hall of Fame, Canadian Songwriters Hall of Fame oraz Rock and Roll Hall of Fame. Został uhonorowany tytułem Companion of the Order of Canada, najwyższym odznaczeniem cywilnym w kraju. W 2011 roku otrzymał jedną z Nagród Księcia Asturii w dziedzinie literatury oraz dziewiątą Nagrodę Glenna Goulda.
Cohen kontynuował karierę jako poeta i powieściopisarz w latach pięćdziesiątych i na początku lat sześćdziesiątych, a karierę muzyczną rozpoczął dopiero w 1966 roku. Jego pierwszy album, Songs of Leonard Cohen (1967), został poprzedzony trzema kolejnymi albumami z muzyką folkową: Songs from a Room (1969), Songs of Love and Hate (1971) i New Skin for the Old Ceremony (1974). Jego płyta Death of a Ladies' Man z 1977 roku, której współautorem i producentem był Phil Spector, była odejściem od wcześniejszego minimalistycznego brzmienia Cohena.
W 1979 roku Cohen powrócił z bardziej tradycyjnymi Recent Songs, które łączyły jego akustyczny styl z wpływami jazzowymi, wschodnioazjatyckimi i śródziemnomorskimi. Najsłynniejsza piosenka Cohena, "Hallelujah", została wydana na jego siódmym albumie, Various Positions (1984). I'm Your Man z 1988 roku oznaczał zwrot Cohena w kierunku syntezatorowych produkcji. W 1992 roku Cohen wydał swoją kontynuację, The Future, która zawierała mroczne teksty i odniesienia do niepokojów politycznych i społecznych.
Cohen powrócił do muzyki w 2001 roku, wydając Ten New Songs, wielki hit w Kanadzie i Europie. Jego jedenasty album, Dear Heather, ukazał się w 2004 roku. W 2005 roku Cohen odkrył, że jego menadżer ukradł większość jego pieniędzy i sprzedał jego prawa wydawnicze, co spowodowało powrót do koncertowania w celu odzyskania strat. Po udanej serii tras koncertowych w latach 2008-2013, Cohen wydał trzy albumy w ostatnich latach swojego życia: Old Ideas (2012), Popular Problems (2014) i You Want It Darker (2016), z których ostatni ukazał się trzy tygodnie przed jego śmiercią. Jego pośmiertny, piętnasty i ostatni album studyjny Thanks for the Dance ukazał się w listopadzie 2019 r.
W 2023 r. Rolling Stone umieścił go na 103. miejscu listy "200 największych piosenkarzy wszech czasów".