Był amerykańskim autorem tekstów, piosenek i piosenkarzem, a także dyrektorem wytwórni płytowej, który współtworzył Capitol Records z biznesmenami z branży muzycznej Buddy DeSylvą i Glennem E. Wallichsem.
Najbardziej znany jest jako autor tekstów Tin Pan Alley, ale komponował także muzykę i był popularnym piosenkarzem, który nagrywał własne piosenki, a także piosenki napisane przez innych od połowy lat trzydziestych do połowy lat pięćdziesiątych. Piosenki Mercera były jednymi z najbardziej udanych hitów tamtych czasów, w tym "Moon River", "Days of Wine and Roses", "Autumn Leaves" i "Hooray for Hollywood". Napisał teksty do ponad 1500 piosenek, w tym kompozycji do filmów i przedstawień na Broadwayu. Otrzymał dziewiętnaście nominacji do Oscara i zdobył cztery Oscary za najlepszą piosenkę oryginalną.