Był amerykańskim autorem piosenek, kompozytorem teatralnym, autorem tekstów i scenarzystą. Był jednym z autorów piosenek odnoszących największe sukcesy w latach 50. na amerykańskich i brytyjskich listach przebojów. Był autorem musicali wystawianych na Broadwayu, w tym Carnival! (muzyka i teksty) i Funny Girl (teksty).
Merrill odegrał ważną rolę w amerykańskiej muzyce popularnej; choć nie potrafił grać na instrumencie muzycznym, wystukał na zabawkowym ksylofonie wiele przebojów lat 50-tych, w tym "(How Much Is) That Doggie in the Window?", "Mambo Italiano" i "If I Knew You Were Comin' I'd've Baked a Cake", a także napisał muzykę i teksty do kilku przedstawień na Broadwayu, w tym Funny Girl.
Merrill urodził się w Atlantic City w stanie New Jersey, a wychował w Filadelfii nad rodzinną fabryką słodyczy i fontanną napojów gazowanych. Jako nastolatek chciał zostać piosenkarzem i występował we wszystkich lokalnych konkursach talentów, a nawet pracował jako impresjonista-emcee w lokalnym domu burleski. Jego plany na karierę w show-biznesie zostały przerwane przez nadejście II wojny światowej, kiedy to został powołany do dywizji kawalerii konnej armii. Po wojnie Merrill przeniósł się do Hollywood, gdzie pracował jako reżyser dialogów dla Columbia Pictures, a podczas zdjęć do filmu został poproszony o napisanie kilku piosenek dla aktorki występującej w filmie, Dorothy Shay, która w tym czasie nagrywała album. Album Shay Park Avenue Hillbilly stał się hitem, który zapoczątkował karierę Merrilla. Wkrótce został zaproszony do współpracy z Alem Hoffmanem i Clemem Wattsem w celu napisania kilku piosenek. Stworzyli nowatorską piosenkę "If I Knew You Were Comin' I'd've Baked a Cake", nagraną w 1948 roku przez Eileen Barton. Był także współautorem piosenki Moon Mullican "You Don't Have to Be a Baby to Cry".