Był litewsko-białoruskim artystą żydowsko-francuskim, znanym przede wszystkim jako rzeźbiarz, malarz i litograf.
Pochodził z Żałudaka koło Lidy (obecnie Białoruś) i przyjaźnił się zarówno z Chaïmem Soutine'em, jak i Michelem Kikoine'em. Studiował rzeźbę na Akademii Sztuk Pięknych w Wilnie. Stał się celem pogromów, ponieważ był Żydem i uciekł do Paryża w 1912 roku. W Paryżu Kremegne dołączył do grupy malarzy Montparnasse i wkrótce stał się jednym z szanowanych mieszkańców La Ruche. W 1915 roku porzucił rzeźbę, by poświęcić się malarstwu. To on zachęcił Soutine'a do przyjazdu do Paryża. W Montparnasse poznał kilku innych wybitnych żydowskich malarzy Szkoły Paryskiej, w tym Isaaca Frenkela i Michela Kikoine'a.
Opuścił Paryż i zamieszkał w małym miasteczku w Pirenejach o nazwie Ceret. Miejscowość ta, położona nieco w głębi lądu od Collioure, przyciągnęła innych malarzy, takich jak Soutine. Chociaż Soutine nie lubił tego miasta, ukończył tam wiele obrazów w ciągu kilku lat. Nigdy się tam nie osiedlił, ale jego rodak Kremegne zbudował tam dom około 1960 roku. Ten mały, skromny dom, będący odzwierciedleniem samego artysty, jest położony w górach i wychodzi na wioskę.
Między dwoma mężczyznami doszło do konfliktu, być może wynikającego z niewdzięczności okazanej przez Soutine'a wobec wspólnego "mecene" lub dobroczyńcy, który pomógł dwóm zubożałym artystom podczas ich wczesnej kariery w Paryżu. Dom Kremegne'a ma nowych lokatorów i nazywa się La Miranda del Convent. Później Ceret miał przyciągnąć innych malarzy, takich jak Picasso. Spacer Picassa wije się obok domu Kremegne'a, a Ceret ma ważne muzeum wystawiające artystów takich jak Matisse, Picasso i inni. Znajduje się tam również kilka obrazów Kremegne'a.