Był francuskim filmowcem. Uważany za duchowego ojca francuskiej Nowej Fali, był jednym z pierwszych w pełni niezależnych francuskich filmowców, którzy odnieśli komercyjny i krytyczny sukces. Do jego dzieł należą dramaty kryminalne Bob le flambeur (1956), Le Doulos (1962), Le Samouraï (1967) i Le Cercle Rouge (1970), a także filmy wojenne Le Silence de la mer (1949) i Army of Shadows (1969).
Na tematykę i podejście Melville'a do tworzenia filmów duży wpływ miała jego służba we francuskim ruchu oporu podczas II wojny światowej, podczas której przyjął pseudonim "Melville" jako hołd dla swojego ulubionego amerykańskiego pisarza Hermana Melville'a. Zachował go jako swój pseudonim sceniczny po zakończeniu wojny.
Jego oszczędne, egzystencjalistyczne, ale stylowe podejście do filmu noir i późniejszych filmów neo-noir, wiele z nich w dramatach kryminalnych, wywarło duży wpływ na przyszłe pokolenia filmowców. Roger Ebert ocenił go jako "jednego z największych reżyserów".