W 1977 roku Robben Ford zebrał grupę doświadczonych muzyków sesyjnych, aby nagrać swój album The Inside Story. Trio muzyków, w skład którego wchodzili klawiszowiec Russell Ferrante, basista Jimmy Haslip i perkusista Ricky Lawson, wkrótce odkryło pewną "chemię" i muzyczne powinowactwo, które doprowadziło do powstania Yellowjackets. The Inside Story był głównie instrumentalny, a wytwórnia Robbena Forda chciała, aby nagrał kolejny album, który byłby bardziej popowy i zorientowany na wokal. Grupa, znana jako Robben Ford Group, wolała podążać drogą instrumentalną i powstał "zespół w zespole". Ta sama grupa z Robbenem Fordem na gitarze nagrała cyfrowe demo, które ostatecznie zostało zaakceptowane przez Warner Brothers i narodził się Yellowjackets. Podczas gdy wkład Robbena zmniejszył się z biegiem lat do bycia gościnnym artystą, grupa znana jako Yellowjackets rozkwitła.
Debiutancki album Yellowjackets wywołał poważne fale w jazzowym radiu, zdobywając uznanie publiczności i krytyków. Mirage A Trois poszedł w jego ślady. Po krótkiej przerwie na realizację innych projektów, zespół zebrał się ponownie na Playboy Jazz Festival w 1984 roku, dodając perkusistę Paulinho Da Costę i nowego lidera, saksofonistę Marca Russo. Ten przełomowy koncert utorował im drogę do ostatecznego sukcesu zarówno na listach przebojów Billboard Jazz, jak i w salach koncertowych na całym świecie, i zaowocował trzecim pikantnym albumem Yellowjackets Samurai Samba. W 1986 roku grupa przeniosła się do MCA Records, aby nagrać Shades, tytułowy utwór został napisany przez Donalda Fagena (znanego ze Steely Dan) jako hołd dla wielu "odcieni", które słyszał w muzyce grupy.
W albumie Four Corners Ricky Lawson odszedł, aby dołączyć do zespołu koncertowego Lionela Richiego i został zastąpiony przez wszechstronnego Williama Kennedy'ego. Ten solidny skład zabrał Yellowjackets na nowe terytorium, eksplorując światowe beaty i gęsto zaludnione krajobrazy dźwiękowe, które odzwierciedlały rosnącą dojrzałość ich muzyki. Politics, następca Four Corners, złagodniał, a grupa pozbyła się niektórych elementów elektronicznych i zaczęła eksplorować akustyczne dźwięki. Ostatnie nagranie Marca Russo z Yellowjackets, The Spin, zostało zarejestrowane w Oslo w Norwegii przez znanego inżyniera Jana Erika Kongshauga (dobrze znanego ze swojej pracy w wytwórni ECM), a Jackets udowodnili, że mogą pasować do akustycznego jazzu z najlepszymi! Russo stał się stałym członkiem The Doobie Brothers.
Greenhouse zapoczątkował nową erę. Po odejściu Marca, trio Yellowjackets nagrało jeden ze swoich najbardziej ryzykownych albumów do tej pory, na którym pojawił się znakomity aranżer big bandowy i saksofonista Bob Mintzer w wielu utworach, a także akompaniamenty smyczkowe w kilku innych. Wkrótce potem Bob Mintzer stał się pełnoprawnym członkiem Yellowjackets. The Jackets nagrywali również w jednym z projektów dmp Records Boba Mintzera, One Music. Live Wires uchwycił grupę na koncercie z Mintzerem na czele. Dwa kolejne albumy, Like A River i Run For Your Life, odzwierciedlały rosnące zainteresowanie akustycznym jazzem.
Dzięki Dreamland z 1995 roku, Yellowjackets powrócili do swojej pierwszej wytwórni płytowej, Warner Brothers, tworząc swoje najbardziej zrelaksowane i relaksujące nagranie do tej pory. Blue Hats jest bardziej spontaniczny niż jego poprzednicy, bogaty muzycznie i szczególnie odkrywczy w pokazywaniu, jak Yellowjackets ewoluowali od czasu tego przełomowego pierwszego albumu. Club Nocturne osiąga wielką popularność dzięki gościnnym wokalistom Kurtowi Ellingowi, Jonathanowi Butlerowi i Brendzie Russell.
Na początku 1999 roku William Kennedy opuścił Yellowjackets, aby realizować inne zainteresowania, a Peter Erskine dołączył do grupy na pozostałą część roku. Peter grał z Bobem Mintzerem na niektórych nagraniach jego big-bandów i małych grup, więc było naturalne, że zostanie jednym z Yellowjackets. Niestety, napięty harmonogram Erskine'a kolidował z harmonogramem zespołu i pod koniec roku odszedł, nie nagrywając z grupą żadnego albumu.
Na początku 2000 roku Yellowjackets ponownie stali się trio, z Russellem, Jimmym i Bobem używającymi różnych perkusistów, którzy kontynuowali trasy koncertowe przez cały rok. Dwóch świetnych perkusistów, z którymi współpracowali to Marcus Baylor i Terri Lynn Carrington. W 2000 roku nastąpiła również zmiana kierownictwa zespołu, a długo oczekiwane (i długo opóźniane) solowe nagranie Jimmy'ego, Red Heat, zostało wydane później latem.
W 2001 roku zespół samodzielnie wydał kluczowe nagranie Mint Jam na żywo, z Marcusem Baylorem, który stał się pełnoetatowym perkusistą zespołu. The Jackets podpisali umowę z wytwórnią HeadsUp International i wydali Time Squared, świąteczne wydawnictwo Peace Round i Altered State. Nagranie 25 było retrospektywą pierwszego ćwierćwiecza Jackets jako grupy, zawierającą zarówno CD, jak i DVD. Lifecycle z 2008 roku zawierało specjalnego gościa Mike'a Sterna na gitarze i było ostatnim nagraniem Marcusa Baylora z grupą.
2011 rok przyniósł powrót Willa Kennedy'ego do Jackets i przejście do wytwórni Mack Avenue Records w celu nagrania Timeline. Członek-założyciel Jimmy Haslip odszedł z Jackets w 2012 roku, a w 2013 roku do grupy dołączył basista Felix Pastorius, który nagrał płytę A Rise In The Road. Pod koniec 2015 roku do grupy dołączył basista Dane Alderson, który nagrał z Jackets płytę Cohearance z 2016 roku i Raising Our Voice z 2018 roku, na której gościnnie pojawiła się Luciana Souza.