Baigęs gimnaziją įstojo į Maskvos universiteto juridinį fakultetą ir 1916 m. apgynė teisininko diplomą. Studentaudamas žavėjosi teatru ir rašė linksmus ir pašiepiamo tipo eilėraščius. Rusijoje besiplečiantys neramumai priverčia J. Švarcą keisti savo nusistatymus. Jis išvyko į Rostovą ir iki 1921 m. dirbo teatro dirbtuvėse. Po to persikėlė į Peterburgą ir, nutraukęs ryšius su teatru, suartėja su literatūrine grupe, kuri buvo pasivadinusi „Serapino broliais“. Šioje grupėje jau buvo Zoščenka, Ivanovas, Kaverinas ir kiti žinomi veikėjai. 1923 m. Bachmuto miesto laikrašty „Kačegarka“ pasirodė J. Švarco satyrinės eilės ir feljetonai. Vėliau kartu su M. Slonimskiu leidžia literatūrinį žurnalą „Zaboi“.
