Народився у єврейській родині. Його дід з боку батька володів процвітаючим універмагом в Сан-Франциско. Землетрус 1906 року знищив універмаг; він був добре застрахований, але страхова компанія збанкрутувала від наслідків землетрусу. Таким чином сім'я Лероя виявилася розореною. Для заробітку молодий Мервін продавав газети, брав участь як співак в шоу молодих обдарувань, потім у водевілях. Незабаром він разом зі своїм двоюрідним братом Джессі Ласкі відправився до Голлівуду.
Працював костюмером, асистентом оператора, потім брав участь у німому кіно як автор гегів і актор. У 1927 році дебютував як режисер фільмом «Нікуди йти».
У першій половині 1930-х поставив свої найуславленіші фільми — «Маленький Цезар» (1931), «Я — втікач-каторжанин» (1932), «Золотошукачі 1933 року» (1933). У 1938 році став главою MGM, де, зокрема, виступив продюсером і частково режисером фільму «Чарівник країни Оз». Завдяки Лерою здобули популярність такі актори, як Кларк Гейбл, Лоретта Янг, Роберт Мітчем і Лана Тернер.