Перший музичний досвід Легран перейняв від свого батька Раймонда Леграна, керівника одного з оркестрів вар'єте. Мама Леграна — Айкануш-Марсель Тер-Микаелян, була піаністкою. У 1952 році закінчив Паризьку консерваторію і відправився в турне по США.
З кінця 1950-х років почав писати музику до голлівудських фільмів, що принесло йому світову славу. Найвідоміший його твір — музика до фільму «Шербурзькі парасольки» (1964). 12 разів нагороджений премією Оскар, три рази премією Сезар, 12 разів Золотим Глобусом та 5 премій Ґреммі. Автор музики до 200 фільмів.
Як джазовий піаніст працював з музичними творами Джанго Рейнхарда і Бікса Бейдербека. У 1958 році записав альбом з Дональдом Бірдом, Джоном Колтрейном і Беном Вебстером. У 1978 році записав альбом «Le Jazz Grand», в 1991 — «Dingo», за який був нагороджений премією Ґреммі.
Паралельно виступає як диригент і академічний піаніст. Окрім цього, спільно з іншими композиторами він написав «The Windmills of Your Mind (Вітряні млини твоєї свідомості)» для фільму «Афера Томаса Крауна», яка отримала «Оскар» і «Золотий глобус» як краща пісня.
Композитор працював з режисерами Жан-Люком Годаром, Жаком Демі та іншими. Після смерті у 2009 році композитора Моріса Жарра Мішель Легран став найвідомішим.
26 січня 2019 року у Франції помер на 87-му році життя. Його серце перестало битися в Парижі, проте інші подробиці смерті Леграна не наведені.
