Джон народився в Олд-Бетрейдж округ Нассау штат Нью-Йорк. Батько Флойд Янгс — страховий агент, під час Другої світової війни служив на Гуадалканал, мати Мюріель — домогосподарка. Сестри Робін і Гейл, брат Джим. Навчався в Американській академії театрального мистецтва. Після закінчення навчання, отримав свою першу роботу на Бродвеї в хорі.
Став відомим після того як виконав роль Стівена у фільмі режисера Майкла Чіміно «Мисливець на оленів» (1978). Грав у таких картинах, як «Цибулеве поле» (1979) Гарольда Беккера, «Волосся» (1979) Мілоша Формана, «Сальвадор» (1986) Олівера Стоуна, і «Хрещений батько 3» (1990) Френсіса Форда Копполи.
Протягом 6 років (1988—1994) з Нельсоном Манделою боровся проти апартеїду у Південній Африці.
Джон Севедж був одружений зі Сьюзен Янгс з 1967 по 1969 рік, у них народилися син Лаклан і дочка Дженніфер. У 1993 році одружився з Санді Шульц.