Джон Герт народився 22 січня 1940 року у містечку Честерфілд, що неподалік від Манчестера. Перше сильне враження від акторської гри мав у віці 8 років, коли побачив у театральній постановці дікенсівського «Олівера Твіста» в ролі Фейгена видатного британського актора Алека Гінесса. Навіть у дорослі роки Гінесс залишався артистичним взірцем для Джона Герта за вміння перевтілюватися до невпізнання у кожній новій ролі. Іншим героєм ще з дитинства для Герта є американський кіноактор Джеймс Кегні, але у нього він навчився та перейняв абсолютно протилежне. Зовнішність Кегні від ролі до ролі залишалася майже незмінною, але він раз у раз створював портрети людей з відмінним внутрішнім світом. Це лише механічне пояснення двох різних підходів до створення образу, але сам Герт хоч і зазнав впливу кожного з них, загалом не визнає будь-яких акторських шкіл та методів.
Після закінчення школи Герт збирався стати художником і навчався по відповідному профілю у Мистецькій школі Грімсбі та Школі мистецтв Сент-Мартін. Але потім, віддавши перевагу іншому своєму дитячому захопленню, обрав акторський фах і закінчив Королівську академію драматичного мистецтва. Його дебют у кіно й театрі відбувся майже одночасно — 1962 року. Протягом всієї кар'єри актор віддає перевагу виступам у кіно та на телебаченні, хоча у 1966—1967 роках з успіхом виступав у рамках Королівської Шекспірівської трупи у відповідному репертуарі.
У перші роки своєї кар'єри актор виконував ролі енергійних, забіякуватих молодиків, проте внутрішньо слабкодухих. Першу помітну роль створив у фільмі режисера Фреда Ціннеманна «Людина на всі часи». Його герой Річард Річ настільки слабкодухий, що скочується до зради, але все ж не викликає зневаги у глядачів.
Вперше міжнародне визнання Герт здобув 1975 року за зворушливу роль невдахи-гомосексуала у телевиставі «Голий служник», за яку отримав нагороду Британської кіноакадемії. Ширша публіка познайомилася з актором завдяки телесеріалу «Я, Клавдій». Пізніше він ще двічі отримував цю найвищу кінонагороду Великої Британії за ролі у фільмах «Опівнічний експрес» та «Людина-слон». За ці два фільми він двічі номінувався на «Оскара», але жодного разу не став лауреатом цієї нагороди.
У стрічці режисера Алана Паркера «Опівнічний експрес» він створив портрет Макса, скандинава, який потрапив до турецької в'язниці й там утікає в наркотичний дурман від жорстокості навколишнього світу. А в фільмі авангардиста Девіда Лінча «Людина-слон» він створив дивовижний портрет Джона Мерріка, людини м'якої й привітної, але зі спотвореною від хвороби головою. Тому оточення або ж з жахом дивляться на каліку, або знущаються з нього.
У стрічці 1984 року режисера Стівена Фрієрса «Стукач» Герту навіть дісталася роль найманого вбивці. Але актор, при всьому його таланті, на такого не скидався. Герт робив спроби (або ж його вмовляли режисери) випробувати свої сили в комедійних ролях — це йому вдавалося більше. Так, він виконав роль Ісуса Христа у комедії Мела Брукса «Всесвітня історія». Але й до останнього він віддавав перевагу ролям меланхолійного характеру.
У 2013 році зіграв у культовому серіалі Доктор Хто, де виконав роль темного втілення головного персонажа.
За свою кар'єру у кіно Джон Герт відзначився різноманітністю смертей зіграних персонажів.
Був одружений чотири рази: з 1962 і до 1964 року його дружиною була акторка Аннетта Робертсон, з 1984 і до 1990 року був одружений також з акторкою Донною Пікок, а того ж 1990 року одружився з асистенткою продюсера одного з його фільмів Джо Долтон, з якою розлучився у 1996 році. У 2005 році одружився з Анвен Різ-Маєрс і був одружений аж до самої смерті.
