Рудольф Мате народився в єврейській родині в Кракові (в той час Австро-Угорщина, тепер Польща), закінчив Університет Будапешта.
Почав кінокар'єру в 1920 році як асистент оператора в Угорщині, а потім в інших країнах Європи, співпрацював з німецьким режисером Карлом Фройндом. Працював оператором фільмів данського режисера Карла Теодора Дреєра «Страсті Жанни д'Арк» (1928) і «Вампір», обидві картини відрізняло видатне візуальне рішення. З середини 1930-х працював у Голлівуді. Серед найкращих операторських робіт Мате в Голлівуді — «Іноземний кореспондент» (1940), «Леді Гамільтон» (1941), «Бути чи не бути» (1942), «Сахара» (1943), «Дівчина з обкладинки» (1944), «Гільда» (1946).
З 1947 року почав працювати режисером. Його фільмографія включає фантастичний фільм «Коли світи зіткнуться» (1951), класичний нуар «Мертвий після прибуття» (1950) і пеплум «Триста спартанців» (1962).
Помер у Голлівуді у віці шістдесяти шести років від інфаркту міокарда, похований на Цвинтар Святого хреста (Калвер-Сіті) Каліфорнія.