Карл Ґруне народився 22 січня 1890 року у Відні. Навчався у Віденській консерваторії на факультеті театрального мистецтва. Як актор і режисер працював у багатьох австрійських театрах. З 1910 року був актором театру міста Будвайза. Потім працював у театрах в Регенсбурзі, Лайбасі, Чернівцях. В 1914 році з початком Першої світової війни пішов добровольцем на фронт. В результаті важкого поранення на якийсь час втратив мову. Після демобілізації приїхав до Берліна.
З 1918 року грав другорядні ролі в Німецькому театрі Макса Рейнгардта. У 1919 році почав працювати в кіно, спочатку як сценарист, потім режисер. Проте його багато ранніх фільмів не збереглися.
У 1923 році Ґруне зняв фільм про шахтарів Рурської області «Бурхлива погода», який був відмічений рисами натуралізму. Велику популярність здобув його фільм «Вулиця» (1923), в якому деякі прийоми експресіоністів поєднувалися з реалістичним зображенням життя великого міста.
У 1933 році Ґруне емігрував до Великої Британії, де продовжив працювати режисером і продюсером, а також художнім директором «Кепітол філм корпорейшн». Последние 30 Знімав історичні фільми, серед яких «Абдулла Проклятий» (1934), «Весілля в Корболі» (1935), «Блазень» (1936).