Народився в єврейській родині, яка роком раніше перебралася до Палестини з Кам'янця-Подільського.. За рекомендацією Броніслава Губермана вирушив для навчання в Паризьку консерваторію, займався під керівництвом Карла Флеша, Джордже Енеску та Жака Тібо.
1939 року перебрався до Англії, де провів роки Другої світової війни, дебютував з Лондонським філармонічним оркестром і зробив перші записи для BBC.
У 1951 році повернувся до Ізраїлю. 1955 року зробив перше світове турне. З кінця 1960-х років живе у Франції.
1990 року Гітліс отримав звання Посла доброї волі ЮНЕСКО.
