Бенджамін Кубельский народився 14 лютого 1894 року в Чикаго, штат Іллінойс. Його дитинство і юність пройшла в сусідньому місті Вокіган. Батько — Меєр Кубельский, власник салуна, потім галантерейного магазину, польський єврей, який емігрував в США. Мати — Емма Сакс, емігрантка з Литви.
У віці шести років Бенні почав вчитися грі на скрипці, що стала згодом частиною сценічного образу. Батьки сподівалися, що він стане професійним скрипалем, але Бенні любив інструмент, але ненавидів вправи. Його вчителем був Отто Грем-старший, батько професійного гравця в американський футбол Отто Грема.
У 14 років Бенні грав на танцях і в шкільному оркестрі. Він відрізнявся неуважністю і в школі не встигав, в результаті чого був виключений зі старшої школи. Також Бенні не проявив здібностей у бізнес-школі, куди вступив згодом, і в роботі з батьком в магазині.
У 17 років він почав виступати зі скрипкою в місцевих театрах-водевіль, отримуючи за роботу 7,5 доларів на тиждень. В цей час його партнером став Нед Міллер, молодий композитор і співак, з яким у Бенні зав'язалася міцна дружба.
У 1911 році Бенні працював у тому ж театрі, що і молоді Брати Маркс. Мінні Маркс, їхня мати оцінила гру Бенні на скрипці і запросила виступати разом з синами. Однак батьки не відпустили сімнадцятирічного Бенні на гастролі. Тим не менш, в братами Маркс, особливо з Зепо, зав'язалися довгі дружні відносини.
В наступному році Бенні і піаністка Кора Сейлсбері організували дует. Їх поява на сцені призвела до того, що відомий скрипаль Ян Кубелик відчув загрозу своїй репутації з боку виконавця зі схожим ім'ям — Кубельскиий. Під загрозою судових дій, Бенджамін Кубельский змінив ім'я на Бен К. Бенні, іноді скорочуючи до Бенні. Коли Сейлсбері вийшла з дуету, Бенні знайшов нового піаніста, Лаймана Вудса, а свій номер назвав «Від опери до регтайма». Співпраця з Вудсом тривала наступні п'ять років, в їх виступи потроху почали проникати елементи комедії. Кульмінацією став виступ в театрі «Палас», «мецці водевілю», але публіка не була вражена.
В 1917 році Бенні на короткий час залишив шоу-бізнес, щоб вступити на флот під час Першої світової війни. Зі своєю скрипкою він часто розважав товаришів по службі. Але одного разу його виступ викликав невдоволені крики, і на прохання Пета О'Браєна, актора, який служив разом з Бенні, він видав комедійний експромт і з честю покинув сцену, залишивши публіку сміятися. Згодом Бенні став частіше використовувати гумор у виступах і заслужив репутацію і як музикант, і як комік.
Незабаром після війни Бенні придумав спектакль одного актора «Ben K. Benny: Fiddle Funology». За цим послідувала претензія з боку Бена Берні, що також поєднував у виступах текст і гру на скрипці, з приводу імені. Бенні у відповідь взяв собі прізвисько матросів — Джек. До 1921 році скрипка стає більше предметом антуражу, а шоу перетворюються в легку комедію.
У 1922 році Бенні разом з Зеппо Марксом був на святкування Песаха, де познайомився з Седі Маркс, на якій через п'ять років одружився. Коли Бенні знадобилася актриса на роль тупої дівчини, Саді зіграла цю роль, проявивши комедійний талант. Взявши сценічне ім'я Мері Лівінгстон, Саді виступала з Джеком протягом майже всієї кар'єри. Пара удочерила дівчинку.
У 1929 році агент Бені, Сем Лайонс, переконав Ірвінга Тальберга, кінопродюсера Metro-Goldwyn-Mayer, подивитися виступ Бенні в театрі «Орфей» у Лос-Анджелесі. В результаті Бенні підписав п'ятирічний контракт і дебютував у фільмі «Голлівудське рев'ю 1929 року». У наступному фільмі, Chasing Rainbows, він себе не проявив і через кілька місяців був звільнений від контрактних зобов'язань і повернувся на Бродвей в шоу Ерла Керролла Vanities.
Спочатку не бачачи перспектив у радіо, Бенні незабаром вирішив підкорити ефір. У 1932 році, після чотирьох тижнів виступів у нічному клубі, він був запрошений на радіопрограму Еда Саллівана, де виголосив перший жарт: «Говорить Джек Бенні. А зараз буде пауза, під час якої ви скажете „І що?“…».